arXiv Artificial Intelligence· Zhixiong Zhao, Zukang Xu, Xing Hu, Lifeng Liu, Guangyu Sun, Dawei Yang·· 18 小时前AI 评分24
LoopQuant:面向循环 Transformer 的精准高效训练后量化框架
LoopQuant: Accurate and Efficient Post-Training Quantization for Looped Transformers
AI 导读
LoopQuant 是面向循环语言模型(LoopLM)的循环感知训练后量化(PTQ)框架,通过跨循环分布规范化、交互感知的逐循环精度分配和循环条件任务校准三个组件,解决跨循环激活动态与递归误差传播问题。
来源:arXiv Artificial Intelligence · arxiv.org