LoopQ：循环语言模型量化框架

2026年10月15日，arXiv Artificial Intelligence 报道了研究者 Rui Fang 等作者提出的循环感知训练后量化（PTQ）框架 LoopQ。该工作针对循环语言模型（LoopLMs）因重复复用共享 Transformer 块而对 PTQ 敏感的问题，通过循环感知激活缩放、跨循环状态对齐与轨迹感知校准来抑制误差累积。报道称，在 W4A4 量化下，LoopQ 在四个骨干模型上实现五任务平均准确率 67.8% 的平均相对提升，并在八组骨干-数据集组合上取得平均相对困惑度下降 75.2% 的保守估计。目前该事件仅有这一篇报道，尚无后续跟进或相互矛盾的说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。