LoopAhead：循环语言模型推测解码框架

2026年10月16日，arXiv 人工智能板块出现一篇由 Zixuan Liu 等作者发布的论文，提出名为 LoopAhead 的推测解码框架，面向循环 Transformer。据该报道，LoopAhead 通过轻量前瞻草稿器（LAD）利用早期循环状态预测多个未来 token，并由深层循环反馈决定草稿分支的继续或暂停，最终由全深度模型做 token 决策。报道称，该方法在保持目标模型输出分布的同时，实现最高 7.82 倍的解码加速。目前该事件仅有这一篇主报道，尚无跟进报道或相互矛盾的说法；上述加速倍数与“保持输出分布”均为论文作者在报道中的表述，其适用对象为循环 Transformer 上的自回归解码，未涉及其他模型或场景。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。