研究者提出主动回顾学习框架增强长上下文理解

2026年10月26日，arXiv Artificial Intelligence 刊出研究，作者 Chenyu Hui 提出主动回顾学习（ARL）框架，用于提升大语言模型的长上下文理解能力。该框架包含两部分：在持续预训练阶段进行定向序列构建，在推理阶段进行回顾式摘要，使模型重访并总结前文内容。具体做法是，依据长、短前向上下文的损失差定位关键 token，找到最相关的前序段落，再由 LLM 生成摘要，从而在推理时形成跨段落的递归记忆机制。实验结果显示，ARL 在 RULER 基准上最高提升 129.7%，在 LongBench 上提升 11–13%。报道称代码已公开，论文共 6 页。目前该研究处于论文发布阶段，后续进展尚待跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。