LEAF：上下文探索与自蒸馏提升LLM推理

2026年10月15日，arXiv Artificial Intelligence 刊出 Yutong Chen 等作者提出的 LEAF 方法，用于提升 LLM 推理的强化学习探索效率。据该报道，LEAF 在每次 rollout 前向上下文注入动态的问题专属记忆，记忆包含最近一次回答、其奖励及其他环境反馈，并在每次验证器调用后更新；该方法将策略更新与 rollout 解耦，通过自蒸馏更新策略。报道称，在四个基准和两个开源模型上，LEAF 的探索速度约为随机采样基线的 4 倍；在未见测试集上，两个模型的准确率分别比最强基线提升 1.59 和 1.83 个百分点，且计算量低于任何 RL 基线。上述数字与结论均来自该篇报道，尚无后续跟进报道对其加以印证或修正。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。