跳到正文
arXiv Artificial Intelligence· Jingwei Ni, Dmitry Abulkhanov, Vladislav Smirnov, Markus Leippold, Elliott Ash, Timothy Baldwin, Artem Shelmanov, Mrinmaya Sachan·· 3 小时前AI 评分34

BELT:从冻结 LLM 隐藏状态学习可复用表征,实现推理模型提前停止

Same Beliefs, Different Policies: Learning Reusable Representations for Early Stopping in LLM Reasoning

AI 导读

BELT 将结果预测与停止控制分离,从冻结 LLM 隐藏状态学习当前与未来答案的信念,再用线性停止策略控制推理何时终止。在五个 OOD 数学基准上,BELT 在 Qwen3-1.7B 和 OLMo-3-7B-Think 上分别减少 41% 和 51% 的生成 token 且不损失准确率,数学训练版本还可直接迁移到代码与智能体任务。

来源:arXiv Artificial Intelligence · arxiv.org