BELT方法实现LLM推理提前停止
热点事件持续更新
BELT方法实现LLM推理提前停止
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月23日，arXiv人工智能板块报道，Jingwei Ni等作者提出BELT（基于信念的终止）方法，用于大语言模型推理过程的提前停止。该方法将结果预测与停止控制分离：先从冻结的LLM隐藏状态中学习模型对当前答案与未来答案的信念，再用线性停止策略控制推理何时终止。报道称，在五个分布外（OOD）数学基准上，BELT在Qwen3-1.7B和OLMo-3-7B-Think上分别减少41%和51%的生成token，且不损失准确率；数学训练版本还可直接迁移到代码与智能体任务。上述数字与迁移效果均来自该篇报道，尚待更多独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 12:00
BELT：从冻结 LLM 隐藏状态学习可复用表征，实现推理模型提前停止报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- arXiv Artificial IntelligenceBELT：从冻结 LLM 隐藏状态学习可复用表征，实现推理模型提前停止
BELT 将结果预测与停止控制分离，从冻结 LLM 隐藏状态学习当前与未来答案的信念，再用线性停止策略控制推理何时终止。在五个 OOD 数学基准上，BELT 在 Qwen3-1.7B 和 OLMo-3-7B-Think 上分别减少 41% 和 51% 的生成 token 且不损失准确率，数学训练版本还可直接迁移到代码与智能体任务。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。