arXiv Artificial Intelligence· Mar Gonz\`alez I Catal\`a, Haitz S\'aez de Oc\'ariz Borde, George D. Monta\~nez, Pietro Li\`o·· 18 小时前AI 评分31
熵动态何时能反映 LLM 推理正确性？研究提出逐步信息量假设 SIA
The Stepwise Informativeness Assumption: When Do Entropy Dynamics Track Reasoning Correctness in LLMs?
AI 导读
研究提出逐步信息量假设（SIA），要求能降低熵的推理前缀扩展在期望上提高有效答案概率，以此界定熵与正确性对齐的条件。作者指出下一 token 预测本身不保证这种对齐，而取决于训练方式如何将推理轨迹与正确答案耦合。在 GSM8K、ARC、SVAMP、MATH 四个基准及 base、指令微调、RL 训练的开源权重模型上，对齐随后训练增强，但任务难度超出模型能力时会减弱。
来源：arXiv Artificial Intelligence · arxiv.org