语言模型智能体的信念-行动鸿沟

研究在文本渲染网格世界中考察语言模型智能体的状态信念、行动价值与行动偏好如何交互。基于报告和表征的探针显示，任务相关的状态与价值信息往往被可靠地表征，却未体现在行为中；决策在承诺点附近收敛，报告的不确定性也随之下降。强制行动会跟随移植自其他决策的推理前缀，而对推理窗口的激活编辑对行动的控制有限。