跳到正文
arXiv Artificial Intelligence· Aman Mehta, Anupam Datta·· 18 小时前AI 评分35

LLM 智能体为何过早定型:诊断过早承诺问题

When Agents Commit Too Soon: Diagnosing Premature Commitment in LLM Agents

AI 导读

研究提出"表征承诺"指标,通过重复运行中同一步骤的隐藏状态相似度衡量 LLM 智能体行为何时稳定。在 Llama-3.1-70B 运行 ReAct 于 HotpotQA 上,第 4 步相似度越高,整条轨迹变异性越低(r = -0.35),该模式在另外两个模型和 StrategyQA 上复现。

来源:arXiv Artificial Intelligence · arxiv.org