arXiv Artificial Intelligence· Aman Mehta, Anupam Datta·· 18 小时前AI 评分35
LLM 智能体为何过早定型:诊断过早承诺问题
When Agents Commit Too Soon: Diagnosing Premature Commitment in LLM Agents
AI 导读
研究提出"表征承诺"指标,通过重复运行中同一步骤的隐藏状态相似度衡量 LLM 智能体行为何时稳定。在 Llama-3.1-70B 运行 ReAct 于 HotpotQA 上,第 4 步相似度越高,整条轨迹变异性越低(r = -0.35),该模式在另外两个模型和 StrategyQA 上复现。
来源:arXiv Artificial Intelligence · arxiv.org