arXiv Artificial Intelligence· Liangjie Huang, Henry Peng Zou, Wei-Chieh Huang, Wooseong Yang, Yuwei Han, Philip S. Yu·· 2 小时前AI 评分52
研究:多智能体 LLM 讨论中隐藏信念崩塌的测量
Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions
AI 导读
研究测试了多智能体 LLM 讨论中同伴纠错假设的可靠性。在十智能体事实讨论中,无攻击者时仅 0.6% 的良性智能体最终接受错误答案,加入一个对抗智能体后升至 44.8%,三个则达 60.5%。与通常报告公开从众但私下不改的顺从研究相反,三个对抗智能体在场时,良性智能体在 51.6% 的暴露轮次中私下持有错误答案,但仅 19.7% 公开表示认同,且保留正确答案的智能体往往无法为其辩护。
来源:arXiv Artificial Intelligence · arxiv.org