arXiv Artificial Intelligence· Nimet Beyza Bozdag, Emre Can Acikgoz, Gokhan Tur, Dilek Hakkani-T\"ur·· 13 小时前AI 评分58
研究用强化学习训练说服者，揭示 LLM 易被单轮说服放弃正确答案
Learning to Persuade Exposes How Easily LLMs Abandon Correct Beliefs
AI 导读
论文提出对抗性说服框架，用强化学习训练说服者智能体在单轮交互中改变目标模型答案，对训练时被说服模型的成功率从约 24% 提升到 93% 以上。这些策略在四个分布外基准上保持 89-95% 成功率，迁移到未见模型时 Qwen-14B 为 83%、Llama-3.1-8B 为 79%、GPT-4o-mini 为 25%、GPT-5-mini 仅 4%。
推荐理由模型分析
论文用强化学习训练说服者，量化了单轮对话就能让模型放弃正确答案的程度，并给出不同模型被攻破的成功率差异。
来源：arXiv Artificial Intelligence · arxiv.org