arXiv Artificial Intelligence· Liting Huang, Huizhi Liang, Yi Lei, Xingjun Ma, Varun Ojha·· 13 小时前AI 评分29
Debate-to-Deceive：用博弈论多智能体辩论攻击 LLM 事实核查
Debate to Deceive: Poisoning LLM's Fact-Checking via Game-Theoretic Multi-Agent Debate
AI 导读
研究者提出 Debate-to-Deceive（D2D）多智能体辩论框架，通过让智能体在进化博弈中自适应演化 Logos、Pathos、Ethos 三类修辞策略，生成语义连贯且能规避早期确认偏误的对抗段落，从而操纵 LLM 的事实核查判断。
推荐理由模型分析
D2D 把多智能体辩论用于生成对抗性事实核查文本，将修辞策略选择与具体文本生成解耦，并用演化博弈在紧凑策略空间中学习，缓解了单智能体反思的确认偏差和模板注入的脆弱性。在 FEVER、HealthVer、CLIMATE-FEVER、SciFact 四个基准上，作者报告其优于既有攻击并规避多数防御，可作为评估事实核查系统鲁棒性的红队基线；但结论限于论文实验设置，防御覆盖范围与真实部署效果仍需独立验证。
来源：arXiv Artificial Intelligence · arxiv.org