arXiv Artificial Intelligence· Jinwei Hu, Youcheng Sun, Yi Dong, Xiaowei Huang·· 2 小时前AI 评分50
单句关系攻击可误导 LLM 智能体：18 个模型最高 80% 正确回答被翻转
The One-Pixel of Reasoning: One Truthful Relation Is Enough to Mislead LLM Agents
AI 导读
研究者提出 one-relation attack（ORA），通过定位证据与结论之间的关键隐含依据，用一句有来源支撑的话干预该关系，把智能体引向错误信念。在生物医学推理与漏洞检测任务、18 个模型上，best-of-10 攻击对闭源模型平均翻转 54.9% 的初始正确答案，对开放权重模型达 80.0%。
来源：arXiv Artificial Intelligence · arxiv.org