arXiv Artificial Intelligence· Elias Hossain, Md Mehedi Hasan Nipu, Fatema Tuj Johora Faria, Shubhashis Roy Dipta, Maleeha Sheikh, Tasfia Nuzhat Ornee, Niloofar Yousefi·· 19 小时前AI 评分41
ChannelGuard：多智能体 LLM 中从借来的安全到应用可控防御
ChannelGuard: From Borrowed Safety to Application-Controlled Defenses in Multi-Agent LLMs
AI 导读
研究提出 CHANNELGUARD，一种应用可控的多智能体 LLM 防御方案，在每个信息交接处检查内容，无需额外训练或模型调用。在超过 5,700 次测试中，它拦截了五个模型上所有隐藏在工具输出中的攻击；在两个开源模型上，将成功的提示攻击从 80% 降至 3%、从 77% 降至 10%，且 30 道数学题准确率不变。但改写后的攻击仍可能绕过该防御。
来源：arXiv Artificial Intelligence · arxiv.org