arXiv Artificial Intelligence· Shaswata Mitra, Raj Patel, Subash Neupane, Sudip Mittal, Md Rayhanur Rahman, Shahram Rahimi·· 19 小时前AI 评分33
规则止于何处，法官始于何处：测量多智能体系统安全中的判断边界
Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security
AI 导读
研究将 LLM 多智能体系统（MAS）的防御组织为五项原则并实现为 DEFER1，包含 28 项检查的级联，能拦截的拦截、其余交给由四个 judge 组成的小组。在四个领域的独立测试中，攻击成功率从约 30.0% 降至约 3.0%，78% 被拦截的攻击由确定性检查处理；在安全运营领域仅四分之一提案到达 judge。风险评分审批门会错误批准多数攻击提案、却只批准少数合法提案。
来源：arXiv Artificial Intelligence · arxiv.org