多智能体系统安全防御框架DEFER1研究

2026年10月15日，arXiv Artificial Intelligence 刊出 Shaswata Mitra 等作者的研究，将大语言模型多智能体系统（MAS）的防御组织为五项原则，并实现为 DEFER1（DEterministic-First Enforcement with Residual judgment）。该框架包含一个由 28 项检查组成的级联：能拦截的攻击由确定性检查直接拦截，其余交给由四个 judge 组成的小组判断。在四个领域的独立测试中，攻击成功率从约 30.0% 降至约 3.0%，其中 78% 被拦截的攻击由确定性检查处理；在安全运营领域，仅四分之一提案到达 judge。研究还报告，风险评分审批门会错误批准多数攻击提案，却只批准少数合法提案。目前该研究处于论文发表阶段，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。