arXiv Artificial Intelligence· Diego Gosmar, Deborah A. Dahl·· 13 小时前AI 评分32
Sentinel Agents：为多智能体系统构建安全可信的智能体 AI 防护层
Sentinel Agents for Secure and Trustworthy Agentic AI in Multi-Agent Systems
AI 导读
论文提出 Sentinel Agents，作为监控 LLM 多智能体系统内部通信的专用安全层，通过规则检查、行为分析和 LLM 语义审查向 Coordinator Agent 报告并隔离异常智能体。
推荐理由模型分析
针对多智能体对话中单条恶意消息扩散的瓶颈，提出由规则、行为分析和LLM语义检查组成的监控层，并交由协调Agent执行隔离策略。在1000条合成消息上，Gemma 4 12B语义检查F1为0.86、误报率0.11，规则单独仅0.38；Qwen3 8B经阈值校准后留出集F1从0.56升至0.80。开发者可据此比较检测器组合与校准条件，但证据限于合成语料和本地模型，多轮中行为检查仍难区分合法重复与探测。
来源：arXiv Artificial Intelligence · arxiv.org