arXiv Artificial Intelligence· Zhuoyun Li, Boxuan Wang, Jinwei Hu, Xiaowei Huang, Yi Dong·· 17 小时前AI 评分38
可审计的信念更新:LLM 多智能体系统缺失的安全层
Auditable Belief Updates as a Missing Safety Layer for LLM-Powered Multi-Agent Systems
AI 导读
论文提出显式信念多智能体系统 EB-MAS,将信念状态外化为结构化基底,由信念算子提出候选更新,并用认知防火墙限制或拒绝证据薄弱却受脆弱性线索驱动的更新。作者同时讨论群体层面的制造共识、串谋与级联错误信息风险,以及落地中的 grounding、误报、可扩展性与伦理滥用问题。其结论是,可扩展的智能体安全不仅需要更好的输出过滤或更强的基座模型,还需要在运行时追踪、校准和约束信念修正的显式接口。
来源:arXiv Artificial Intelligence · arxiv.org