arXiv Artificial Intelligence· Luca Zanolini·· 18 小时前AI 评分58
研究:AI 审批监控器的相关性失效
Correlated Failures of AI Approval Monitors
AI 导读
论文研究 AI 智能体执行付款、发消息或改代码前多个监控器的审批组合问题,指出共享基座模型或被投毒输入的监控器可能同时失效,并借用分布式计算的易故障系统概念来刻画这种共因失效。
来源:arXiv Artificial Intelligence · arxiv.org