The Decoder· Manuel Uth·· 17 小时前AI 评分66
新研究:AI审计模型能发现多数Agent异常行为,但误报淹没人工复核
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
Anthropic Institute研究员Andy Hall复现并扩展了METR的研究,用GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8和Gemini 3.8 Flash审计MALT数据集中的人工标注日志。
来源:The Decoder · the-decoder.com