跳到正文
The Decoder· Manuel Uth·· 17 小时前AI 评分66

新研究:AI审计模型能发现多数Agent异常行为,但误报淹没人工复核

AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds

AI 导读

Anthropic Institute研究员Andy Hall复现并扩展了METR的研究,用GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8和Gemini 3.8 Flash审计MALT数据集中的人工标注日志。

来源:The Decoder · the-decoder.com