跳到正文
arXiv Artificial Intelligence· Zimo Ji, Zongjie Li, Pingchuan Ma, Wenyuan Jiang, Yudong Gao, Shuai Wang·· 3 小时前AI 评分58

独立评测 Claude Code 自动模式权限门控:模糊授权场景下漏判率达 81.0%

Measuring the Permission Gate: A Stress-Test Evaluation of Claude Code's Auto Mode

AI 导读

研究者用 AmPermBench(128 条提示、覆盖四类 DevOps 任务和三个歧义维度)对 Claude Code 自动模式的权限门控做独立压力测试,在 253 个状态变更动作上测得端到端漏判率 81.0%(95% CI 73.8%-87.4%),远高于 Anthropic 在生产流量上报告的 17%。

来源:arXiv Artificial Intelligence · arxiv.org