arXiv Artificial Intelligence· Vahid Jebraeeli, Jonathon Romero, Yijin Wang, Adrian Chan, Jianbang Zhang·2026-10-20 12:00· 2 小时前AI 评分52

论文指出部分安全基准测的是训练所用「不安全」定义而非模型能力

Policy Is Not Capability: Some Safety Benchmarks Measure Which Definition of "Unsafe" You Trained On

AI 导读

arXiv 论文 Policy Is Not Capability 利用一次工业部署中同一批约 53k 提示词按两种操作定义各标注一次的机会，训练了架构、代码库和优化器族相同、两个模型规模的十个护栏模型。