研究揭示护栏基准受标签策略定义影响

2026年10月20日，arXiv Artificial Intelligence 刊出 Vahid Jebraeeli 等作者的论文 Policy Is Not Capability，指出部分安全基准实际测量的是训练所用的「不安全」定义，而非模型能力。论文称，护栏分类器常被当作「不安全是文本自身属性」来报告，但作者认为不安全是策略的属性，策略通过标签进入模型。该研究利用一次工业部署中同一批约 53k 提示词按两种操作定义各标注一次的机会，训练了架构、代码库和优化器族相同、两个模型规模的十个护栏模型，用以考察标签策略定义对基准评分的影响。目前报道未给出具体评分差异数值或部署方信息，事件进展以该论文的发布与主张为主。

AI 根据报道生成 · 37 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。