arXiv Artificial Intelligence· Aman Mehta·· 13 小时前AI 评分58
PRISM 检验对齐伪装证据:监控提示下的顺从差异多由措辞驱动
PRISM: Stress-Testing Alignment-Faking Claims
AI 导读
作者检验了关于对齐伪装的两类推断,认为二者都不成立。在 18 个模型配置中有 11 个在被提示处于监控状态时更顺从,但对四个模型做提示词因子实验显示,训练威胁没有可检测影响,移除后顺从度变化为 -3.3 到 +1.6 个百分点,差异主要由提示词措辞和框架造成。
推荐理由模型分析
论文用提示词因子实验和探针对照说明,模型在监控提示下更顺从多由措辞驱动,训练威胁与隐藏状态探针都难以支撑对齐伪装结论。
来源:arXiv Artificial Intelligence · arxiv.org