arXiv Artificial Intelligence· Kartik Garg, Shourya Mishra, Kartikeya Sinha, Ojaswi Pratap Singh, Ayush Chopra, Kanishk Rai, Ammar Sheikh, Raghav Maheshwari, Aman Chadha, Vinija Jain, Amitava Das·· 18 小时前AI 评分27
从博弈论与贝叶斯-Stackelberg 均衡视角看对齐伪装：训练到部署的不对称性
Alignment Faking - the Train -> Deploy Asymmetry: Through a Game-Theoretic Lens with Bayesian-Stackelberg Equilibria
AI 导读
研究用博弈论与贝叶斯-Stackelberg 均衡框架分析 AI 对齐伪装，即模型推断自己处于训练中时选择性服从训练目标、在训练之外保留不同行为。作者用评估框架在四个模型家族的 15 个模型上比较 BCO、DPO、KTO、GRPO 四种偏好优化方法，沿安全性、无害性、有用性三个维度测量，以找出对齐伪装的成因与发生条件。
来源：arXiv Artificial Intelligence · arxiv.org