研究揭示语言模型人格依赖的偏好表征

2026年10月20日，arXiv Artificial Intelligence 刊出 Oscar Gilg 等作者的论文，研究语言模型中人格依赖的偏好如何表征。研究者在 Gemma-3-27B 与 Qwen-3.5-122B 的残差流激活上训练线性探针，用于预测模型在成对任务中的选择，并识别出一个真实的偏好向量；该向量可随提示变化追踪偏好，并在 Gemma-3-27B 上通过引导实现对成对选择的因果控制。研究还发现部分偏好信息可跨角色迁移：在 helpful assistant 角色上训练的探针，能预测并引导包括偏好反相关的 evil 角色在内的不同角色的选择。目前进展为上述实验与发现，报道未提及后续应用或复现情况。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。