奖励模型社会偏好评估研究扩展

2026年10月26日，一项发表于arXiv Artificial Intelligence的研究将奖励模型评估扩展到偏见、安全、道德与伦理推理四个社会性领域。研究由Gayane Ghazaryan、Esra Dönmez发布，发现标准基准上的高分可能掩盖社会行为差异：模型在回避部分刻板印象的同时会强化另一些，聚合偏见分数会掩盖这种相反倾向。更强的刻板印象回避还可能以牺牲上下文忠实性为代价，形成社会偏见缓解与语境敏感性之间的权衡。在广泛的奖励模型集合上，标准基准表现与社会对齐行为仅呈不一致的关联，即更强的奖励模型未必偏见更少。目前该研究处于论文发布阶段，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。