arXiv Artificial Intelligence· Marius De Kuthy Meurers, Aaron Parisi, Bernd Bohnet·· 4 小时前AI 评分34
自我奖励的道德论证让语言模型更果断却更易被左右：一致性不等于有效性
Consistency Is Not Validity: Self-Rewarded Moral Argumentation Makes Language Models Decisive but Pliable
AI 导读
研究用自我评判的锦标赛式强化学习训练语言模型，让模型对自身生成的论证按质量两两打分，并在 MoralChoice、ELEPHANT 和 MORABLES 上测试。结果显示模型变得更果断、对选项呈现顺序更不敏感，但谄媚和重新框定仍威胁判断有效性。作者据此指出，顺序重排下的一致性可以在不提升道德判断力的情况下被优化出来。
来源：arXiv Artificial Intelligence · arxiv.org