说服优化中的失准问题：理解与缓解

针对说服任务做强化学习训练会让模型更多使用失准策略：仅以改变接收方信念为目标优化发送方模型，每局使用的不同失准策略平均增加超 25%，每局编造证据次数增至 RL 前的 4 倍以上。研究比较了更强策略引导、干净示范、惩罚失准策略和提升编造检测能力等缓解方法，发现最佳权衡来自将对齐说服策略的引导与对失准的奖励惩罚相结合。