arXiv Artificial Intelligence· Kaiming Liu, Fuwen Luo, Ziyue Wang, Jinrui Ju, Yuxuan Liu, Xuanyu Lei, Yunghwei Lai, Peng Li, Yang Liu·· 18 小时前AI 评分32
Illusion of Alignment：检测协作对话中的隐藏分歧
Illusion of Alignment: Detecting Hidden Disagreement in Collaborative Dialogue
AI 导读
研究提出"对齐幻觉"（IoA）概念，即协作对话表面达成一致但参与者仍存在目标或执行分歧，并通过生成诊断性选择题让隐藏分歧可被检测。构建的 IoA-Suite 覆盖五类任务和六个领域，最佳模型仅达 49.5% F1，基于该数据集训练的 IoA-Prober-8B 达到 51.8% F1。
来源：arXiv Artificial Intelligence · arxiv.org