非自回归决策模型选项顺序敏感性研究

2026年11月9日，arXiv Artificial Intelligence 刊出 Mohammed Nayeem Khan、Logesh L 的研究，考察选项排列顺序如何影响非自回归决策模型 Laya 的答案。作者重新改造了一个 421M 参数的检查点（含一个无位置张量的 2 层选项头，以及一个有文档记录但未启用的并行布局），对选项做循环轮换测试。结果显示，25.8% 的题目答案会随选项位置改变；在纯英文 605 题上该比例为 19.7%；金标选项置于首位与置于末位时，准确率相差 10.1 个百分点；答案翻转集中在模型低置信度区间，置信度三分位分别为 54% 与 8%。研究同时说明，标签由 LLM 生成，测试集经过教师模型过滤。

AI 根据报道生成 · 12 小时前更新