研究揭示on-policy蒸馏在失败样本上失效

2026年10月15日，arXiv Artificial Intelligence 刊出 Shuo Yang 等作者的研究，考察 On-Policy Distillation（OPD）在学生失败题目上的训练效果。研究在统一竞赛数学协议下，用 Qwen-3 与 Phi-4 模型评测五种代表性 OPD 机制。结果显示，当训练仅集中于学生当前做错的题目时，OPD 无法提升准确率，多数机制反而使性能下降，尽管训练 KL 散度持续降低；全部八种配置均出现下降，双侧符号检验 p=0.0078。研究同时指出，同一流程在训练不集中于失败题目时准确率提升 4.6 个百分点，说明该失效取决于训练机制而非系统性缺陷。目前进展为单一研究报道，尚无后续跟进。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。