DualOPSD：闭环教师反馈的自蒸馏方法

2026年10月15日，arXiv Artificial Intelligence 刊出由 Yutong Chen 等作者提出的 DualOPSD 方法。该工作针对 On-Policy 自蒸馏（OPSD），提出一种耦合的师生交替更新机制：学生保留 OPSD 的截断前向 KL 目标，特权教师则在学生每步更新后随之适应，并用基于冻结初始模型的残差目标保留特权上下文效果。报道称，在 Qwen3-8B/4B/1.7B 和三个数学基准上，DualOPSD 的 avg@12 准确率较 OPSD 提升 9.83 个百分点；诊断分析显示其双向 KL 更低、失配更少，且对特权参考的敏感性得以保留。报道注明代码已公开（Code is available at: this https URL）。目前该事件仅有这一篇主报道，尚无后续跟进报道，也未出现与早先报道矛盾的数字或说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。