arXiv Artificial Intelligence· Yutong Chen, Guangfu Guo, Zhichao Xu, Kunpeng Liu·· 19 小时前AI 评分22
DualOPSD:在 On-Policy 自蒸馏中闭合反馈回路
DualOPSD: Closing the Feedback Loop in On-Policy Self-Distillation
AI 导读
DualOPSD 提出一种耦合的师生交替更新机制,让学生保留 OPSD 的截断前向 KL 目标,特权教师则在学生每步更新后随之适应,并用基于冻结初始模型的残差目标保留特权上下文效果。在 Qwen3-8B/4B/1.7B 和三个数学基准上,DualOPSD 的 avg@12 准确率较 OPSD 提升 9.83 个百分点。诊断分析显示其双向 KL 更低、失配更少,且对特权参考的敏感性得以保留。
来源:arXiv Artificial Intelligence · arxiv.org