arXiv Artificial Intelligence· Siyuan Gan, Bo Yang, Linjian Meng, Boyan Wang, Xiaolong Qi, Jing Huo, Yang Gao·2026-10-20 12:00· 2 小时前AI 评分26

Nash-MOPD：优化多教师在线策略蒸馏中的任务权衡

Nash-MOPD: Optimizing Task Trade-offs in Multi-Teacher On-Policy Distillation

AI 导读

Nash-MOPD 提出一种基于局部极小极大博弈的自适应领域调度器，利用现有 reverse-KL 统计量分配训练提示词，缓解多教师在线策略蒸馏中慢改进领域训练不足的问题，且无需额外教师查询或 rollout。