LoOPSD：循环教师在线自蒸馏方法

2026年10月15日，arXiv 人工智能板块报道了 Wei Fan 等作者提出的 LoOPSD 在线自蒸馏方法。该方法通过搜索模型自身的层执行顺序来构造更强的教师模型，并将教师的预测优势蒸馏回学生模型，且保持权重不变。报道称，在 GSM8K 上以 400-token 思考预算测试时，LoOPSD 将 Qwen3-1.7B 的准确率从 42.30% 提升至 79.61%，后续蒸馏轮次还能带来进一步增益；该方法在数学与逻辑推理任务上对多个模型均有提升。目前进展限于上述报道，尚无其他跟进信息。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。