arXiv Artificial Intelligence· Xianwei Chen, Shimin Zhang, Jibin Wu·· 19 小时前AI 评分22
f-OPD:用新鲜度感知控制稳定长时程在线策略蒸馏
$\boldsymbol{f}$-OPD: Stabilizing Long-Horizon On-Policy Distillation with Freshness-Aware Control
AI 导读
针对大语言模型在线策略蒸馏(OPD)中异步执行与在线策略目标偏离的矛盾,研究者将目标偏差分解为 rollout 漂移与监督漂移,并提出样本级新鲜度分数来衡量缓冲样本的可靠性。基于该信号提出的 f-OPD 框架可自适应调节陈旧样本影响并约束异步训练中的策略漂移,在推理、工具使用和编码智能体任务上取得与同步优化相当的性能,同时基本保留异步执行的吞吐优势。该工作已被 NeurIPS 2026 接收。
来源:arXiv Artificial Intelligence · arxiv.org