跳到正文
arXiv Artificial Intelligence· Li Jiang, Haoran Xu, Yichuan Ding, Amy Zhang·· 18 小时前AI 评分22

Trajectory-Refined Distillation:轨迹级修正缓解 LLM 在线策略蒸馏的前缀失效

Trajectory-Refined Distillation

AI 导读

针对大语言模型在线策略蒸馏(OPD)中因前缀失效导致的教师混合双峰与梯度碎片化问题,研究者提出轨迹级修正方法 Trajectory-Refined Distillation(TRD),在蒸馏前于在线策略支持范围内修正学生轨迹的问题前缀。

来源:arXiv Artificial Intelligence · arxiv.org