arXiv Artificial Intelligence· Li Jiang, Haoran Xu, Yichuan Ding, Amy Zhang·· 18 小时前AI 评分22
Trajectory-Refined Distillation:轨迹级修正缓解 LLM 在线策略蒸馏的前缀失效
Trajectory-Refined Distillation
AI 导读
针对大语言模型在线策略蒸馏(OPD)中因前缀失效导致的教师混合双峰与梯度碎片化问题,研究者提出轨迹级修正方法 Trajectory-Refined Distillation(TRD),在蒸馏前于在线策略支持范围内修正学生轨迹的问题前缀。
来源:arXiv Artificial Intelligence · arxiv.org