arXiv Artificial Intelligence· Zhezheng Hao, Yongkang Yang, Xilin Xia, Jiarui Yu, Yi Liu, Fanjunduo Wei, Peijie Dong, Tianfu Wang, Qiang Lin, Can Wang, Hande Dong, Jiawei Chen·· 2 小时前AI 评分24
LoCD：通过局部上下文蒸馏从交互经验中学习
Learning from Interaction Experience via Localized Context Distillation
AI 导读
针对现有上下文蒸馏的困境——离策略训练存在暴露偏差，在策略训练的状态信息量不足——研究者提出局部上下文蒸馏（LoCD）。LoCD 先定位学生轨迹中需要修正的关键片段，再由教师基于学生自身前缀重新生成这些片段，学生仅在重新生成的片段上训练。在数学推理、代码生成和智能体任务上的实验表明，LoCD 持续优于强基线，训练更稳定，参数更新更小更稀疏。
来源：arXiv Artificial Intelligence · arxiv.org