跳到正文
热点事件持续更新

LoCD:局部上下文蒸馏方法提出

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月16日,arXiv人工智能板块报道,Zhezheng Hao等作者提出局部上下文蒸馏方法LoCD。报道称,现有上下文蒸馏面临两难:离策略训练存在暴露偏差,在策略训练的状态信息量不足。LoCD的做法是,先定位学生轨迹中需要修正的关键片段,再由教师基于学生自身前缀重新生成这些片段,学生仅在重新生成的片段上训练。报道称,在数学推理、代码生成和智能体任务上的实验表明,LoCD持续优于强基线,训练更稳定,参数更新更小更稀疏。上述实验结论均来自该报道,尚无其他来源佐证。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv Artificial Intelligence
    LoCD:通过局部上下文蒸馏从交互经验中学习

    针对现有上下文蒸馏的困境——离策略训练存在暴露偏差,在策略训练的状态信息量不足——研究者提出局部上下文蒸馏(LoCD)。LoCD 先定位学生轨迹中需要修正的关键片段,再由教师基于学生自身前缀重新生成这些片段,学生仅在重新生成的片段上训练。在数学推理、代码生成和智能体任务上的实验表明,LoCD 持续优于强基线,训练更稳定,参数更新更小更稀疏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。