提出审计式推理蒸馏工作流Distill-SFT
热点事件持续更新
提出审计式推理蒸馏工作流Distill-SFT
1 篇报道1 个报道来源17 小时前更新
先了解这件事
AI 综述
2026年10月15日,arXiv Artificial Intelligence刊出Tiago Martinelli等作者的论文,提出先审计推理内容再蒸馏的Distill-SFT训练方法。研究用巴西葡萄牙语住院医师考试题检验教师推理链对学生模型的影响:完整推理链在教师答对时把选对概率提升21个百分点,教师答错时则下降14个百分点,打乱推理内容后该模式消失。基于这一结果,作者只用附在教师正确答案上的推理链进行训练,并比较了仅答案训练、逐步蒸馏与所提出的Distill-SFT方法。目前进展为论文发表并给出上述受控工作流与对比实验。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
蒸馏前先审计:将推理能力迁移到紧凑医疗语言模型的受控工作流报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv Artificial Intelligence蒸馏前先审计:将推理能力迁移到紧凑医疗语言模型的受控工作流
研究用巴西葡萄牙语住院医师考试题检验教师推理链对学生模型的影响:完整推理链在教师答对时把选对概率提升 21 个百分点,教师答错时则下降 14 个百分点,打乱推理内容后该模式消失。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。