arXiv Artificial Intelligence· Yijun Zhu, Jianxin Wang, Chengchao Shen·· 13 小时前AI 评分31
FPRT：面向推理蒸馏的失败画像与可达轨迹选择方法
Failure Profiling and Reachable Trajectory Selection for Reasoning Distillation
AI 导读
针对小模型在推理蒸馏中过拟合教师输出分布、推理时偏离训练数据导致泛化差的问题，研究者提出失败画像与可达轨迹选择方法 FPRT。该方法通过重复采样刻画学生模型在每个问题上的错误率与错误一致性，区分不同失败模式，再按失败类型定制提示策略生成教师候选，并从中挑选分歧点后最初几步最易被学生复现的轨迹。
推荐理由模型分析
该方法针对小模型从教师模型蒸馏数学推理时易过拟合教师输出分布、推理时偏离训练数据的问题，先通过重复采样刻画学生的错误率与错误一致性以区分失败模式，再按模式生成候选，并只选分歧点后最初几步最易被学生复现的正确轨迹。相比整体打分的重排序，它把训练信号集中在关键纠错转折处。在五个基准和两个学生骨干上报告了SOTA，代码与权重已公开，可供做推理蒸馏的研究者复现和比较。
来源：arXiv Artificial Intelligence · arxiv.org