跳到正文
arXiv Artificial Intelligence· Suwan Yoon, Seongryong Jung, Changhee Lee·· 2 小时前AI 评分26

APSD:面向自蒸馏策略优化的正确性相关非对称目标分布

Correctness-Dependent Asymmetric Target Distributions for Self-Distillation Policy Optimization

AI 导读

APSD 通过混合学生与自教师分布构建正确性相关目标:在正确 rollout 上插值以保留成功行为,在错误 rollout 上外推以加强纠正。在可验证奖励与丰富反馈的强化学习实验中,APSD 整体优于强化学习和自蒸馏基线,并在 Qwen3 各规模上以平均 2.6 倍更少的训练步数达到 SDPO 的性能。

来源:arXiv Artificial Intelligence · arxiv.org