arXiv Artificial Intelligence· Wen Ye, Ailin Deng, Zirui Wang, Shixing Yu, Han Zhang, Tian Yun, Nikhil Mehta, Tarun Kalluri, Xuefei Cao, Xuezhe Ma, Hengduo Li·· 3 小时前AI 评分31
Edit, Don't Imitate：面向多模态推理的最小编辑同策略蒸馏
Edit, Don't Imitate: Minimal-Edit On-Policy Distillation for Multimodal Reasoning
AI 导读
研究提出最小编辑纠错式同策略蒸馏方法，用参考图描述与已验证参考解作为仅训练时信息，由教师模型按最小编辑目标给学生的错误 rollout 打分，仅教师不认可的 token 计入纠错损失，正确 rollout 则接受任务奖励强化学习。
来源：arXiv Artificial Intelligence · arxiv.org