arXiv Artificial Intelligence· Haichen Hu, Yuheng Zhang, David Simchi-Levi·· 17 小时前AI 评分29
IterCaL：无目标域奖励反馈下缓解 LLM 蒸馏教师偏差的迭代校准与学习方法
Iterative Calibration and Learning: Mitigating Teacher Bias in LLM Distillation without Target-Domain Reward Feedback
AI 导读
针对无目标域奖励反馈时 LLM 蒸馏会传播教师偏差的问题，研究者提出 IterCaL，通过 token 级分支交替进行源奖励教师校准与学生在目标提示上的学习。理论证明其期望平均 KL 以多项式速率收敛到 oracle 学生，并给出源到目标校准差异对应的显式真实回报加项。
来源：arXiv Artificial Intelligence · arxiv.org