arXiv Artificial Intelligence· Huihao Jing, Wenbin Hu, Shaojin Chen, Haochen Shi, Zhongwei Xie, Guijia Zhang, Yuxuan Liu, Haoyu Huang, Haoran Li, Yangqiu Song·· 20 小时前AI 评分24
SoFT：面向可泛化 LLM 微调的软目标方法
SoFT: Soft Targets for Generalizable LLM Fine-Tuning
AI 导读
针对多教师、多领域示范知识难以整合进单一学生模型的问题，研究者提出软目标微调（SoFT），为每个示范 token 设定最低目标概率，同时对 Base 分布做最小 KL 改动，并用领域特定梯度预算控制学习与保留的平衡。在混合域推理与智能体任务上，SoFT 在分布内能力获取和分布外泛化两方面均取得对比方法中的最佳整体表现。
来源：arXiv Artificial Intelligence · arxiv.org