arXiv Artificial Intelligence· Zhen Zhu, Yiming Gong, Yao Xiao, Yaoyao Liu, Derek Hoiem·· 3 小时前AI 评分40
如何教大型多模态模型(LMM)学习新技能而不遗忘旧能力
How to Teach Large Multimodal Models New Skills
AI 导读
研究在三个模型家族上对五项技能做顺序微调,发现某一技能微调后损失的留出任务性能,在后续微调另一技能时可部分恢复,并可用计数偏差探针追踪输出 token 分布偏移。
来源:arXiv Artificial Intelligence · arxiv.org