提出CART多模态持续指令微调方法

针对多模态持续指令微调中投影器与语言模型非对称适配导致的表征漂移和灾难性遗忘问题，研究者提出兼容路由 CART，为投影器和语言模型分别维护任务专属专家，并依据专家相关性与跨模块兼容性加权混合，实现两模块协同适配。CART 还引入相关性引导的专家合并以控制模型增长，实验显示其达到 SOTA 性能。

摘自 arXiv Artificial Intelligence

还没有足够的连续观测数据，暂不绘制趋势。