arXiv Computer Vision· Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman·· 2 小时前AI 评分24
解决跨任务干扰：面向模型合并的专家适配方法 RI
Learning Not To Interfere: Adapting Experts For Model Merging
AI 导读
针对独立训练的专家模型合并时出现的跨任务干扰问题，研究者提出轻量适配框架 Resolving Interference（RI），通过将专家模型解耦为与其他任务空间功能正交来降低干扰，且仅需无标注辅助数据。RI 将现有最优合并方法性能最高提升 3.8%，对未见域泛化最高提升 2.3%，并对辅助数据来源稳健、对合并超参数调优显著更不敏感。
来源：arXiv Computer Vision · arxiv.org