跳到正文
arXiv Computer Vision· Lingfeng He, De Cheng, Huaijie Wang, Xi Yang, Nannan Wang, Xinbo Gao·· 4 小时前AI 评分22

LoDA:面向 LoRA 持续学习的任务驱动子空间分解

Task-Driven Subspace Decomposition for Knowledge Sharing and Isolation in LoRA-based Continual Learning

AI 导读

针对现有 LoRA 持续学习方法忽略任务共享方向、且旧任务零空间基在相关任务下近乎失效的问题,研究者提出 LoDA,通过求解两个基于能量的目标进行任务驱动分解,构建通用与任务专属的 LoRA 子空间。

来源:arXiv Computer Vision · arxiv.org