arXiv Computer Vision· Keigo Watanabe, Hiroshi Kera, Kazuhiko Kawamoto·· 4 小时前AI 评分31
LoRA Superposition：跨预训练骨干的 LoRA 叠加
LoRA Superposition across Pretrained Models
AI 导读
研究提出 LoRA superposition，将同一任务在不同预训练骨干上独立训练的 LoRA 相加后原样应用于所有贡献骨干。在 7 个 ViT-B/16 CLIP 骨干和 8 个图像分类任务上，精确求和使全部 56 个骨干-任务组合均获提升，平均准确率较未适配骨干高 30.21 个百分点，仅比单独训练的 solo LoRA 低 0.28 个百分点。
来源：arXiv Computer Vision · arxiv.org