arXiv Computer Vision· Tiantian Peng, Yuyang Liu, Shuo Yang, Qiuhe Hong, YongHong Tian·· 2 小时前AI 评分22
FPCD：用零空间投影与对比蒸馏稳定视觉语言模型持续学习中的模态鸿沟
Stabilizing the Modality Gap: Null-Space Projected Continual Learning for Vision-Language Models
AI 导读
针对 CLIP 类视觉语言模型持续学习中的模态鸿沟漂移问题，研究者提出 FPCD 框架，结合快速零空间投影（FNP）与对比蒸馏（CD）。FNP 用对称特征分解替代奇异值分解，将投影基构建加速 5-9 倍；CD 借助小型参考集对齐微调模型与 CLIP 的双向图文相似度分布。
来源：arXiv Computer Vision · arxiv.org