arXiv Artificial Intelligence· Francesco Colasurdo, Ivan Slobozhan, Joaquin Vanschoren, Anna Vettoruzzo·· 2 小时前AI 评分34
统一多模态模型后训练中的跨模态遗忘与迁移:Janus-Pro-7B 的 LoRA 实验
Cross-Modal Forgetting and Transfer in Unified Multimodal Post-Training
AI 导读
研究测量了 Janus-Pro-7B 在 LoRA 后训练中的跨模态遗忘:单次训练后,未训练能力在四个公开基准和自由英文生成上均未退化,即使适配器将留出威尔士语困惑度降低 76%、相对权重变化不足 2%。
来源:arXiv Artificial Intelligence · arxiv.org