深度循环改造预训练VLM方法

2026年10月16日，arXiv Computer Vision 刊出 Madhav Iyengar 等作者的论文，提出将深度循环改造范式用于视觉理解，以减少预训练视觉语言模型（VLM）的语言参数。方法为剪枝 VLM 语言骨干层并循环剩余层子集，配合线性适配器融合跨层 token 表示。作者在 TinyLLaVA-1.4B 骨干上评估，改造过程中未引入新的视觉语言数据；实验显示，改造后的循环模型在语言参数减少 23.3% 的情况下，性能超过用相同恢复数据训练的未剪枝基线，并在推理类基准上有所提升，基础视觉理解基准表现与基线持平。目前该工作处于论文发布阶段，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。