arXiv Computer Vision· Szymon Mazurek, Alberto Presta, Micha{\l} Byra·· 8 小时前AI 评分31
Recursive CLIP：用循环 Transformer 块做视觉语言蒸馏
Recursive CLIP: Vision-Language Distillation with Looped Transformer Blocks
AI 导读
研究将 CLIP 的 Transformer 块循环复用：固定 N·M 等于标准 ViT-B 深度，用少量 N 个块在前向中重复 M 次，提出仅视觉编码器递归的 rCLIP 和文本编码器也递归的 r²CLIP。
来源：arXiv Computer Vision · arxiv.org