arXiv Computer Vision· Alessandro Viespoli, Loris Nanni·· 20 小时前AI 评分27
无需重训的视觉 Transformer 深度剪枝：层冗余的跨域研究
Retraining-Free Depth Pruning of Vision Transformers: A Cross Domain Study of Layer Redundancy
AI 导读
研究将基于相似度的冗余分析扩展到视觉模型，通过测量层输入与输出的余弦相似度识别影响最小的变换，发现 DINOv2、SwinV2 等深层视觉 Transformer 与语言模型一样存在显著冗余。
来源：arXiv Computer Vision · arxiv.org