arXiv Computer Vision· Tinghao Wang, Yichen Guo, Qizhe Zhang, Yuan Zhang, Weimin Ouyang, Rui Huang, Jiajun Cao, Sixiang Chen, Hao Jiang, Jixian Wu, Zheng Lu, Bofan Zhu, Renyuan Li, Shanghang Zhang·· 6 小时前AI 评分29
MiCo:通过语义擦除建模优化互信息覆盖,实现高效 MLLM 推理
MiCo: Mutual Information Coverage Optimization through Semantic Erasure Modeling for Efficient MLLM Inference
AI 导读
研究者提出免训练两阶段剪枝方法 MiCo,通过语义擦除模型从任务 log-loss 推导出互信息覆盖目标,先在视觉 token 进入语言模型前筛选候选池,再做任务感知的子集选择。
来源:arXiv Computer Vision · arxiv.org