arXiv Artificial Intelligence· Guangzong Si, Dong Wang, Yifan Yu, Miao Liu, Panwang Pan, Wentao Zhu·· 2 小时前AI 评分34
ReTrace:面向高效多模态大语言模型的视觉回溯机制
ReTrace: Visual Backtracking for Efficient Multimodal Large Language Models
AI 导读
ReTrace 是一种回溯感知的视觉 token 压缩框架,通过引入休眠 token 状态,在昂贵逐层计算外缓存非枢轴 token、在回溯窗口内恢复、待信息吸收后再剪枝。
来源:arXiv Artificial Intelligence · arxiv.org