arXiv Computer Vision· Zihan Meng, Weidong Chen, Dexiang Hong, Xinyan Liu, Zhendong Mao·· 1 天前AI 评分24
FoveaTree：面向视频大语言模型查询引导视觉 token 剪枝的信息密度树
FoveaTree: Information-Density Trees for Query-Guided Visual Token Pruning in Video Large Language Models
AI 导读
FoveaTree 是一个两阶段、免训练的视觉 token 剪枝框架，用于降低视频大语言模型的推理成本。它先通过 Merge-Gain Density Estimation 构建四叉树密度图指导 token 丢弃、合并与保留，再用 Attention Tree Pruning 在 LLM 中间层细化文本到视觉的注意力。
来源：arXiv Computer Vision · arxiv.org