跳到正文
arXiv Artificial Intelligence· Tianhao Fu, Austin Wang, Charles Chen, Roby Aldave-Garza, Victor Xie, Xiyue Jiao, Yucheng Chen, Martin Tin·· 18 小时前AI 评分24

Varest:通过 LLM 前语义变分辨率 Token 化与 LLM 内相关性剪枝实现图像 Token 压缩

Just Respect the Semantics: Image-Token Compression via Pre-LLM Semantic Variable-Resolution Tokenization and In-LLM Relevance Pruning

AI 导读

Varest 提出一种图像 token 压缩方法,依据语义可替换性对连贯语义区域粗粒度合并,在物体边界和文字处保留更细分辨率,并通过学习到的 [REL] 寄存器在解码器早期处理后剪枝视觉 token。

来源:arXiv Artificial Intelligence · arxiv.org