跳到正文
arXiv Computer Vision· Haifeng Huang, Biyin Xu, Yang Li·· 4 小时前AI 评分24

KiToke:面向视频大语言模型的分布感知 token 压缩

KiToke: Distribution-Aware Token Compression for Video Large Language Models

AI 导读

KiToke 是一种免训练、与查询无关的视频 token 压缩框架,将视觉 token 视为视频时空 token 分布的样本,用全局嵌入密度衡量冗余并以逆密度采样平衡不同频率视觉模式的 token 分配,同时把未选中的 token 聚合到检测出的时间区间内的保留锚点上。

来源:arXiv Computer Vision · arxiv.org