跳到正文
arXiv Artificial Intelligence· Joungbin An, Kristen Grauman·· 13 小时前AI 评分31

AdaAlloc:面向长视频问答的自适应视觉 token 分配

AdaAlloc: Adaptive Visual Token Allocation for Long-Video Question Answering

AI 导读

AdaAlloc 是一个免训练的推理框架,在固定视觉 token 预算下自适应地在全局视频概览与高分辨率局部细节之间分配 token,并用时序定位筛选候选证据片段、精炼为紧凑时序记忆。在 LVBench、MLVU、VideoMME 和 LongVideoBench 上,它比同等预算的均匀采样最高提升 10.5 个百分点,并优于所对比的帧选择与智能体方法。该工作已被 NeurIPS 2026 接收。

推荐理由模型分析

AdaAlloc 把长视频问答中的视觉 token 预算分配作为核心问题,提出免训练推理框架,在全局概览与高分辨率局部证据之间自适应分配,并用时间定位筛选候选片段。在 LVBench、MLVU、VideoMME、LongVideoBench 上,相比同等预算的均匀采样最多提升 10.5 个百分点,也优于所比较的帧选择与 agentic 方法。适合多模态模型开发者参考其预算分配与采样策略,但结论限于上述基准与固定 token 预算条件。

来源:arXiv Artificial Intelligence · arxiv.org