WIRE：冻结视频LLM权重空间隐式表示编码

2026年10月14日，Ameen Ali等作者在arXiv计算机视觉板块提交论文，提出WIRE（Weight Space Implicit Representation Encoding）方法。该方法针对冻结视频语言模型处理视频时的重复性开销，将部分视频条件计算从输入激活转移到权重的临时低秩更新中：通过问题条件双向选择性扫描，把每帧全分辨率嵌入压缩为少量carrier token，并在选定解码层用超网络生成LoRA更新。据论文描述，WIRE保留一段简短的显式视觉上下文，因此该更新起的是修正而非替代视频的作用；更新在prefill之后合并，自回归解码运行的是未修改的冻结骨干。在Qwen3-VL-8B上，每帧16个carrier token的WIRE将视觉流压缩3.5倍，在256帧时解码器prefill时间减少3.35倍、1024帧时减少4.14倍，键值缓存按比例缩小，且每token解码延迟大致保持不变。目前进展为论文提交，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。