arXiv Computer Vision· Jiahui Hu, Weile Mo, Peiliang Cai, Jiacheng Liu, Jinkui Ren, Xiantao Zhang, Xiaobing Tu, Linfeng Zhang·· 20 小时前AI 评分22
TempoKV:面向自回归视频生成的预测式 KV Cache 量化
TempoKV: Predictive KV Cache Quantization for Autoregressive Video Generation
AI 导读
TempoKV 是一个免训练的预测式 KV Cache 量化框架,用于自回归视频生成,通过分别预测 key 和 value 并只低精度存储残差,实现最高 6.71 倍 KV Cache 压缩。
来源:arXiv Computer Vision · arxiv.org