跳到正文
arXiv Computer Vision· Jiahui Hu, Weile Mo, Peiliang Cai, Jiacheng Liu, Jinkui Ren, Xiantao Zhang, Xiaobing Tu, Linfeng Zhang·· 20 小时前AI 评分22

TempoKV:面向自回归视频生成的预测式 KV Cache 量化

TempoKV: Predictive KV Cache Quantization for Autoregressive Video Generation

AI 导读

TempoKV 是一个免训练的预测式 KV Cache 量化框架,用于自回归视频生成,通过分别预测 key 和 value 并只低精度存储残差,实现最高 6.71 倍 KV Cache 压缩。

来源:arXiv Computer Vision · arxiv.org