DropKV：解耦残差输出扰动的KV缓存淘汰框架

2026年10月16日，arXiv Artificial Intelligence 刊出 Aozhong Zhang 等作者的报道，提出 DropKV——一种基于解耦残差输出扰动（Decoupled Residual-Output Perturbation）的 KV-Cache 淘汰框架。该工作将联合淘汰决策解耦为独立的逐 token 打分，绕开 NP-hard 组合难题，并在锥条件下提供可证明的常数因子近似保证。报道称其带来 19.8 倍的打分内核加速，并转化为最高 9.9% 的匹配批次端到端 prefill 加速；同时注明该工作已被 NeurIPS 2026 接收。上述加速数据与接收信息均出自该报道，为其自述内容。目前尚无后续跟进报道，事件进展停留在该框架的提出与性能声明阶段。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。