arXiv Artificial Intelligence· Shuxin Liu, Qing Liu, Yi Du, Ou Wu·· 19 小时前AI 评分22
CORE:面向 KV Cache 的覆盖校准保留与淘汰质量重分配
One Distribution, Two Channels: Coverage-Calibrated KV Retention and Compensation
AI 导读
CORE 通过将查询效用与对数行列式覆盖度结合的离线分配蒸馏为轻量缓存感知索引器,用同一校准分布同时驱动 KV 保留与潜在记忆写入两个通道。在 90% 压缩率下,CORE 在三个骨干模型上最高超过最强 RULER 基线 3.78 分,LongBench 与重复淘汰评测也验证了其有效性与解码效率。
来源:arXiv Artificial Intelligence · arxiv.org