DCKV:端到端训练的KV缓存编解码器
热点事件持续更新
DCKV:端到端训练的KV缓存编解码器
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
2026年10月28日,arXiv 人工智能板块出现报道,介绍 Egor Maximov 等作者提出并训练的 DCKV。报道称,DCKV 是可微分的 KV 缓存编解码器,也是首个端到端训练的 KV 缓存编解码器;其变换、量化器和熵模型以提示词 token 及已解码邻位为条件,并与冻结语言模型联合优化。在 Qwen3.5-2B 上,报道称 DCKV 以比 bf16 少 55 倍以上的字节存储压缩 token,三个长上下文基准最多损失 1.8 分;字节减少 100 倍以上时最多损失 3.6 分。上述压缩倍数与精度损失均为该报道在 Qwen3.5-2B 及相应基准上的说法,报道未给出其他模型或场景的对应结果。目前进展停留在论文发布层面,尚无后续跟进报道。
AI 根据报道生成 · 3 小时前更新
最新进展10月28日 12:00
DCKV:混合语言模型提示词 KV cache 的可学习变换编码报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv Artificial IntelligenceDCKV:混合语言模型提示词 KV cache 的可学习变换编码
DCKV 是首个端到端训练的 KV cache 编解码器,其变换、量化器和熵模型以提示词 token 及已解码邻位为条件,与冻结语言模型联合优化。在 Qwen3.5-2B 上,DCKV 以比 bf16 少 55 倍以上的字节存储压缩 token,三个长上下文基准最多损失 1.8 分;字节减少 100 倍以上时最多损失 3.6 分。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。