arXiv Artificial Intelligence· Sihwan Park, Sung-Yub Kim, Doohyuk Jang, Eunho Yang·· 17 小时前AI 评分24
KV4-RL：用 INT4 KV Cache 量化加速 RLVR 异步 Rollout
KV4-RL: Unlocking Faster Asynchronous Rollouts for RLVR with INT4 KV Cache Quantization
AI 导读
KV4-RL 将免校准 INT4 KV 量化与对 attention sinks 及近期上下文的 INT8 选择性保护结合，在 Qwen3-8B-Base 的 GRPO 训练 400 步中实现 1.80 倍累计 rollout 加速、1.27 倍全迭代加速，最后 50 步 rollout 加速达 1.97 倍。
来源：arXiv Artificial Intelligence · arxiv.org