arXiv Artificial Intelligence· Bruce Changlong Xu, Adarsh Kumarappan, Mu Zhou·2026-11-06 13:00· 2 天前AI 评分58

研究：KV cache 量化会悄然破坏安全对齐，PCR 诊断可定位三类失效模式

Alignment Collapse Under KV Cache Quantization: Diagnosis and Mitigation

AI 导读

研究者在 11 个指令微调模型（3.8B-72B）和 5 个基准（1,894 条提示）上发现，低比特 KV cache 量化会在困惑度几乎不变时破坏安全对齐，例如 Mistral-7B 在困惑度仅 1.03x 时拒绝率下降 15.2%，且不存在通用的安全比特宽度。