LaCache：面向 LLM 服务的鲁棒语义缓存

LaCache 是一种面向 LLM 服务的语义缓存方案，将完整性校验从查询转移到响应，额外检查查询前 k 个投机解码 token 的缓存命中，从而可证明地防御缓存碰撞攻击。分析证明其能以高概率检测产生语义不同响应的攻击，跨多种 LLM 与基准的评估显示攻击命中率降至接近零，同时保留超过 90% 的正常缓存效用。该工作为 NeurIPS 2026 收录论文。