WAKMan：负载感知的KV缓存管理器

2026年10月28日，Suhas Kumar Morisetty等作者在arXiv人工智能板块提交论文，提出WAKMan——一种工作负载感知的KV缓存管理器。据该论文，WAKMan无需知道请求类型或读取提示词，即可根据实时流量选择淘汰策略；报道称其平均将缓存命中率较LRU提升5个百分点。目前该工作处于论文发布阶段，报道未提及代码开源、部署验证或第三方复现情况。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。