研究者提出意图感知缓存策略IAC
热点事件持续更新
研究者提出意图感知缓存策略IAC
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
2026年11月9日,arXiv Artificial Intelligence 刊出研究者 Kazi Hasan Ibn Arif 等人的工作,提出意图感知缓存(Intent-Aware Caching,IAC)。据该报道,IAC 是一种在线缓存淘汰策略:按用户意图对请求分类,从近期服务日志中学习轻量复用统计,并据此指导一种受 oracle 启发的淘汰策略。报道称,在 WildChat 和 ShareChat 真实负载上,IAC 缓存命中率达 34.6%,高于此前基于学习的方法(18.8%)和 LRU(12.2%),平均服务延迟最多降低 46.1%。上述命中率与延迟数据均来自该报道对这两个负载的评测,报道未说明其他负载或部署环境下的表现。
AI 根据报道生成 · 12 小时前更新
最新进展11月9日 13:00
面向高效 LLM 服务的意图感知缓存(Intent-Aware Caching)报道时间线
沿着报道,了解事件的不同侧面。
11月9日
- arXiv Artificial Intelligence面向高效 LLM 服务的意图感知缓存(Intent-Aware Caching)
研究者提出 Intent-Aware Caching(IAC),一种按用户意图分类请求、从近期服务日志学习轻量复用统计并据此指导淘汰策略的在线缓存淘汰方案。在 WildChat 和 ShareChat 真实负载上,IAC 缓存命中率达 34.6%,高于此前基于学习的方法(18.8%)和 LRU(12.2%),平均服务延迟最多降低 46.1%。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月9日 14:00
- 近 24 小时变化
- –
02.557.510
14:0016:0018:0020:0022:0011月10日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。