内存受限LLM服务拥塞动力学模型提出
热点事件持续更新
内存受限LLM服务拥塞动力学模型提出
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月20日，arXiv Artificial Intelligence 刊出 Ruicheng Ao 等作者的论文，提出内存受限 LLM 推理的离散时间动力学模型，刻画连续批处理下的请求准入、KV cache 增长与驱逐过程。报道称，在饱和输入下，无驱逐不动点不稳定，系统除零测集外收敛到唯一最坏极限环，吞吐损失最高达 50%；在异构负载下，互质解码长度可稳定无驱逐平衡，非互质长度则产生同步模式引发失稳。该报道为事件首篇主报道，暂无跟进报道，上述结论均来自论文作者自述。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 12:00
内存受限 LLM 服务中的服务自致拥塞机制报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- arXiv Artificial Intelligence内存受限 LLM 服务中的服务自致拥塞机制
研究提出内存受限 LLM 推理的离散时间动力学模型，刻画连续批处理下的请求准入、KV cache 增长与驱逐过程。在饱和输入下，无驱逐不动点不稳定，系统除零测集外收敛到唯一最坏极限环，吞吐损失最高达 50%。异构负载下，互质解码长度可稳定无驱逐平衡，非互质长度则产生同步模式引发失稳。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。