研究预测LLM预填充与解码阶段的计算时间和能耗
热点事件持续更新
研究预测LLM预填充与解码阶段的计算时间和能耗
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
2026年10月30日，arXiv Artificial Intelligence 刊出 Lars Krupp 等作者的论文，提出预测大语言模型（LLM）预填充（prefill，输入）与解码（decode，输出）阶段计算时间和能耗的方法。报道称，研究系统测量了 LLM 在不同 prefill 与 decode token 长度下的计算时间和能耗，发现 decode 阶段的计算时间与能耗随输出长度线性增长，而 prefill 阶段则随输入长度呈线性与二次方双重扩展。目前该事件仅有这一篇主报道，尚无后续跟进报道，也没有出现数字、时间或说法上的前后矛盾。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 12:00
预测 LLM 预填充与解码阶段计算时间和能耗的真实上下文成本报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- arXiv Artificial Intelligence预测 LLM 预填充与解码阶段计算时间和能耗的真实上下文成本
研究系统测量了 LLM 在不同 prefill（输入）与 decode（输出）token 长度下的计算时间和能耗，发现 decode 阶段的计算时间与能耗随输出长度线性增长，而 prefill 阶段则随输入长度呈线性与二次方双重扩展。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。