Dooly：配置无关的LLM推理性能分析工具

2026年10月22日，arXiv Artificial Intelligence 刊出 Joon Ha Kim 等作者的论文《Dooly：面向 LLM 推理模拟的配置无关、冗余感知性能分析》。报道称，Dooly 通过一次推理遍历和污点传播标注输入维度来源，只对延迟数据库中缺失的算子做性能分析，从而实现配置无关、冗余感知的 profiling。在两种 GPU 平台、三种 attention 后端和多种模型架构上，其 TTFT 模拟精度达 5% MAPE、TPOT 达 8%，12 个模型的 profiling GPU 小时数较现有方法减少 56.4%。作者表示已在论文给出的链接开源 Dooly。目前进展为论文发布并开源工具，尚无后续跟进报道。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。