IT之家·2026-10-18 21:25· 3 小时前AI 评分52英伟达通过 vLLM 上游优化让 Kimi K3 推理提速 1.68 倍英伟达优化 Kimi K3 模型推理速度,提升 1.68 倍AI 导读英伟达通过一项上游 vLLM 优化,让 2.8 万亿参数量的 Kimi K3 在 GB300 NVL72 上达到 423 tok/s/user,性能提升 1.68 倍。来源:IT之家 · ithome.comNVIDIA 英伟达推理能力部署工程产品更新#产品更新#部署/工程#推理#DeepSeek查看事件全部后续