跳到正文
NVIDIA Developer Blog· Tanya Lenz·· 4 小时前AI 评分20

NVIDIA TensorRT 如何用 Global Performance Tuner 突破单一构建路径的性能优化

Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 1

AI 导读

NVIDIA TensorRT 推出 Global Performance Tuner,用于在单一构建路径之外扩展性能优化。TensorRT 构建引擎时需对图 IR 变换、融合、实现选择、内存布局和量化做相互依赖的调度决策,该工具面向这一编译问题提供更多可行解。原文为系列第一部分。

来源:NVIDIA Developer Blog · developer.nvidia.com