NVIDIA Developer Blog· Tanya Lenz·· 4 小时前AI 评分25
NVIDIA TensorRT 11.1 Global Performance Tuner:突破单一构建路线的性能优化(第二部分)
Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 2
AI 导读
NVIDIA TensorRT 11.1 推出 Global Performance Tuner,可在 TensorRT 内实现自动、精度感知的端到端性能调优,并针对不同模型定制不同优化。该功能旨在突破单一构建路线的限制,系列第一部分已介绍深度学习调度环节的相关挑战。
来源:NVIDIA Developer Blog · developer.nvidia.com