VIP20
本课程属于：035-工业缺陷检测模型移植实战 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX转换到TensorRT优化全流程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导学与环境准备
ONNX与TensorRT概述 · 应用场景 · 课程目标
课程导学环境准备
02
深度学习模型基础回顾
PyTorch/TensorFlow… · 训练与导出 · 模型结构可视化（Netron工具使用…
深度学习模型基础…PyTorch/Tens…
03
ONNX基础
ONNX格式详解 · ONNX算子标准 · PyTorch模型导出为ONNX（t…
ONNX格式详解
04
ONNX模型调试与验证
ONNX Runtime推理 · onnxruntime-gpu与on… · ONNX模型正确性验证
ONNX模型调试
05
ONNX模型优化（上）
常量折叠（Constant Fold… · 冗余节点消除 · 算子融合（Fuse Conv+BN）
ONNX模型优化
06
ONNX模型优化（下）
量化感知训练（QAT）与训练后量化（… · ONNX Runtime量化工具 · INT8量化实践
ONNX模型优化
07
ONNX模型剪枝与蒸馏
结构化剪枝 · 知识蒸馏基础 · 在ONNX层面进行模型瘦身
ONNX模型剪枝
08
TensorRT基础
TensorRT架构解析 · Builder/Config/Eng… · TensorRT安装与验证
TensorRT架构解析
09
TensorRT模型构建方式（上）
使用TensorRT Python…
TensorRT模型构建方式
10
TensorRT模型构建方式（中）
使用ONNX-TensorRT Pa… · 构建Engine
TensorRT模型构建方式
11
TensorRT模型构建方式（下）
使用TensorRT C++ API… · C++与Python API对比
TensorRT模型构建方式
12
TensorRT Engine序列化与反序列化
Engine的保存与加载 · 序列化格式（.plan/.engin… · 跨平台部署注意事项
TensorRTEngine
13
TensorRT动态形状（Dynamic Shapes）
动态Batch · 动态输入尺寸 · Optimization Profi…
TensorRTDynamic
14
TensorRT精度模式详解
FP32 · FP16 · INT8
TensorRT精度模式详解
15
TensorRT INT8量化实战（上）
校准器（Calibrator）原理 · Int8Calibrator实现 · 校准数据集准备
TensorRTINT8
16
TensorRT INT8量化实战（下）
量化后模型精度评估 · 层级别精度调试 · 逐层回退到FP16/FP32
TensorRTINT8
17
TensorRT插件开发（Plugin）
自定义算子需求场景 · Plugin接口实现（IPlugin… · 插件注册与使用
TensorRTPlugin
18
TensorRT性能分析工具
trtexec命令行工具详解 · Layer Timing · Engine Inspector
TensorRT性能分析工具
19
TensorRT图优化与层融合
自动融合策略（Conv+BN+ReL… · Concat · Shuffle）
TensorRT图优化
20
TensorRT多流推理（Multi-Stream）
Stream概念 · 多Stream并行推理 · CUDA Stream管理
TensorRTMulti-Stream
21
TensorRT多上下文推理（Multi-Context）
多Engine并行 · 多Device管理 · 显存优化策略
TensorRTMulti-Contex…
22
TensorRT与深度学习框架集成
PyTorch-TensorRT集成… · TensorFlow-TensorR…
TensorRT深度学习框架集成
23
TensorRT在边缘设备部署
Jetson平台（Nano/TX2/… · DLA（Deep Learning…
TensorRT边缘设备部署
24
TensorRT在云端部署
Triton Inference S… · TensorRT Backend配置 · 动态Batch与并发
TensorRT云端部署
25
ONNX-TensorRT端到端优化案例（图像分类）
ResNet50模型从ONNX到Te… · 精度与性能对比
ONNX-TensorR…端到端优化案例
26
ONNX-TensorRT端到端优化案例（目标检测）
YOLOv8模型ONNX导出 · TensorRT优化 · NMS插件集成
ONNX-TensorR…端到端优化案例
27
ONNX-TensorRT端到端优化案例（语义分割）
UNet/DeepLabV3模型优化 · 动态输入处理 · 后处理优化
ONNX-TensorR…端到端优化案例
28
ONNX-TensorRT端到端优化案例（NLP模型）
BERT模型ONNX导出 · TensorRT优化 · Dynamic Shape处理
ONNX-TensorR…NLP
29
模型部署监控与运维
推理日志记录 · 性能监控（吞吐量 · 延迟
模型部署监控运维
30
课程总结与进阶方向
ONNX-TensorRT优化全流程… · 常见问题排查思路 · 前沿技术展望（TensorRT-LL…
课程总结进阶方向