VIP9
本课程属于：123-TensorRT边缘GPU推理优化 AI智能与边缘计算工程 · 共 9 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

2. TensorRT模型转换：ONNX到Engine引擎构建实践

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
TensorRT基础
TensorRT是什么 · 核心组件（Builder · Network
TensorRT是什么
03
ONNX格式详解
ONNX的模型结构 · 节点与张量 · 算子集版本
ONNX格式详解
04
ONNX模型获取与检查
从PyTorch/TensorFlo… · 使用Netron可视化 · onnxruntime验证
ONNX模型获取
05
TensorRT API入门
C++和Python API对比 · 基本对象生命周期 · 日志与错误处理
TensorRTAPI
06
ONNX解析器
使用ONNX Parser加载模型 · 解析器配置 · 常见解析错误及解决
ONNX解析器
07
构建Engine的完整流程
创建Builder · Network · 配置BuilderConfig
Engine构建
08
网络定义与层操作
添加输入输出 · 处理卷积/全连接/激活等常见层 · 自定义层
网络定义层操作
09
精度模式选择
FP32 · FP16 · INT8的适用场景
精度模式选择FP32
10
动态形状处理
动态batch · 动态分辨率 · 优化profile设置
动态形状处理batch
11
TensorRT优化策略
层融合 · 内核自动调优 · 内存复用
TensorRT优化策略
12
工作区与内存管理
设置工作区大小 · 显存分配策略 · 避免内存碎片
工作区内存管理
13
Engine序列化与部署
保存为.engine文件 · 加载engine · 跨平台部署注意事项
Engine序列化
14
推理执行
创建Context · 绑定输入输出缓冲区 · 执行同步/异步推理
推理执行Context
15
性能基准测试
使用trtexec工具 · 测量延迟与吞吐量 · 分析性能瓶颈
性能基准测试trtexec
16
常见错误与调试
解析失败 · 维度不匹配 · 精度异常
常见错误调试
17
案例实战
图像分类模型（ResNet）从ONN…
案例实战ResNet
18
案例实战
目标检测模型（YOLOv5）的转换与…
案例实战YOLOv5
19
案例实战
语义分割模型（UNet）的动态输入处…
案例实战UNet
20
案例实战
NLP模型（BERT）的转换与优化技…
案例实战NLP
21
INT8量化实战
校准数据集准备 · 校准器实现 · 量化后精度验证
INT8量化实战
22
多profile与多流推理
多batch优化 · 多CUDA流并发 · 多engine管理
profile多流推理
23
插件开发
自定义算子实现 · 注册插件 · 在ONNX转换中使用插件
插件开发自定义算子实现
24
与深度学习框架集成
在PyTorch/TensorFlo…
深度学习框架集成PyTorch/Tens…
25
TensorRT版本演进
不同版本特性 · 迁移注意事项 · 新API使用
TensorRT版本演进
26
性能调优进阶
使用NVIDIA Nsight分析 · profiling工具 · 优化内存访问
性能调优进阶NVIDIA
27
部署场景实践
云端GPU服务 · 边缘设备（Jetson）部署 · 容器化
部署场景实践GPU
28
常见问题汇总
转换失败 · 精度下降 · 速度不达标等问题的系统解决方案
常见问题汇总转换失败
29
综合项目
从ONNX模型到生产级TensorR…
综合项目ONNX
30
课程总结与进阶路径
知识回顾 · 学习资源 · 后续学习方向（TensorRT-LL…
课程总结进阶路径