VIP9
本课程属于：123-TensorRT边缘GPU推理优化 AI智能与边缘计算工程 · 共 9 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

7. TensorRT YOLO部署：检测模型解析和后处理优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程整体框架与实战项目预览
课程导入学习目标
02
YOLO检测模型基础
YOLO系列演进（v5/v8/v9等… · 核心思想 · 输出张量结构解析
YOLO检测模型基础
03
TensorRT基础
TensorRT架构 · 推理流程 · 精度模式（FP32/FP16/INT…
TensorRT架构
04
环境搭建
CUDA · cuDNN · TensorRT版本匹配
环境搭建CUDA
05
ONNX模型导出
从PyTorch/YOLO官方仓库导… · 动态轴设置与算子兼容性检查
ONNX模型导出
06
TensorRT引擎构建
使用trtexec和Python A… · 序列化与反序列化
TensorRT引擎构建
07
模型解析
解析YOLO输出（1×25200×8… · 理解anchor · stride
模型解析YOLO
08
后处理流程
置信度过滤 · NMS（非极大值抑制） · 坐标解码（中心点+宽高）
后处理流程置信度过滤
09
NMS优化
TensorRT原生NMS插件（Ef…
NMS优化
10
预处理优化
图像缩放（letterbox） · 归一化 · BGR/RGB转换
预处理优化letterbox
11
后处理优化
批量解码 · 向量化操作 · 减少内存拷贝
后处理优化批量解码
12
TensorRT插件开发
自定义后处理插件（如YOLO层融合）…
TensorRT插件开发
13
INT8量化
校准数据集准备 · 校准器实现 · 精度损失评估与调优
INT8量化
14
多线程与异步推理
使用Stream · Event实现流水线 · 提高吞吐量
多线程异步推理
15
内存管理
显存池 · 绑定缓冲区 · 零拷贝（Zero-Copy）技术
内存管理显存池
16
端到端部署案例
基于TensorRT C++ API…
端到端部署案例TensorRT
17
Python部署案例
使用PyCUDA或TensorRT…
Python部署案例
18
性能分析
使用Nsight Systems · TensorRT Profiler定…
性能分析Nsight
19
常见问题
动态shape处理 · 多batch支持 · 模型转换失败排查
常见问题shape
20
精度与速度平衡
FP16/INT8调优 · 层精度覆盖 · 敏感层分析
精度速度平衡
21
多模型集成
YOLO检测与分类/分割模型联合部署…
多模型集成YOLO
22
边缘设备部署
Jetson系列（Xavier/Na…
边缘设备部署Jetson
23
后处理高级优化
基于TensorRT的NMS融合 · 解码+过滤+NMS一体化
后处理高级优化TensorRT
24
实战项目一
从PyTorch到TensorRT的…
实战项目一PyTorch
25
实战项目二
YOLOv8实例分割模型（YOLOv…
实战项目二YOLOv8
26
实战项目三
实时视频流检测系统 · 集成TensorRT推理与显示
实战项目三实时视频流检测系…
27
综合调优
结合TensorRT · CUDA · 后处理优化达到实时性能（如1080p…
综合调优TensorRT
28
部署测试与验证
输出一致性检查 · mAP评估 · 边界情况处理
部署测试验证
29
课程总结
核心知识点回顾 · 常见误区 · 最佳实践与学习路径建议
课程总结核心知识点回顾
30
综合挑战
设计一个高吞吐 · 低延迟的YOLO检测服务 · 并给出优化方案
综合挑战设计一个高吞吐