VIP20
本课程属于：033-DeepStream视频分析与边缘视觉流水线 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

4. DeepStream模型部署：TensorRT Engine与nvinfer配置

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
DeepStream整体架构 · TensorRT与nvinfer在其… · 学习目标与课程路径
课程导入DeepStream
02
环境准备
DeepStream SDK安装 · 依赖项（CUDA · cuDNN
环境准备DeepStream
03
TensorRT基础
什么是TensorRT · 推理优化原理（层融合 · 精度校准
TensorRT什么是
04
模型转换流程
从PyTorch/TensorFlo…
模型转换流程PyTorch/Tens…
05
ONNX模型导出
如何将常见模型（YOLO · ResNet等）导出为ONNX · 注意事项（动态轴
ONNX模型导出
06
trtexec工具详解
常用参数（--fp16 · --int8 · --dynamic
trtexec工具详解
07
动态形状支持
设置动态输入尺寸（min/opt/m… · 在DeepStream中处理动态分辨…
动态形状支持min/opt/m
08
精度校准（INT8）
校准数据集准备 · 校准器（Calibrator）实现 · INT8精度损失评估与优化
INT8精度校准
09
Engine文件管理
Engine序列化与反序列化 · 版本兼容性 · 部署时加载策略
Engine文件管理
10
DeepStream nvinfer插件概述
nvinfer在DeepStream… · 配置组（group）概念 · 输入输出张量
DeepStreamnvinfer
11
nvinfer配置文件结构
解析config_infer_pri… · 关键字段（model-engine-… · onnx-file
nvinfer配置文件结构
12
nvinfer基本配置
设置Engine文件路径 · 输入输出层名称 · 预处理参数（归一化
nvinfer基本配置
13
nvinfer推理配置
批处理大小 · 推理精度（FP32/FP16/INT… · 工作空间大小
nvinfer推理配置
14
nvinfer标签与可视化
配置标签文件（labels.txt） · 显示边界框 · 类别名称与置信度阈值
nvinfer标签
15
nvinfer与DeepStream管道集成
在gst-launch命令行中使用n… · 与nvstreammux · nvvideoconvert等插件串…
nvinferDeepStream
16
多模型推理
在单个DeepStream管道中配置… · 资源分配与性能平衡
多模型推理DeepStream
17
自定义模型适配
将自定义TensorRT Engin… · 处理输入输出维度不匹配 · 后处理逻辑
自定义模型适配TensorRT
18
nvinfer后处理配置
设置聚类（cluster）模式 · NMS参数 · 输出解析（如YOLO的tensor解…
nvinfer后处理配置
19
性能调优
使用DeepStream性能测量工具… · nvidia-smi） · 分析CPU/GPU利用率
性能调优DeepStream
20
常见错误排查
Engine加载失败 · 形状不匹配 · 精度异常
常见错误排查Engine
21
案例实战（一）
使用TensorRT部署YOLOv5… · 完成目标检测全流程
案例实战TensorRT
22
案例实战（二）
部署分类模型（如ResNet）到nv… · 实现视频流实时分类
案例实战ResNet
23
案例实战（三）
部署分割模型（如UNet）到Deep… · 处理多输出张量
案例实战UNet
24
案例实战（四）
多模型协同（检测+跟踪+分类）在De…
案例实战De
25
DLA与边缘部署
使用Jetson平台的DLA核心 · 低功耗推理配置 · nvinfer的DLA支持
DLA边缘部署
26
与Kafka/RTSP集成
将nvinfer推理结果通过Deep…
Kafka/RTSP集成
27
安全与稳定性
模型加密 · Engine文件保护 · 异常处理与长期运行稳定性
安全稳定性
28
版本迁移
DeepStream 5.x到6.x… · TensorRT版本升级注意事项
版本迁移DeepStream
29
综合项目
从零构建一个完整的智能视频分析应用（… · 涵盖模型转换 · nvinfer配置
综合项目从零构建一个完整…
30
课程总结与进阶
回顾核心知识点 · 常见误区 · 推荐学习资源
课程总结进阶