VIP20
本课程属于：032-NVIDIA Jetson边缘AI推理部署 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

3. Jetson模型部署：PyTorch模型到TensorRT推理

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
Jetson平台与TensorRT简… · 课程目标 · 学习路径与前置知识要求
课程导入Jetson
02
环境搭建
Jetson设备初始化 · JetPack SDK安装 · PyTorch与TensorRT环境…
环境搭建Jetson
03
PyTorch模型基础
模型定义 · 训练与导出流程 · torch.jit.trace与to…
PyTorch模型基础
04
ONNX作为中间格式
PyTorch导出ONNX的步骤 · 算子兼容性检查 · 动态轴设置与优化
ONNX作为
05
TensorRT核心概念
网络定义 · 引擎构建 · 序列化与反序列化
TensorRT核心概念
06
TensorRT工作流
从ONNX到TensorRT引擎的完… · trtexec工具的使用
TensorRT工作流
07
Python API部署
使用TensorRT Python… · 执行推理 · 处理输入输出
PythonAPI
08
C++ API部署
TensorRT C++ API基础 · 内存管理 · 流式推理与性能对比
C++API
09
模型优化技巧
层融合 · 精度校准 · 动态形状处理
模型优化技巧层融合
10
INT8量化实战
校准数据集准备 · 校准器实现 · INT8精度评估与调优
INT8量化实战
11
多模型与多流推理
多引擎管理 · 多线程推理 · 批处理与并发优化
多模型多流推理
12
案例实战
图像分类模型（ResNet）从PyT…
案例实战ResNet
13
案例实战
目标检测模型（YOLOv5）部署 · NMS处理与后处理优化
案例实战YOLOv5
14
案例实战
语义分割模型（DeepLabV3）部… · 输出解析与可视化
案例实战DeepLabV3
15
视频流推理
使用DeepStream SDK集成… · 视频解码与批处理流水线
视频流推理DeepStream
16
性能分析
使用Nsight Systems与N… · 优化策略
性能分析Nsight
17
常见问题与调试
引擎构建失败 · 精度下降 · 内存泄漏
常见问题调试
18
模型安全与版本管理
模型加密 · 引擎版本兼容性 · 部署更新策略
模型安全版本管理
19
边缘部署最佳实践
功耗控制 · 散热管理 · 持久化服务与看门狗
边缘部署最佳实践功耗控制
20
综合项目
从PyTorch训练到TensorR…
综合项目PyTorch
21
进阶
TensorRT插件开发 · 注册与集成
进阶TensorRT
22
进阶
多精度混合推理 · 精度与速度权衡
进阶多精度混合推理
23
进阶
TensorRT与PyTorch联合…
进阶TensorRT
24
进阶
模型压缩与剪枝 · 量化感知训练与TensorRT结合
进阶模型压缩
25
进阶
多GPU与分布式推理 · 负载均衡与通信优化
进阶GPU
26
实战调优
针对Jetson Nano/Xavi…
实战调优Jetson
27
实战调优
内存带宽与计算利用率分析 · 算子级优化案例
实战调优内存带宽
28
实战调优
低延迟场景优化：减少首延迟 · 稳定帧率 · 实时性保障
实战调优低延迟场景优化
29
综合提升
构建可复用的部署框架：抽象接口 · 配置化 · 自动化测试与CI/CD
综合提升构建可复用的部署…
30
课程总结与展望
回顾核心技能 · 常见误区 · 未来趋势（TensorRT 10
课程总结回顾核心技能