VIP11
本课程属于：082-TensorRT与ONNX推理部署工程 智能汽车与新能源汽车工程 · 共 11 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

自动驾驶TensorRT模型部署与推理优化

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入
目标=自动驾驶感知与推理部署全景 · TensorRT在车载计算平台中的定… · 学习目标与整体课程框架
课程导入目标=自动驾驶感…
02
自动驾驶计算平台与推理挑战
目标=车载SoC架构 · GPU与DLA异构计算 · 实时性
自动驾驶计算平台推理挑战
03
TensorRT基础概念
目标=Builder · Engine · Runtime
TensorRT基础概念
04
环境搭建与工具链
目标=CUDA · cuDNN · TensorRT安装
环境搭建工具链
05
模型导出与ONNX规范
目标=PyTorch到ONNX导出流… · 动态轴设置 · 算子版本控制
ONNX模型导出
06
TensorRT模型构建流程
目标=解析ONNX · 网络层融合 · 精度校准
TensorRT模型构建流程
07
精度优化与量化
目标=FP32 · FP16 · INT8精度对比
精度优化量化
08
层融合与图优化
目标=Conv-BN-ReLU融合 · 垂直与水平融合 · 消除恒等操作
层融合图优化
09
内核自动调优与选择
目标=Tactic选择机制 · cuDNN与cuBLAS内核 · 自定义内核注册
内核自动调优选择
10
动态Shape与批处理
目标=多Profile配置 · 优化Profile选择 · 批处理与流式推理
Shape动态
11
插件开发与自定义层
目标=TensorRT Plugin… · IPluginV2与IPluginV… · 自定义算子实现
插件开发自定义层
12
多流与并发推理
目标=CUDA Stream · 多ExecutionContext · 异步推理
多流并发推理
13
内存管理与优化
目标=设备内存分配 · 激活内存复用 · Workspace大小控制
内存管理优化
14
自动驾驶典型模型部署
目标=YOLO系列 · BEVFormer · PointPillars
自动驾驶典型模型…YOLO
15
后处理加速
目标=NMS · TopK · 解码
后处理加速NMS
16
端到端部署实战
目标=从PyTorch训练模型到Te…
端到端部署实战PyTorch
17
性能分析与调优
目标=Nsight Systems与… · 延迟分解 · 吞吐量瓶颈定位与优化闭环
性能分析调优
18
精度验证与回归测试
目标=Polygraphy精度对比 · 逐层误差分析 · 量化后精度下降定位与修复策略
精度验证回归测试
19
功能安全与可靠性
目标=ISO 26262对推理部署的… · 确定性推理 · 错误检测
功能安全可靠性
20
模型更新与OTA部署
目标=Engine版本管理 · 跨平台兼容性 · 安全OTA升级
OTA模型更新
21
常见问题与排错
目标=ONNX解析失败 · 精度不匹配 · Engine构建失败
常见问题排错
22
TensorRT与其它推理框架对比
目标=TensorRT · OpenVINO · ONNX Runtime
TensorRT其它推理框架对比
23
前沿趋势与硬件演进
目标=NVIDIA Orin与Tho… · Transformer推理优化 · 稀疏化与结构化剪枝
前沿趋势硬件演进
24
综合案例一
目标=基于YOLOv8的自动驾驶目标…
综合案例一YOLOv8
25
综合案例二
目标=BEV感知模型的多任务Tens…
综合案例二BEV
26
综合案例三
目标=激光雷达点云模型PointPi…
综合案例三PointPi
27
综合案例四
目标=多相机环视感知系统的多流并发推…
综合案例四目标=多相机环视…
28
综合案例五
目标=自动驾驶端到端大模型推理的显存…
综合案例五目标=自动驾驶端…
29
课程总结与知识体系
目标=核心知识点回顾 · 部署优化方法论 · 学习路径与进阶方向
课程总结知识体系
30
综合提升与项目实战
目标=从需求分析到方案设计 · 从模型部署到性能调优的完整项目实战与…
综合提升项目实战