VIP20

本课程属于：167-NVIDIA DRIVE智能驾驶计算平台工程 智能汽车与新能源汽车工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NVIDIA DRIVE车载AI推理系统部署与性能优化

共计 30 章节

可可资料掘金营 · 点击在线试看

课程导入与NVIDIA DRIVE平台概览

目标=学习目标 · 车载AI推理系统部署与性能优化的整体… · NVIDIA DRIVE产品线定位与…

NVIDIA DRIVE硬件架构解析

目标=Orin与Thor芯片架构 · GPU与DLA与PVA异构计算单元 · 内存层次与带宽特性

车载AI推理软件栈总览

目标=DriveOS · CUDA · TensorRT

开发环境搭建与交叉编译

目标=主机开发环境配置 · 目标板卡连接 · 交叉编译工具链

开发环境搭建交叉编译

模型部署流程与格式转换

目标=从PyTorch与Tensor… · ONNX到TensorRT引擎 · 精度校准与层融合策略

模型部署流程格式转换

TensorRT推理引擎构建与优化

目标=Builder配置 · 精度模式选择 · 动态形状支持

TensorRT推理引擎构建

DLA与PVA推理部署

目标=DLA支持的算子集 · DLA与GPU协同推理 · PVA在视觉预处理中的应用

车载多传感器数据接入与预处理

目标=摄像头与激光雷达与毫米波雷达数… · NvMedia与VPI加速预处理 · 零拷贝与统一内存

车载多传感器数据…预处理

推理流水线设计与并行化

目标=多模型流水线 · CUDA流与事件同步 · 批处理与微批处理

推理流水线设计并行化

内存管理与数据传输优化

目标=统一内存与固定内存 · 零拷贝技术 · DMA传输

内存管理数据传输优化

模型量化与精度优化

目标=FP16与INT8与INT4量… · 量化感知训练 · 校准数据集构建

模型量化精度优化

算子优化与自定义内核

目标=TensorRT插件开发 · CUDA自定义算子 · 算子融合与替换

算子优化自定义内核

性能剖析与瓶颈定位

目标=Nsight Systems与… · DRIVE专用性能计数器 · 延迟分解与热点分析

性能剖析瓶颈定位

实时性与确定性调度

目标=车载实时操作系统 · 推理任务优先级 · GPU与DLA调度策略

实时性确定性调度

功耗与热管理优化

目标=车载功耗约束 · 动态频率与电压调节 · 热节流应对

功耗热管理优化

功能安全与信息安全部署

目标=ISO 26262与ASIL等… · 安全推理机制 · 模型加密与安全启动

功能安全信息安全部署

多模型并发与资源隔离

目标=多任务推理场景 · GPU与DLA资源分区 · QoS保障

多模型并发资源隔离

端到端自动驾驶推理案例

目标=感知与规划与控制模型部署 · 多模型协同 · 端到端延迟优化实战

端到端自动驾驶推…目标=感知

驾驶员监控与座舱AI推理部署

目标=DMS与OMS模型部署 · 低延迟人脸与手势推理 · 多路视频流处理优化

AI驾驶员监控

自动泊车与环视推理系统

目标=鱼眼相机畸变校正 · 环视拼接与车位检测 · 低速场景推理优化

自动泊车环视推理系统

激光雷达点云推理部署

目标=PointPillars与Ce… · 体素化预处理加速 · 点云推理性能调优

激光雷达点云推理…PointPillars

BEV与Transformer模型部署

目标=BEVFormer与BEVDe… · 注意力算子优化 · 大模型车载部署挑战

模型压缩与知识蒸馏

目标=剪枝与蒸馏与低秩分解 · 压缩后模型部署 · 精度恢复与性能提升

模型压缩知识蒸馏

推理服务化与中间件集成

目标=ROS2与AUTOSAR Ad… · 推理服务封装 · 通信中间件与零拷贝传输

推理服务化间件集成

云端协同与模型更新

目标=云端训练与车端推理协同 · 模型版本管理 · 增量更新与热切换

云端协同模型更新

性能基准测试与评估

目标=MLPerf与DRIVE基准 · 自定义基准设计 · 延迟与吞吐与精度指标

性能基准测试评估

典型性能问题诊断与解决

目标=推理延迟抖动 · 内存泄漏 · GPU利用率低

典型性能问题诊断解决

部署工具链与自动化

目标=TensorRT与DriveW… · CI与CD流水线 · 自动化测试与回归验证

部署工具链自动化

量产部署与工程化实践

目标=量产约束与流程 · 版本管理与回滚 · 现场问题追踪

量产部署工程化实践

前沿趋势与综合实战

目标=NVIDIA DRIVE最新技… · 大模型与端到端自动驾驶 · 综合项目部署与优化全流程演练

前沿趋势综合实战