VIP11
本课程属于：082-TensorRT与ONNX推理部署工程 智能汽车与新能源汽车工程 · 共 11 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

自动驾驶多模型并发推理系统工程

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入
目标=自动驾驶多模型并发推理系统工程… · 核心概念 · 整体框架与产业背景
课程导入目标=自动驾驶多…
02
自动驾驶感知与推理基础
目标=传感器数据流 · 感知任务分类 · 模型推理在自动驾驶中的角色与典型应用…
自动驾驶感知推理基础
03
多模型并发推理概述
目标=并发推理的定义 · 必要性 · 挑战
多模型并发推理概…目标=并发推理的…
04
模型部署与运行时基础
目标=模型格式 · 推理引擎 · 硬件加速器
模型部署运行时基础
05
并发编程与并行计算基础
目标=进程 · 线程 · 协程
并发编程并行计算基础
06
自动驾驶多模型工作负载分析
目标=模型类型 · 计算特征 · 内存占用
自动驾驶多模型工…目标=模型类型
07
推理任务调度与编排
目标=优先级调度 · 时间片轮转 · DAG调度
推理任务调度编排
08
资源管理与隔离
目标=GPU/CPU/NPU资源分配 · 内存池 · 显存管理
资源管理隔离
09
模型间通信与数据交换
目标=共享内存 · 零拷贝 · 消息队列
模型间通信数据交换
10
并发推理中的同步与互斥
目标=锁 · 信号量 · 屏障
并发推理同步
11
批处理与动态批处理策略
目标=静态批 · 动态批 · 连续批处理
批处理动态批处理策略
12
流水线并行与模型并行
目标=层间流水线 · 张量并行 · 模型切分与跨设备协同推理
流水线并行模型并行
13
多模型并发推理的时延优化
目标=端到端时延分解 · 关键路径分析 · 尾时延抑制与实时性保障
多模型并发推理的…目标=端到端时延…
14
吞吐量与资源利用率优化
目标=并发度调优 · 计算图优化 · 算子融合与内存复用
吞吐量资源利用率优化
15
异构计算与硬件加速
目标=GPU · NPU · FPGA
异构计算硬件加速
16
推理服务框架与中间件
目标=TensorRT · Triton · ONNX Runtime
推理服务框架间件
17
容器化与编排
目标=Docker · Kubernetes · KubeEdge在自动驾驶推理服务中…
容器化编排
18
边缘-云协同推理
目标=端边云架构 · 任务卸载 · 协同调度与通信优化
边缘云协同推理
19
功能安全与实时性
目标=ISO 26262 · SOTIF · 实时操作系统
功能安全实时性
20
可靠性与容错设计
目标=冗余推理 · 模型热备 · 降级策略
可靠性容错设计
21
性能评测与基准测试
目标=指标定义 · 测试工具 · 压力测试
性能评测基准测试
22
监控、日志与可观测性
目标=指标采集 · 分布式追踪 · 可视化看板与告警系统
监控日志
23
案例实战一
目标=城市NOA多模型并发推理系统设…
案例实战一NOA
24
案例实战二
目标=高速场景下多摄像头与激光雷达融…
案例实战二目标=高速场景下…
25
案例实战三
目标=泊车场景中多任务模型并发推理的…
案例实战三目标=泊车场景
26
常见问题与调试技巧
目标=显存溢出 · 死锁 · 优先级反转
常见问题调试技巧
27
安全与隐私保护
目标=模型加密 · 数据脱敏 · 安全隔离与合规性要求
安全隐私保护
28
系统集成与测试
目标=CI/CD · 仿真测试 · 硬件在环测试与实车验证流程
系统集成测试
29
前沿趋势与新技术
目标=大模型推理 · 端到端自动驾驶 · 神经形态计算与量子加速展望
前沿趋势新技术
30
综合提升与项目实战
目标=从需求分析到部署上线的完整项目… · 团队协作与工程最佳实践
综合提升项目实战