01
感知融合概述
什么是多传感器融合、为什么需要融合、融合的层级(数据级/特征级/目标级)、典型应用场景(自动驾驶/机器人)
基础概念
02
核心传感器原理回顾
Camera成像原理与坐标系、LiDAR点云特性与坐标系、Radar多普勒效应与坐标系、IMU/GNSS基础
传感器坐标
03
时间同步难题
硬件同步方案(PTP/)、软件同步方案(插值/外推)、时间戳管理、延迟补偿策略
同步延迟
04
空间对齐与标定
传感器内参标定、外参标定(Camera-LiDAR、LiDAR-Radar)、联合标定流程、在线标定方法
标定空间
05
数据级融合实战
原始数据拼接、点云与图像投影、BEV视角转换、数据增强与预处理
数据级BEV
06
特征级融合实战
Backbone网络选择、多模态特征提取、特征对齐(Attention/Transformer)、特征融合策略(Add/Concat)
特征Transformer
07
目标级融合实战
检测结果关联(匈牙利算法)、卡尔曼滤波跟踪、航迹管理、生命周期管理
目标跟踪
08
融合中的不确定性处理
传感器噪声模型、置信度评估、协方差传递、鲁棒融合策略
不确定性鲁棒
09
性能瓶颈分析
计算瓶颈(CPU/GPU/内存)、I/O瓶颈(传感器数据流)、算法瓶颈(复杂场景)、系统瓶颈(调度/延迟)
性能瓶颈
10
模型轻量化技术
模型剪枝、知识蒸馏、量化(INT8/FP16)、轻量化网络设计(MobileNet/ShuffleNet)
轻量化量化
11
算子优化与加速
卷积优化(Winograd/FFT)、稀疏计算、TensorRT部署、ONNX Runtime优化
算子TensorRT
12
并行计算与异构计算
CUDA编程基础、多线程流水线设计、GPU/CPU协同、FPGA加速方案
并行异构
13
数据流与内存管理
零拷贝技术、内存池设计、DMA传输优化、缓存友好设计
内存数据流
14
实时操作系统与调度
RTOS选型、任务优先级设计、DAG调度、延迟抖动控制
RTOS调度
15
通信中间件优化
ROS2/DDS性能调优、ZeroMQ/共享内存、数据序列化优化(FlatBuffers/Cap'n Proto)
中间件DDS
16
场景驱动的融合策略
高速场景(远距离/高动态)、城区场景(遮挡/多目标)、泊车场景(近距离/高精度)
场景策略
17
传感器失效与降级处理
传感器故障检测、降级融合策略、安全冗余设计、功能安全(ISO 26262)
失效安全
18
融合系统的测试与评估
离线评测(数据集/指标)、在线评测(实车/仿真)、MIL/SIL/HIL测试
测试评估
19
数据集与仿真工具
nuScenes/Waymo/KITTI数据集、CARLA/Gazebo仿真、数据回放与注入
数据集仿真
20
端到端融合方案探索
端到端模型架构、可微融合层、BEVFormer/UniAD等前沿方案
端到端BEVFormer
21
融合中的深度学习优化
训练加速(混合精度/分布式)、推理优化(TensorRT/OpenVINO)、模型部署
训练推理
22
多模态Transformer实战
Cross-Attention设计、模态间交互、位置编码、计算复杂度优化
Transformer多模态
23
BEV感知与融合
BEV特征构建、LSS方案、Transformer方案、时序融合
BEVLSS
24
4D毫米波雷达融合
4D Radar特性、点云增强、与Camera/LiDAR融合策略
4D Radar融合
25
融合中的语义信息利用
语义分割辅助、语义地图融合、V2X信息融合
语义V2X
26
融合系统的可解释性
注意力可视化、特征图分析、决策溯源、调试工具
可解释性可视化
27
融合系统的持续学习
增量学习、域适应、在线更新、数据分布漂移处理
持续学习域适应
28
融合系统的安全与隐私
对抗攻击防御、数据脱敏、联邦学习、合规性
安全隐私
29
融合系统的工程化落地
代码规范、版本管理、CI/CD、监控与告警
工程化CI/CD
30
融合系统未来趋势
多模态大模型、神经辐射场(NeRF)、具身智能、车路云一体化
未来NeRF