第1章
课程导论与基础
融合跟踪技术概述、应用场景(自动驾驶、机器人)、课程目标与学习路径。
概述应用
第2章
传感器原理与标定
激光雷达工作原理(ToF、机械式/固态)、相机成像模型、传感器联合标定(内参/外参)。
标定传感器
第3章
点云预处理技术
点云滤波(体素滤波、统计滤波)、地面分割(RANSAC、Patchwork)、点云聚类(DBSCAN、欧式聚类)。
滤波分割聚类
第4章
视觉预处理技术
图像去畸变、图像增强(直方图均衡化)、特征提取(SIFT、ORB、深度学习特征)。
图像特征
第5章
目标检测基础
2D目标检测(YOLO系列、Faster R-CNN)、3D目标检测(PointPillars、VoxelNet)、检测评价指标(mAP、IoU)。
检测YOLO3D
第6章
多目标跟踪基础
卡尔曼滤波原理、匈牙利算法与数据关联、SORT与DeepSORT算法。
跟踪卡尔曼SORT
第7章
BEV视角感知
BEV空间转换原理、LSS(Lift-Splat-Shoot)方法、BEVFormer架构。
BEVLSSTransformer
第8章
点云与图像融合策略
前融合(Early Fusion)、特征融合(Feature Fusion)、后融合(Late Fusion)、注意力机制融合。
融合注意力
第9章
基于CenterPoint的融合跟踪
CenterPoint架构详解、多模态特征融合、跟踪头设计。
CenterPoint多模态
第10章
基于TransFusion的融合跟踪
Transformer在融合中的应用、Query-based目标检测、端到端跟踪。
Transformer端到端
第11章
基于DeepFusion的融合跟踪
点云与图像特征对齐、跨模态注意力、时序融合。
跨模态时序
第12章
基于MOTR的端到端跟踪
Transformer跟踪器、Track Query机制、时序一致性建模。
MOTRQuery
第13章
基于ByteTrack的融合跟踪
BYTE数据关联策略、低分检测框利用、多模态扩展。
ByteTrack关联
第14章
基于OC-SORT的鲁棒跟踪
观测中心SORT、遮挡处理、非线性运动建模。
OC-SORT遮挡
第15章
基于BoT-SORT的融合跟踪
相机运动补偿、IoU-ReID融合、参数调优。
BoT-SORTReID
第16章
基于StrongSORT的融合跟踪
EMA外观更新、GNN关联、相机运动补偿。
StrongSORTGNN
第17章
基于FairMOT的融合跟踪
Anchor-Free检测、ReID分支、多任务学习。
FairMOTAnchor-Free
第18章
基于QDTrack的融合跟踪
Quasi-Dense相似度学习、对比学习、密集关联。
QDTrack对比学习
第19章
基于MOT17数据集的实战
数据集格式、评估指标(MOTA、IDF1)、训练与测试流程。
MOT17MOTA
第20章
基于nuScenes数据集的实战
数据集介绍、传感器配置、标注格式、评估指标(AMOTA、AMOTP)。
nuScenesAMOTA
第21章
基于Waymo数据集的实战
数据集特点、场景多样性、挑战与解决方案。
Waymo场景
第22章
基于KITTI数据集的实战
KITTI跟踪基准、数据预处理、结果提交与评估。
KITTI基准
第23章
基于MMTracking框架的实践
框架介绍、配置文件编写、模型训练与推理。
MMTracking框架
第24章
基于OpenPCDet框架的实践
点云检测框架、融合模块集成、自定义数据集。
OpenPCDet点云
第25章
基于ROS的融合跟踪系统
ROS节点设计、消息同步、可视化(RViz)。
ROSRViz
第26章
模型部署与优化
ONNX导出、TensorRT加速、量化与剪枝、嵌入式平台适配。
部署TensorRT
第27章
多传感器时间同步
硬件同步方案、软件同步(PPS、NTP)、时间戳对齐。
同步PPS
第28章
遮挡与长时跟踪挑战
遮挡处理策略、ReID重识别、轨迹生命周期管理。
遮挡ReID
第29章
多目标跟踪评价体系
CLEAR指标、ID指标、HOTA指标、实际工程中的评价标准。
HOTA评价
第30章
课程总结与前沿展望
端到端跟踪趋势、大模型在跟踪中的应用、未来研究方向。
前沿大模型