1. 课程导入
自动驾驶正在从“规则驱动”走向“数据驱动”,并进一步迈向“世界模型驱动”。所谓世界模型,是让系统在内部构建一个可预测、可推演、可交互的环境表征:它不仅识别当前画面里有什么,还能回答“如果车辆这样动作,未来几秒世界会怎样变化”。而数据训练工程,则是把海量多模态数据转化为可训练、可验证、可迭代的数据资产与训练流水线。本课程围绕这两者的交汇点展开,帮助你建立从数据采集到模型闭环的完整工程认知。
一、学习目标:从“会调模型”到“会造数据闭环”
学习本课程后,你应当具备三类能力。第一,概念能力:理解世界模型、占用网络、神经辐射场、3D高斯泼溅、扩散模型、自回归预测等关键概念在自动驾驶中的角色与边界。第二,工程能力:能够设计数据采集、清洗、标注、切片、增强、缓存、训练、评测、回灌的完整流水线,并理解每一环对最终模型指标的影响。第三,系统能力:能够从算力、存储、带宽、成本、合规、安全等约束出发,权衡数据规模、模型容量与迭代速度。
- 能说清世界模型与感知、预测、规划模块的关系;
- 能画出数据训练工程的整体架构与关键数据流;
- 能识别数据闭环中的瓶颈,并提出可落地的优化方案;
- 能理解产业界对世界模型数据工程的真实需求与岗位分工。
二、核心概念:世界模型、数据训练工程与闭环
世界模型在自动驾驶中通常包含三个能力:表征、预测与生成。表征负责把多传感器输入压缩成紧凑的隐空间;预测负责在隐空间中推演未来状态;生成负责把隐状态解码为可解释的传感器信号或占用栅格。数据训练工程则围绕“数据—模型—评测—回灌”构建闭环:数据决定模型上限,模型暴露数据短板,评测定位短板,回灌补充短板。
一个常见的误区是把世界模型等同于“更大的感知模型”。实际上,世界模型强调对时序与因果的建模能力,它需要视频、点云序列、动作指令、地图先验等多源数据协同。另一个误区是只关注训练框架而忽视数据版本管理。没有版本化的数据,模型迭代就不可复现,实验结论也无法归因。
三、整体框架:四层结构与一条闭环
如上图所示,本课程将知识体系组织为四层。第一层是多模态数据源,包括相机、激光雷达、毫米波雷达、IMU、GNSS、高精地图、轨迹日志以及仿真引擎生成的数据。第二层是数据工程流水线,负责清洗、标注、切片、增强、缓存与版本化。第三层是世界模型训练,涵盖表征学习、时序预测与生成式建模。第四层是评测与回灌,通过指标体系和场景挖掘把模型短板转化为下一轮数据需求。
贯穿四层的是一条数据闭环:评测发现短板,定向采集与回灌补充数据,模型再训练后再评测。闭环的速度与质量,直接决定自动驾驶系统的迭代效率。产业界常说“数据是新的石油”,但未经工程化处理的数据只是原油,只有经过流水线提炼,才能成为驱动世界模型的燃料。
四、案例与场景:从高速NOA到城市复杂路口
以高速NOA为例,世界模型需要预测前车加塞、匝道汇入、施工改道等场景的未来演化。数据训练工程要做的,是从海量高速日志中挖掘这些长尾片段,标注动态目标轨迹与静态要素,再通过仿真增强生成不同天气、光照与交通流组合。到了城市复杂路口,挑战升级为多智能体交互:行人、非机动车、对向车辆、信号灯状态共同决定未来。此时,世界模型的预测能力与数据工程的场景覆盖能力必须同步提升。
| 阶段 | 核心任务 | 关键数据 | 典型指标 |
|---|---|---|---|
| 数据采集 | 多传感器同步与标定 | 图像、点云、IMU、轨迹 | 时间同步误差、标定精度 |
| 数据加工 | 清洗、标注、切片、增强 | 场景片段、标注框、占用栅格 | 标注一致性、场景覆盖率 |
| 模型训练 | 表征、预测、生成联合优化 | 训练集、验证集、难例集 | 预测误差、生成质量、泛化性 |
| 评测回灌 | 指标评测与短板挖掘 | 失败案例、边缘场景 | 闭环迭代周期、回灌命中率 |
五、误区与复盘:数据工程不是“脏活累活”
复盘时可以用三个问题检验数据工程是否健康:第一,任意一次模型迭代能否追溯到具体数据版本?第二,评测发现的短板能否在两周内转化为新的训练数据?第三,数据流水线的吞吐是否跟得上模型训练速度?如果答案是否定的,说明闭环存在断点。
# 数据闭环健康度自检清单(示例)
1. 数据版本:每次训练是否绑定 dataset_version 与 commit_id?
2. 场景覆盖:长尾场景占比是否持续监控并设定阈值?
3. 标注质量:是否有人工抽检与自动一致性校验双保险?
4. 回灌效率:从评测失败到数据回灌的平均周期是多少天?
5. 成本可控:单位有效训练样本的采集与标注成本是否下降?
六、产业价值:为什么现在必须学
随着端到端自动驾驶与世界模型成为行业热点,数据训练工程从后台支撑走向核心竞争力。它决定了三件事:一是模型能否在长尾场景中安全泛化;二是仿真与实车之间能否高效迁移;三是研发投入能否转化为可复用的数据资产。掌握这套工程方法,你不仅能训练模型,更能设计让模型持续变强的系统。