1. 课程导入

自动驾驶正在从“规则驱动”走向“数据驱动”,并进一步迈向“世界模型驱动”。所谓世界模型,是让系统在内部构建一个可预测、可推演、可交互的环境表征:它不仅识别当前画面里有什么,还能回答“如果车辆这样动作,未来几秒世界会怎样变化”。而数据训练工程,则是把海量多模态数据转化为可训练、可验证、可迭代的数据资产与训练流水线。本课程围绕这两者的交汇点展开,帮助你建立从数据采集到模型闭环的完整工程认知。

本课程的核心命题是:如何用工程化方法,把真实世界与仿真世界中的多模态数据,高效地组织成可训练世界模型的数据底座,并持续驱动模型迭代。

一、学习目标:从“会调模型”到“会造数据闭环”

学习本课程后,你应当具备三类能力。第一,概念能力:理解世界模型、占用网络、神经辐射场、3D高斯泼溅、扩散模型、自回归预测等关键概念在自动驾驶中的角色与边界。第二,工程能力:能够设计数据采集、清洗、标注、切片、增强、缓存、训练、评测、回灌的完整流水线,并理解每一环对最终模型指标的影响。第三,系统能力:能够从算力、存储、带宽、成本、合规、安全等约束出发,权衡数据规模、模型容量与迭代速度。

  • 能说清世界模型与感知、预测、规划模块的关系;
  • 能画出数据训练工程的整体架构与关键数据流;
  • 能识别数据闭环中的瓶颈,并提出可落地的优化方案;
  • 能理解产业界对世界模型数据工程的真实需求与岗位分工。

二、核心概念:世界模型、数据训练工程与闭环

世界模型在自动驾驶中通常包含三个能力:表征、预测与生成。表征负责把多传感器输入压缩成紧凑的隐空间;预测负责在隐空间中推演未来状态;生成负责把隐状态解码为可解释的传感器信号或占用栅格。数据训练工程则围绕“数据—模型—评测—回灌”构建闭环:数据决定模型上限,模型暴露数据短板,评测定位短板,回灌补充短板。

一个常见的误区是把世界模型等同于“更大的感知模型”。实际上,世界模型强调对时序与因果的建模能力,它需要视频、点云序列、动作指令、地图先验等多源数据协同。另一个误区是只关注训练框架而忽视数据版本管理。没有版本化的数据,模型迭代就不可复现,实验结论也无法归因。

自动驾驶世界模型数据训练工程整体框架 多模态数据源 相机 / 激光雷达 / 毫米波 地图 / 轨迹 / 仿真 数据工程流水线 清洗 / 标注 / 切片 增强 / 缓存 / 版本化 世界模型训练 表征 / 预测 / 生成 占用 / NeRF / 3DGS 评测与回灌 指标 / 场景挖掘 难例回灌 / 再训练 数据闭环:评测发现短板 → 定向采集与回灌 → 模型再迭代 关键支撑层 算力与存储调度 数据版本与血缘 训练框架与加速 合规、安全与成本 产业价值输出 • 降低长尾场景采集成本 • 提升仿真到实车的泛化能力 • 缩短模型迭代周期 • 支撑端到端自动驾驶与规控联合优化 • 形成可复用的数据资产与评测基准 • 提升功能安全与预期功能安全的验证效率

三、整体框架:四层结构与一条闭环

如上图所示,本课程将知识体系组织为四层。第一层是多模态数据源,包括相机、激光雷达、毫米波雷达、IMU、GNSS、高精地图、轨迹日志以及仿真引擎生成的数据。第二层是数据工程流水线,负责清洗、标注、切片、增强、缓存与版本化。第三层是世界模型训练,涵盖表征学习、时序预测与生成式建模。第四层是评测与回灌,通过指标体系和场景挖掘把模型短板转化为下一轮数据需求。

贯穿四层的是一条数据闭环:评测发现短板,定向采集与回灌补充数据,模型再训练后再评测。闭环的速度与质量,直接决定自动驾驶系统的迭代效率。产业界常说“数据是新的石油”,但未经工程化处理的数据只是原油,只有经过流水线提炼,才能成为驱动世界模型的燃料。

四、案例与场景:从高速NOA到城市复杂路口

以高速NOA为例,世界模型需要预测前车加塞、匝道汇入、施工改道等场景的未来演化。数据训练工程要做的,是从海量高速日志中挖掘这些长尾片段,标注动态目标轨迹与静态要素,再通过仿真增强生成不同天气、光照与交通流组合。到了城市复杂路口,挑战升级为多智能体交互:行人、非机动车、对向车辆、信号灯状态共同决定未来。此时,世界模型的预测能力与数据工程的场景覆盖能力必须同步提升。

阶段核心任务关键数据典型指标
数据采集多传感器同步与标定图像、点云、IMU、轨迹时间同步误差、标定精度
数据加工清洗、标注、切片、增强场景片段、标注框、占用栅格标注一致性、场景覆盖率
模型训练表征、预测、生成联合优化训练集、验证集、难例集预测误差、生成质量、泛化性
评测回灌指标评测与短板挖掘失败案例、边缘场景闭环迭代周期、回灌命中率

五、误区与复盘:数据工程不是“脏活累活”

常见误区一:只追求数据量,忽视数据分布与场景均衡。误区二:把标注质量当成一次性任务,缺少持续校验与版本追踪。误区三:训练与评测脱节,模型指标好看但实车表现差。误区四:忽视合规与隐私,导致数据无法跨团队复用。

复盘时可以用三个问题检验数据工程是否健康:第一,任意一次模型迭代能否追溯到具体数据版本?第二,评测发现的短板能否在两周内转化为新的训练数据?第三,数据流水线的吞吐是否跟得上模型训练速度?如果答案是否定的,说明闭环存在断点。

# 数据闭环健康度自检清单(示例)
1. 数据版本:每次训练是否绑定 dataset_version 与 commit_id?
2. 场景覆盖:长尾场景占比是否持续监控并设定阈值?
3. 标注质量:是否有人工抽检与自动一致性校验双保险?
4. 回灌效率:从评测失败到数据回灌的平均周期是多少天?
5. 成本可控:单位有效训练样本的采集与标注成本是否下降?

六、产业价值:为什么现在必须学

随着端到端自动驾驶与世界模型成为行业热点,数据训练工程从后台支撑走向核心竞争力。它决定了三件事:一是模型能否在长尾场景中安全泛化;二是仿真与实车之间能否高效迁移;三是研发投入能否转化为可复用的数据资产。掌握这套工程方法,你不仅能训练模型,更能设计让模型持续变强的系统。

学习建议:先建立全局框架,再逐章深入数据采集、标注、增强、训练、评测与回灌。每学完一章,尝试用一张图或一段配置描述该环节的输入、输出与关键指标,形成自己的工程笔记。