📚 课程目录第4章数据训练工程概览

4. 数据训练工程概览

自动驾驶世界模型的能力上限，很大程度上由数据训练工程决定。所谓数据训练工程，并不是“采一批数据、标一批标签、跑一次训练”这么简单，而是一条从物理世界到模型参数、再回到车端部署的闭环流水线。它包含七个关键阶段：数据采集、标注、存储、处理、训练、评估、部署。每个阶段都有明确的输入、输出和质量门禁，前一阶段的缺陷往往会在后一阶段被放大，因此工程上强调“上游可追溯、下游可复现”。

核心链路：真实/仿真场景 → 传感器原始数据 → 标注与元数据 → 数据湖存储 → 清洗与增强 → 分布式训练 → 离线/闭环评估 → 车端部署 → 回传新数据，形成数据飞轮。

一、核心原理：数据是模型的“燃料”，工程是“炼油厂”

世界模型需要学习物理规律、交互因果和长时预测，因此对数据的多样性、时序一致性、标注精度要求远高于普通感知模型。数据训练工程的核心原理可以概括为三点：

闭环性：部署后的模型表现会暴露数据盲区，必须通过回传机制把新场景重新注入训练集。
可追溯性：每条样本都要能追溯到采集车辆、时间、传感器标定版本和标注人员，否则无法定位模型退化原因。
版本化：数据、标注、代码、模型、配置必须统一版本管理，保证任意一次训练结果可复现。

二、方法流程：七个阶段的输入输出与关键动作

阶段	核心输入	关键动作	典型输出
数据采集	采集任务、路线、传感器配置	多传感器同步、时间戳对齐、场景触发	原始数据包（rosbag/自定义格式）
数据标注	原始数据、标注规范	2D/3D框、语义分割、轨迹、属性标注	标注文件、质检报告
数据存储	原始数据、标注、元数据	分层存储、索引、生命周期管理	数据湖、数据集版本
数据处理	数据集版本、处理算子	清洗、去重、增强、切片、格式转换	训练就绪数据集
模型训练	训练集、模型结构、超参	分布式训练、混合精度、断点续训	模型权重、训练日志
模型评估	验证集、仿真场景、评测指标	离线指标、闭环仿真、回归测试	评估报告、门禁结论
车端部署	通过评估的模型、目标硬件	量化、编译、OTA、灰度发布	车端模型包、监控数据

三、案例/场景：一次“鬼探头”难例的完整旅程

假设某城市路口出现“鬼探头”场景：行人从遮挡车辆后方突然横穿。采集车触发紧急制动并记录数据包；标注团队对行人轨迹、遮挡关系、自车制动响应进行精细标注；数据湖按“城市路口/遮挡/行人横穿”打标签；处理阶段抽取该片段并做时序增强，生成多帧预测样本；训练阶段将样本加入世界模型预测任务；评估阶段在闭环仿真中复现该场景，检查模型是否提前减速；通过后部署到车端，并持续监控同类场景的触发率。整个过程体现了从场景发现到能力固化的完整链路。

四、误区与复盘

常见误区一：只关注标注数量，忽视标注一致性。不同标注员对“遮挡”定义不一致，会导致模型学到矛盾信号。
常见误区二：训练集与验证集同源。同一段连续视频被切分到训练和验证，指标虚高，实际泛化差。
常见误区三：部署后不回流。模型上线即“断线”，无法发现长尾场景退化。

复盘建议：建立数据质量看板，跟踪“采集覆盖率、标注返工率、训练收敛曲线、评估通过率、部署回滚率”五项指标；每次模型迭代必须附带数据版本号和评估报告，形成可审计的工程记录。

# 数据版本与训练配置示例（伪代码）
dataset:
  name: world_model_city_v3
  version: 2025.06.18
  source: s3://ad-data/lake/city/
  labels: s3://ad-data/labels/city_v3/
  split: {train: 0.8, val: 0.1, test: 0.1}
train:
  model: world_model_transformer
  batch_size: 64
  precision: bf16
  epochs: 120
  checkpoint: s3://ad-models/wm/v3/
eval:
  metrics: [ade, fde, collision_rate, comfort_score]
  gate: collision_rate < 0.01

数据训练工程不是线性流水线，而是一个持续旋转的飞轮。采集决定数据广度，标注决定数据精度，存储与处理决定数据可用性，训练与评估决定模型能力，部署与回传决定飞轮能否持续加速。只有把七个阶段当作一个整体系统来设计，世界模型才能在真实道路中不断进化。