1. 课程导入

欢迎进入《驾驶世界模型时空状态预测工程》课程。在自动驾驶从“感知—规划—控制”的模块化流水线,逐步走向端到端学习与生成式决策的今天,一个核心问题被反复提出:机器能否像人类驾驶员一样,在脑中“预演”未来几秒的道路演化?这正是驾驶世界模型(Driving World Model)要回答的问题。它不是简单的目标检测或轨迹回归,而是对驾驶场景在时间与空间维度上的联合建模与推演。

一句话定义:驾驶世界模型是以多模态传感器历史观测为输入,学习驾驶场景的时空隐状态表示,并对未来场景演化(自车运动、他车轨迹、道路结构、语义占用等)进行可预测、可条件生成、可评估的神经网络模型。

一、核心原理:从“看到”到“预演”

传统感知模块回答“现在有什么”,预测模块回答“别人会怎么动”,而世界模型进一步回答“如果这样,接下来世界会变成什么样”。其核心原理可拆解为三个层次:

  • 状态编码:将摄像头、激光雷达、毫米波雷达、高精地图与自车状态压缩为统一的时空隐状态 z_t,既包含几何结构,也包含语义与动态意图。
  • 动力学演化:学习状态转移 z_{t+1} = f(z_t, a_t),其中 a_t 为自车动作或驾驶指令,使模型具备“动作条件”下的反事实推演能力。
  • 解码与预测:从隐状态解码出未来 BEV 语义图、占用栅格、他车轨迹、自车轨迹或图像视频,形成可被规划器消费的预测结果。

与纯判别式预测不同,世界模型强调生成性与一致性:预测出的未来必须在几何、物理与语义上自洽,例如车辆不能穿墙、行人不会瞬移、车道线保持连续。

二、时空状态预测的目标

本课程聚焦“时空状态预测”,即同时处理空间结构(哪里有什么)与时间演化(接下来怎么变)。具体目标包括:

  1. 短时预测(0.5~3秒):支撑碰撞预警、紧急制动与局部避障,要求低延迟、高召回。
  2. 中时预测(3~8秒):支撑变道决策、路口通行与交互博弈,要求多模态、概率化。
  3. 长时推演(8秒以上):支撑全局路径选择与场景理解,要求语义一致与物理合理。
  4. 反事实推演:回答“如果我减速/变道,他车会如何反应”,为规划提供可比较的未来分支。

这些目标共同构成一个预测—评估—决策闭环,而世界模型是闭环中的“仿真内核”。

三、课程整体框架与学习路径

本课程共30章,按“基础—表示—建模—训练—评估—部署”递进组织。下图给出课程知识架构与学习路径,帮助你在开始前建立全局地图。

驾驶世界模型 · 课程知识架构与学习路径 从数据表示到时空预测,再到训练评估与工程部署 输入层 多视角相机 · 激光雷达点云 · 毫米波雷达 · 高精地图 · 自车状态 · 驾驶指令 多模态时空数据 ① 基础与表示 BEV / 占用栅格 时空张量表示 坐标系与对齐 数据集与标注 ② 时空建模 时序编码器 Transformer / RNN 扩散与自回归 隐状态动力学 ③ 预测任务 轨迹预测 占用预测 视频生成 反事实推演 ④ 训练与评估 损失与对齐 多模态采样 一致性指标 闭环评测 ⑤ 工程部署 推理加速 车端量化 安全冗余 数据闭环 输出:未来时空状态预测 自车轨迹 · 他车轨迹 · BEV占用 · 语义演化 · 风险热力图 推荐学习路径 概念与表示 时空建模 预测任务 训练评估 部署

学习路径建议按模块顺序推进:先建立时空表示与坐标系直觉,再掌握时序建模工具,随后进入具体预测任务,最后完成训练评估与工程部署。每一章都配有可运行的代码片段与参数说明。

四、典型场景:一个路口左转的推演

假设自车在城市路口准备左转,对向有直行车流,右侧有行人等待过街。世界模型需要同时预测:

  • 对向车辆在未来3秒是否减速让行,还是保持速度通过;
  • 右侧行人是否迈入斑马线,以及迈入的时机;
  • 自车若此时左转,是否会与对向车流形成冲突;
  • 若自车等待1秒再转,冲突概率如何变化。

这些问题的答案不是单一轨迹,而是一组带概率的未来状态。世界模型的价值在于:它能在隐空间中并行推演多个未来分支,并给出每个分支的语义占用与风险评分,供规划器选择。

五、常见误区与复盘

误区一:把世界模型等同于视频生成。视频生成只关注像素逼真,而驾驶世界模型必须保证几何与物理一致性,像素好看不等于预测可用。
误区二:只做单步预测。单步预测容易“看起来准”,但误差会随推演步数累积。必须关注多步一致性与闭环表现。
误区三:忽略自车动作条件。没有动作条件的模型只能被动预测,无法支撑规划决策,也无法做反事实推演。

复盘时建议用下表检查一个世界模型方案是否完整:

检查项 关键问题 合格标准
状态表示 是否统一了多模态与时空维度? BEV/占用/隐状态可对齐,坐标系明确
动作条件 是否支持自车动作输入? 可做反事实推演与条件生成
多模态输出 是否输出概率化未来? 至少覆盖轨迹与占用两类任务
一致性 预测是否物理自洽? 无穿墙、无瞬移、车道连续
闭环评估 是否在仿真或实车闭环中验证? 有闭环指标与安全冗余

六、本章小结与准备

本章建立了驾驶世界模型的基本定义:以多模态历史为输入,学习时空隐状态,并在动作条件下推演未来。时空状态预测的目标是短时安全、中时交互、长时语义与反事实推演的统一。课程后续将围绕“表示—建模—预测—训练—评估—部署”六步展开。