3. 世界模型核心概念

在自动驾驶闭环仿真中,“世界模型”并不是一个单一网络,而是一组围绕状态与观测协同工作的模块集合。理解它的关键,是把生成模型、隐空间、预测模型、状态转移、观测重建这五个概念放在同一条数据链路上看:真实世界产生观测,编码器把观测压入隐空间,预测模型在隐空间中推进状态,解码器再把隐状态还原为可感知的观测,最终交给仿真器与规划控制模块消费。

一、核心原理:从观测到隐状态,再回到观测

世界模型的基本假设是:高维观测(摄像头图像、激光点云)背后存在一个低维的隐状态,它足以解释当前场景并预测未来。生成模型负责学习观测的分布,隐空间提供紧凑的抽象表示,预测模型负责在隐空间中做时间推演,状态转移定义“当前隐状态 + 动作 → 下一隐状态”的演化规则,观测重建则把隐状态映射回图像或点云,使仿真结果可被下游感知模块使用。

观测 ot → 编码器 E → 隐状态 zt → 预测模型 f(zt, at) → zt+1 → 解码器 D → 重建观测 ôt+1

这条链路中,动作 at是自车或他车的控制量(油门、转向、加速度)。没有动作输入,模型只能做无条件预测;有了动作,世界模型才具备“反事实推演”能力,这正是闭环仿真区别于回放式仿真的根本。

世界模型闭环数据链路 真实观测 oₜ 图像 / 点云 编码器 E 生成模型 · 压缩 隐状态 zₜ 隐空间表示 预测模型 f 状态转移 隐状态 zₜ₊₁ 下一时刻 解码器 D 观测重建 重建观测 ôₜ₊₁ 仿真感知输入 仿真器 / 规划 闭环消费 动作 aₜ 闭环要点: 预测模型必须接收动作 aₜ;重建观测 ôₜ₊₁ 回灌仿真器,形成“感知—预测—决策—再感知”的闭环。 隐空间维度、转移步长、重建保真度共同决定仿真可信度与推演效率。

二、方法流程:五个模块如何协作

  1. 生成模型:学习观测数据的概率分布,常见形式包括 VAE、GAN、扩散模型。它决定“重建出来的画面像不像真的”。
  2. 隐空间:把高维观测压缩为低维向量 z。隐空间要满足两个条件:可预测(时间上平滑)和可解码(信息不丢失)。
  3. 预测模型:在隐空间中做前向推演,输入 (zt, at),输出 zt+1。常用 RNN、Transformer 或状态空间模型。
  4. 状态转移:定义隐状态的演化方程。它可以是确定性的,也可以是概率性的(输出均值和方差)。
  5. 观测重建:解码器把 zt+1 还原为图像或点云,供下游感知模块使用。

训练时通常采用联合损失:重建损失保证观测保真,KL 或对比损失约束隐空间结构,预测损失保证多步推演不发散。三者权重需要平衡,否则容易出现“重建清晰但预测模糊”或“预测稳定但画面失真”的问题。

三、案例场景:一个路口左转的闭环推演

假设自车在路口准备左转,对向有直行车辆。世界模型接收当前观测 ot,编码得到 zt;规划模块给出动作 at(继续左转、减速等待)。预测模型推演 zt+1,解码器重建出“对向车继续直行、自车已进入路口”的画面。仿真器把该画面送入感知模块,感知输出目标框,规划再根据新观测调整动作。整个过程在隐空间中滚动,无需真实道路数据,即可测试左转博弈策略的安全性。

闭环仿真的价值在于:同一初始场景下,改变动作序列即可生成大量反事实分支,用于覆盖 corner case,而回放式仿真无法做到这一点。

四、世界模型与仿真器的关系

维度 世界模型 仿真器
核心职责 学习并预测场景演化 提供物理、交通、传感器环境
状态表示 隐空间向量 z 显式实体、位姿、地图
输出形式 重建观测 ô 渲染图像 / 点云 / 真值
优势 数据驱动、泛化强、可反事实 可解释、可控、物理一致
典型组合 仿真器提供初始状态与动作接口,世界模型负责长时推演与观测生成,二者形成混合闭环

实践中,世界模型常作为仿真器的“神经渲染与预测插件”:仿真器管理交通流和物理约束,世界模型接管感知级观测生成。这样既保留仿真器的可控性,又获得生成模型的真实感与泛化能力。

五、常见误区与复盘

误区一:把世界模型等同于视频生成模型。视频生成只关注像素连续性,世界模型必须显式建模动作与状态转移,否则无法闭环。
误区二:隐空间越大越好。隐空间过大导致预测困难,过小则重建模糊,需要根据任务粒度权衡。
误区三:只评估单步重建。闭环仿真关注多步推演,必须评估 5 步、10 步后的状态一致性与碰撞率。

复盘时建议记录以下参数,便于定位问题:

latent_dim: 64
pred_horizon: 10
action_dim: 3        # 油门、转向、刹车
recon_loss: mse + perceptual
kl_weight: 0.001
rollout_steps: 50
collision_rate: 0.7%

当 rollout_steps 增大而 collision_rate 快速上升,通常说明状态转移误差累积,需要引入多步训练或隐空间正则。理解这五个概念及其与仿真器的分工,是构建可信闭环仿真的第一步。