1. 课程导入

自动驾驶正在从“规则驱动”走向“数据驱动”,并进一步迈向“世界模型驱动”。所谓世界模型(World Model),是指系统对环境状态、动态演化规律以及自身行为后果所形成的可预测内部表征。它不仅能“看见”当前画面,还能推演“如果这样操作,接下来会发生什么”。当这种能力被用于自动驾驶时,评测与安全验证就不再只是比对感知框和轨迹误差,而必须回答一个更本质的问题:模型对世界的理解是否可靠、是否可验证、是否足以支撑安全决策。

本课程的核心目标,是建立一套面向自动驾驶世界模型的评测与安全验证工程方法:既能度量模型“预测得准不准”,也能验证模型“决策得安不安全”,最终形成可复现、可追溯、可审计的工程闭环。

一、学习目标:从“会训模型”到“会验模型”

本课程不是单纯讲解某个网络结构,而是围绕工程落地能力展开。学完本课程,你应当具备以下四类能力:

  • 概念辨析能力:能区分世界模型、端到端模型、仿真器、数字孪生之间的边界与联系,避免把“生成视频”误认为“理解世界”。
  • 评测设计能力:能针对感知、预测、规划、控制不同层级,设计指标、场景与数据集,构建分层评测矩阵。
  • 安全验证能力:能运用场景挖掘、对抗扰动、形式化约束、失效模式分析等方法,定位模型在长尾与边缘场景中的风险。
  • 工程闭环能力:能把评测结果反哺到数据闭环、训练迭代与版本准入,形成“评测—发现—修复—回归”的持续流程。

二、核心概念:世界模型到底“模”了什么

自动驾驶世界模型通常包含三个关键能力:状态表征、动态预测与反事实推演。状态表征把多传感器输入压缩为隐空间状态;动态预测根据历史与动作推演未来;反事实推演则回答“若采取不同动作,结果会怎样”。这三者共同支撑规划模块在不确定环境中做出更稳健的决策。

需要特别强调的是,世界模型与仿真器并不等同。仿真器侧重构造可交互环境,世界模型侧重学习环境演化规律;前者可以是规则化的,后者通常是数据驱动的。二者在评测中常常互补:仿真器提供可控场景,世界模型提供真实感与多样性。

自动驾驶世界模型评测与安全验证整体框架 数据与场景层 真实路采 · 仿真生成 长尾挖掘 · 对抗样本 世界模型层 状态表征 · 动态预测 反事实推演 · 不确定性 评测指标层 感知 · 预测 · 规划 一致性 · 鲁棒性 · 泛化 安全验证层 失效模式 · 约束 准入 · 回归 工程闭环:评测 → 风险定位 → 数据补充 → 模型迭代 → 回归验证 版本准入 · 指标看板 · 失效案例库 · 可追溯报告 离线评测 数据集回放 · 指标计算 开环/闭环一致性 在线验证 仿真注入 · 影子模式 安全员接管分析 安全论证 危害分析 · 约束满足 置信度与残余风险 反馈迭代 关键原则:可复现 · 可度量 · 可追溯 · 可审计 · 安全优先

三、整体框架:四层结构与一个闭环

如上图所示,本课程将评测与安全验证工程拆解为四层:数据与场景层、世界模型层、评测指标层、安全验证层,并通过工程闭环串联。数据与场景层决定“考什么题”,世界模型层决定“被考对象”,评测指标层决定“怎么打分”,安全验证层决定“是否放行”。

其中,工程闭环是贯穿全课程的主线。一次评测不是终点,而是下一轮迭代的起点。评测发现的失效案例应进入数据补充流程,模型迭代后必须进行回归验证,最终形成版本准入结论。缺少闭环的评测,只是“跑分”,无法真正降低安全风险。

四、行业背景:为什么现在必须做世界模型评测

过去几年,自动驾驶行业经历了从高精地图+规则,到端到端学习,再到世界模型与生成式仿真的演进。随着模型规模增大,传统评测方法暴露出三个突出问题:

  1. 指标与安全脱节:感知 mAP 高、轨迹误差低,并不代表在切入、鬼探头、施工区等场景中安全。
  2. 长尾覆盖不足:真实路采中极端场景稀少,模型容易在低频高危场景中失效。
  3. 不可解释与不可追溯:端到端模型输出难以归因,事故复盘与责任界定困难。
常见误区:把“生成逼真视频”当作世界模型评测的全部。视觉逼真不等于物理正确,更不等于决策安全。评测必须同时关注几何一致性、动力学合理性、交互因果性与安全约束满足度。

五、方法流程与关键参数示例

一个典型的世界模型评测流水线可以抽象为以下步骤,工程中通常以配置化方式管理:

pipeline:
  stage_1_scene_mining:
    source: [real_log, simulation, adversarial]
    filter: long_tail & safety_critical
  stage_2_model_inference:
    model: world_model_v1.3
    horizon: 3.0s
    rollout: closed_loop
  stage_3_metrics:
    perception: [mAP, miss_rate]
    prediction: [minADE, minFDE, NLL]
    planning: [collision_rate, comfort, progress]
    safety: [RSS_violation, takeover_rate]
  stage_4_gate:
    threshold: safety_first
    regression: required

下表给出不同评测维度的关注重点,便于建立整体认知:

评测维度 核心问题 典型指标 安全意义
感知一致性 是否稳定识别关键目标 mAP、漏检率、时序抖动 漏检直接导致决策盲区
预测合理性 未来轨迹是否符合物理与交互 minADE、minFDE、NLL 错误预测引发误刹车或碰撞
规划安全性 是否满足安全约束与舒适性 碰撞率、RSS 违反率、加速度 决定是否可上路
泛化与鲁棒性 换城市、换天气是否退化 跨域性能下降幅度 决定规模化部署边界
可解释与追溯 失效能否归因与复现 案例覆盖率、复现率 支撑事故复盘与准入审计

六、案例场景与复盘思路

假设某世界模型在高速匝道汇入场景中表现良好,但在城市无保护左转中频繁出现“犹豫—急刹—再起步”的抖动。复盘时不应只调规划参数,而应回到世界模型层检查:它是否准确预测了对向直行车的让行意图?是否对行人突然折返建立了反事实分支?如果模型隐空间中没有“他车可能不让行”的状态,规划再优化也只是治标。

工程建议:建立“失效案例库”,每个案例记录场景标签、模型版本、指标异常、根因假设与修复验证结果。案例库是评测工程最宝贵的资产,也是安全论证的证据链。

本课程后续将围绕数据与场景构建、世界模型原理、指标设计、闭环仿真、对抗测试、形式化约束、安全论证与版本准入等主题逐步展开。请先建立整体框架意识:评测不是附属环节,而是自动驾驶世界模型从实验室走向道路的安全底座。