3. 闭环评测概述

在驾驶智能体的研发链条中,评测方式决定了我们能看到什么、看不到什么。开环评测把感知、预测、规划、控制拆开逐段打分,而闭环评测则把智能体放回一个会“回应”它的世界里:智能体的决策会改变环境状态,环境状态又反过来影响下一帧的输入。这种“决策—执行—反馈”的耦合,正是闭环评测的核心价值所在。

3.1 闭环评测的定义

闭环评测(Closed-loop Evaluation)是指在仿真或实车环境中,将待测驾驶智能体作为一个完整的决策执行主体接入环境,由环境持续生成动态场景与交通参与者行为,智能体的输出直接作用于车辆运动,车辆运动又改变下一时刻的观测输入,从而形成持续反馈的评测过程。

它包含三个不可分割的要素:

  • 被测主体完整:感知、预测、规划、控制至少以端到端或模块串联方式整体接入,而非只测其中一段。
  • 环境动态响应:其他交通参与者、信号灯、道路条件会随智能体行为变化而演化,不是固定回放。
  • 指标来自轨迹:安全性、舒适性、通行效率、合规性等指标从实际行驶轨迹与交互事件中统计,而非单帧误差。
闭环评测的本质是“让智能体为自己的决策承担后果”。一次错误的变道决策不会只体现为某个模块的误差增大,而会在后续数秒内演化为逼停、剐蹭或通行效率下降等可观测事件。

3.2 开环与闭环评测对比

开环评测通常基于已录制数据集,输入是固定的传感器序列或标注真值,评测的是模型输出与真值之间的偏差。它的优势是复现性强、成本低、便于回归;劣势是无法评估决策对场景的长期影响,也无法暴露“误差累积”和“交互博弈”类问题。

对比维度 开环评测 闭环评测
输入来源 固定录制数据/真值 仿真环境实时生成
智能体输出影响 不影响后续输入 直接改变环境状态
典型指标 L2误差、mAP、ADE/FDE 碰撞率、接管率、通行时间、舒适度
可复现性 高,逐帧可对齐 依赖初始条件与随机种子
成本 低,可大规模离线跑 较高,需仿真/实车资源
擅长发现 感知精度、拟合能力 决策博弈、长尾交互、误差累积

需要强调的是,开环与闭环不是替代关系,而是互补关系。开环负责“单点能力体检”,闭环负责“系统行为体检”。一个在开环数据集上指标优秀的规划模型,进入闭环后可能因为过度保守而频繁被加塞,也可能因为过度激进而制造冲突。

3.3 闭环评测在开发流程中的位置

在典型的驾驶智能体开发流程中,闭环评测位于“模型训练与离线验证”之后、“实车路测与量产释放”之前,是承上启下的关键闸门。其位置可以用下面的信号链与阶段关系图表示。

驾驶智能体开发流程中的闭环评测位置 数据采集与标注 场景库 / 真值 模型训练 感知/预测/规划 开环离线验证 误差 / mAP / ADE 闭环仿真评测 交互 / 长尾 / 回归 实车路测 影子模式 / 接管 闭环评测内部信号链 仿真场景 动态交通流 传感器仿真 相机/雷达/激光 驾驶智能体 感知→决策→控制 车辆动力学 位姿/速度更新 状态反馈:车辆运动改变下一帧观测与交互 指标:碰撞率 · 接管率 · 通行时间 · 舒适度 · 合规性

从图中可以看到,闭环评测不是流程末端的一次性动作,而是贯穿“仿真场景—传感器仿真—智能体—车辆动力学—状态反馈”的完整回路。每一次回路迭代都会产生新的轨迹与事件,评测指标从这些轨迹中统计得到。

3.4 闭环评测的价值与典型场景

闭环评测最直接的价值,是把“单点指标好”转化为“系统行为可靠”。具体体现在四类场景:

  1. 交互博弈验证:无保护左转、匝道汇入、环岛通行等场景中,智能体需要与其他车辆博弈。开环数据无法复现“我进他退”或“我退他进”的动态,闭环可以。
  2. 长尾场景复现:cut-in、鬼探头、施工区改道等低频高危场景,在实车中难以稳定复现,闭环仿真可通过参数化生成反复触发。
  3. 回归测试:每次模型更新后,用固定场景集与随机种子跑闭环,对比碰撞率、接管率等指标是否退化。
  4. 策略边界探索:通过调整智能体的保守/激进参数,观察其在临界场景下的行为边界,为安全策略提供依据。
闭环评测的指标设计要避免“唯碰撞率论”。一个永远停在原地不动的智能体碰撞率为零,但通行效率极差。因此通常采用多目标指标组:安全性、通行效率、舒适性、合规性、交互合理性,并设置权重或帕累托前沿分析。

3.5 常见误区与复盘

在实际工程中,闭环评测容易陷入几个误区:

  • 把回放当闭环:只把录制数据按时间轴播放,智能体输出不影响数据流,这仍是开环,无法暴露交互问题。
  • 场景集过于单一:只测高速巡航和简单跟车,导致模型在复杂路口表现未知。场景库需要覆盖 ODD 边界与长尾。
  • 忽略随机性:闭环结果受初始条件、交通流随机种子影响,单次通过不代表稳定通过,需要多次蒙特卡洛统计。
  • 指标不可比:不同版本使用不同场景集或不同种子,导致指标无法横向对比。应固定评测基准集与随机种子范围。
闭环评测的结论必须附带“场景集版本 + 随机种子范围 + 指标定义”。缺少这三项,任何“提升 30%”的结论都不可复现,也无法作为量产释放依据。

复盘来看,闭环评测的真正门槛不在仿真器本身,而在于场景库的覆盖度、指标体系的合理性以及评测流程的可复现性。只有把这三者工程化,闭环评测才能从“演示工具”变成“研发闸门”。

# 闭环评测基准配置示例(伪代码)
benchmark:
  scenario_set: "urban_intersection_v2.3"
  seeds: [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
  metrics:
    - collision_rate
    - takeover_rate
    - avg_travel_time
    - comfort_jerk_p95
    - red_light_violation
  pass_criteria:
    collision_rate: "<= 0.01"
    takeover_rate: "<= 0.05"
    red_light_violation: "== 0"

综上,闭环评测是驾驶智能体从“能跑”走向“可靠”的必经环节。它用动态反馈替代静态比对,用系统行为替代单点误差,用可复现的基准替代一次性演示。理解它的定义、与开环的差异以及在开发流程中的闸门位置,是后续搭建闭环评测体系的基础。