3. 闭环评测概述
在驾驶智能体的研发链条中,评测方式决定了我们能看到什么、看不到什么。开环评测把感知、预测、规划、控制拆开逐段打分,而闭环评测则把智能体放回一个会“回应”它的世界里:智能体的决策会改变环境状态,环境状态又反过来影响下一帧的输入。这种“决策—执行—反馈”的耦合,正是闭环评测的核心价值所在。
3.1 闭环评测的定义
闭环评测(Closed-loop Evaluation)是指在仿真或实车环境中,将待测驾驶智能体作为一个完整的决策执行主体接入环境,由环境持续生成动态场景与交通参与者行为,智能体的输出直接作用于车辆运动,车辆运动又改变下一时刻的观测输入,从而形成持续反馈的评测过程。
它包含三个不可分割的要素:
- 被测主体完整:感知、预测、规划、控制至少以端到端或模块串联方式整体接入,而非只测其中一段。
- 环境动态响应:其他交通参与者、信号灯、道路条件会随智能体行为变化而演化,不是固定回放。
- 指标来自轨迹:安全性、舒适性、通行效率、合规性等指标从实际行驶轨迹与交互事件中统计,而非单帧误差。
3.2 开环与闭环评测对比
开环评测通常基于已录制数据集,输入是固定的传感器序列或标注真值,评测的是模型输出与真值之间的偏差。它的优势是复现性强、成本低、便于回归;劣势是无法评估决策对场景的长期影响,也无法暴露“误差累积”和“交互博弈”类问题。
| 对比维度 | 开环评测 | 闭环评测 |
|---|---|---|
| 输入来源 | 固定录制数据/真值 | 仿真环境实时生成 |
| 智能体输出影响 | 不影响后续输入 | 直接改变环境状态 |
| 典型指标 | L2误差、mAP、ADE/FDE | 碰撞率、接管率、通行时间、舒适度 |
| 可复现性 | 高,逐帧可对齐 | 依赖初始条件与随机种子 |
| 成本 | 低,可大规模离线跑 | 较高,需仿真/实车资源 |
| 擅长发现 | 感知精度、拟合能力 | 决策博弈、长尾交互、误差累积 |
需要强调的是,开环与闭环不是替代关系,而是互补关系。开环负责“单点能力体检”,闭环负责“系统行为体检”。一个在开环数据集上指标优秀的规划模型,进入闭环后可能因为过度保守而频繁被加塞,也可能因为过度激进而制造冲突。
3.3 闭环评测在开发流程中的位置
在典型的驾驶智能体开发流程中,闭环评测位于“模型训练与离线验证”之后、“实车路测与量产释放”之前,是承上启下的关键闸门。其位置可以用下面的信号链与阶段关系图表示。
从图中可以看到,闭环评测不是流程末端的一次性动作,而是贯穿“仿真场景—传感器仿真—智能体—车辆动力学—状态反馈”的完整回路。每一次回路迭代都会产生新的轨迹与事件,评测指标从这些轨迹中统计得到。
3.4 闭环评测的价值与典型场景
闭环评测最直接的价值,是把“单点指标好”转化为“系统行为可靠”。具体体现在四类场景:
- 交互博弈验证:无保护左转、匝道汇入、环岛通行等场景中,智能体需要与其他车辆博弈。开环数据无法复现“我进他退”或“我退他进”的动态,闭环可以。
- 长尾场景复现:cut-in、鬼探头、施工区改道等低频高危场景,在实车中难以稳定复现,闭环仿真可通过参数化生成反复触发。
- 回归测试:每次模型更新后,用固定场景集与随机种子跑闭环,对比碰撞率、接管率等指标是否退化。
- 策略边界探索:通过调整智能体的保守/激进参数,观察其在临界场景下的行为边界,为安全策略提供依据。
3.5 常见误区与复盘
在实际工程中,闭环评测容易陷入几个误区:
- 把回放当闭环:只把录制数据按时间轴播放,智能体输出不影响数据流,这仍是开环,无法暴露交互问题。
- 场景集过于单一:只测高速巡航和简单跟车,导致模型在复杂路口表现未知。场景库需要覆盖 ODD 边界与长尾。
- 忽略随机性:闭环结果受初始条件、交通流随机种子影响,单次通过不代表稳定通过,需要多次蒙特卡洛统计。
- 指标不可比:不同版本使用不同场景集或不同种子,导致指标无法横向对比。应固定评测基准集与随机种子范围。
复盘来看,闭环评测的真正门槛不在仿真器本身,而在于场景库的覆盖度、指标体系的合理性以及评测流程的可复现性。只有把这三者工程化,闭环评测才能从“演示工具”变成“研发闸门”。
# 闭环评测基准配置示例(伪代码)
benchmark:
scenario_set: "urban_intersection_v2.3"
seeds: [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
metrics:
- collision_rate
- takeover_rate
- avg_travel_time
- comfort_jerk_p95
- red_light_violation
pass_criteria:
collision_rate: "<= 0.01"
takeover_rate: "<= 0.05"
red_light_violation: "== 0"
综上,闭环评测是驾驶智能体从“能跑”走向“可靠”的必经环节。它用动态反馈替代静态比对,用系统行为替代单点误差,用可复现的基准替代一次性演示。理解它的定义、与开环的差异以及在开发流程中的闸门位置,是后续搭建闭环评测体系的基础。