2. 自动驾驶基础

自动驾驶系统并不是一个“端到端黑箱”就能完全解释的工程对象。为了便于研发、调试、验证与责任划分,业界通常把它拆成感知、预测、规划、控制四个核心模块,并配合定位、地图、仿真、数据闭环等基础设施。理解这条链路,是理解奖励设计为何存在、在哪里生效、如何影响最终驾驶行为的前提。

一、四模块链路:从“看到世界”到“改变世界”

可以把自动驾驶车辆想象成一位正在开车的司机:感知是眼睛和耳朵,预测是对其他交通参与者意图的判断,规划是大脑决定“我该怎么走”,控制是手脚执行转向、油门和刹车。四者串联成一条从环境输入到车辆动作的闭环链路。

  • 感知(Perception):通过摄像头、激光雷达、毫米波雷达、超声波等传感器,完成目标检测、语义分割、车道线识别、障碍物跟踪、自车定位与环境建图。输出的是“当前世界是什么样”。
  • 预测(Prediction):基于感知结果和历史轨迹,推断其他车辆、行人、骑行者未来数秒的可能运动轨迹与意图,输出多模态概率分布,回答“他们接下来可能怎么动”。
  • 规划(Planning):结合预测结果、地图、交通规则和自车状态,生成安全、舒适、合规且高效的行驶轨迹。通常分为全局路径规划、行为决策和局部轨迹规划,回答“我该怎么走”。
  • 控制(Control):把规划轨迹转化为油门、刹车、转向等执行器指令,并通过反馈控制跟踪目标轨迹,回答“如何精确地走”。
核心记忆:感知回答“是什么”,预测回答“会怎样”,规划回答“怎么走”,控制回答“走得准不准”。奖励设计主要作用于规划层,尤其是行为决策与轨迹选择环节。
自动驾驶四模块链路与奖励设计的作用位置 感知 目标检测 / 跟踪 车道线 / 定位 / 建图 输出:世界状态 预测 轨迹预测 / 意图识别 多模态概率分布 输出:未来可能轨迹 规划 行为决策 / 轨迹生成 安全 / 舒适 / 效率 输出:目标轨迹 控制 横向 / 纵向控制 油门 / 刹车 / 转向 输出:执行器指令 车辆运动改变环境,形成闭环反馈 奖励设计作用区 安全距离 / 通行效率 / 舒适度 规则合规 / 交互礼让 / 风险惩罚 影响行为决策与轨迹评分 奖励信号注入

二、奖励设计在决策规划中的位置

在传统规划中,行为决策常依赖规则状态机或有限状态机,例如“跟车、换道、超车、避让、停车”等状态切换。规则方法可解释性强,但面对复杂交互、长尾场景和多样化驾驶风格时,容易出现规则冲突、参数难调、行为僵硬等问题。奖励设计正是为了解决“在多个可行方案中,什么才算好”的问题。

在基于优化或学习的规划框架中,规划器通常会在候选轨迹集合中评分,选择综合代价最低或累计回报最高的轨迹。奖励函数就是评分体系的核心:它把安全、效率、舒适、合规、交互礼让等目标量化为可计算的数值。可以说,奖励设计位于规划模块的行为决策与轨迹选择环节,是连接“人类驾驶价值观”和“机器可优化目标”的桥梁。

模块 主要输入 主要输出 与奖励设计的关系
感知 传感器原始数据 障碍物、车道线、自车定位 为奖励计算提供状态基础
预测 感知目标与历史轨迹 未来轨迹概率分布 影响风险项与交互项奖励
规划 预测结果、地图、规则 目标轨迹与行为决策 奖励函数直接参与轨迹评分与选择
控制 目标轨迹、车辆状态 油门、刹车、转向指令 奖励中的舒适性项需与控制响应匹配

三、典型场景:一个换道决策中的奖励权衡

假设自车在城市快速路行驶,前方车辆较慢,右侧车道后方有一辆快速接近的车辆。规划器生成多个候选行为:继续跟车、减速等待、加速换道、匀速换道。此时奖励设计需要同时考虑:

  • 安全项:与前后车保持安全时距,避免碰撞风险,换道时不得迫使后车急刹。
  • 效率项:减少通行时间,避免无谓减速,鼓励在安全前提下完成超车。
  • 舒适项:限制纵向加速度、横向加速度和 jerk,避免急打方向或急刹。
  • 合规项:遵守车道线、限速、交通标志和让行规则。
  • 交互项:对后车快速接近给予风险惩罚,对礼让行为给予适度正向奖励。

如果安全权重过低,策略可能选择激进换道;如果效率权重过低,车辆可能长期保守跟车;如果舒适权重过高,车辆可能反应迟钝。奖励设计的本质,是在这些目标之间寻找可调、可验证、可泛化的平衡。

实践提示:奖励函数不是越复杂越好。每一项奖励都应能对应到明确的驾驶目标、可观测的状态变量和可验证的测试场景,否则容易引入难以排查的副作用。

四、常见误区与复盘

初学者常把奖励设计等同于“写一个打分公式”,但工程中更关键的是闭环验证。以下是几个高频误区:

  1. 只关注最终回报,忽略中间过程:稀疏奖励会导致学习困难,应结合势能函数、中间奖励或课程学习。
  2. 奖励项之间量纲混乱:距离、时间、加速度、碰撞惩罚直接相加,权重难以解释,应先归一化再加权。
  3. 用奖励掩盖感知或预测缺陷:如果感知不稳定,规划层再好的奖励也无法保证安全,需分层定位问题。
  4. 忽视控制执行约束:规划出的轨迹若超出车辆动力学能力,奖励再高也无法执行,应把控制可行性纳入约束或惩罚。
  5. 只在仿真中调参:仿真与实车存在域差异,奖励权重需在封闭场地和实车数据上做鲁棒性复核。
# 一个简化的轨迹评分示例(伪代码)
score = w_safe   * safety_cost
      + w_eff    * efficiency_cost
      + w_comfort* comfort_cost
      + w_rule   * rule_cost
      + w_inter  * interaction_cost

# 其中:
# safety_cost      = 碰撞风险 + 安全时距不足惩罚
# efficiency_cost  = 通行时间 + 速度偏差
# comfort_cost     = 加速度 + jerk 惩罚
# rule_cost        = 限速、车道线、让行违规
# interaction_cost = 对他人造成的风险与不适

复盘时,建议把奖励设计与场景测试集绑定:每个奖励项都应有对应的通过/失败判据,例如“换道场景中后车减速度不超过 2 m/s²”“跟车时距不低于 1.5 秒”“全程 jerk 不超过 5 m/s³”。只有奖励、约束、测试三者一致,规划行为才可控、可解释、可迭代。

注意:奖励设计不是规划模块的“万能补丁”。感知误差、预测偏差、地图错误和控制延迟都会影响最终行为。工程上应先保证各模块基线可靠,再用奖励设计优化决策偏好与交互风格。

总结来看,感知、预测、规划、控制构成自动驾驶的基本链路,而奖励设计主要嵌入规划层的行为决策与轨迹评分中。它把安全、效率、舒适、合规和交互等目标转化为可优化信号,直接影响车辆“如何选择一条轨迹”。理解这一位置与作用,是后续学习奖励函数建模、策略优化和闭环评测的基础。