1. 课程导入

自动驾驶系统本质上是一台“在移动中实时做决策的计算机”。摄像头、激光雷达、毫米波雷达、组合导航等传感器持续产生数据,感知、预测、规划、控制等算法在车载计算平台上以毫秒级节奏协同运行。计算平台一旦出现算力不足、内存带宽瓶颈、调度抖动或热降频,轻则导致帧率下降,重则影响行车安全。因此,性能基准与调优工程不是附属工作,而是自动驾驶系统能否稳定量产的关键工程能力。

本课程的目标不是教会你“跑一个跑分软件”,而是建立一套可复用的工程方法:能定义指标、能搭建基准、能定位瓶颈、能验证优化、能守住量产稳定性。

一、学习目标:从“会测”到“会调”

完成本课程后,你应当具备以下能力:

  • 指标定义能力:能区分时延、吞吐、抖动、CPU/GPU/NPU利用率、内存带宽、功耗、温度等指标,并说明它们与自动驾驶功能的关系。
  • 基准搭建能力:能针对感知、融合、规划等不同负载,设计可重复、可对比、可回归的基准测试方案。
  • 瓶颈定位能力:能借助 profiling 工具、时间线、计数器、日志,判断瓶颈在计算、访存、通信、调度还是散热。
  • 调优实施能力:能通过算子优化、量化、批处理、流水线、线程绑定、内存复用等手段提升性能。
  • 量产验证能力:能建立性能基线、回归门禁和长稳测试,避免“实验室很快、上车就抖”。

二、核心概念:性能不是单一数字

在自动驾驶计算平台中,性能至少包含五个维度:

维度典型指标工程含义
时延端到端时延、单帧推理时延、P99时延决定系统反应速度,P99比平均值更接近真实风险
吞吐FPS、每秒处理帧数、带宽决定多路传感器能否同时处理
抖动时延方差、帧间隔波动影响控制平顺性和功能安全
资源效率CPU/GPU/NPU利用率、内存占用、带宽占用决定是否还有余量应对复杂场景
稳定性热降频、长稳衰减、内存泄漏决定量产后的持续可靠性

其中,P99时延和抖动常被初学者忽略。平均值好看不代表安全,因为自动驾驶最危险的时刻往往发生在最慢的那一帧。

三、整体知识框架:四层一闭环

本课程的知识框架可以概括为“四层一闭环”:

  • 硬件层:SoC、GPU、NPU、DSP、内存、存储、散热与供电。
  • 系统层:操作系统、实时调度、驱动、通信中间件、时间同步。
  • 算法层:模型结构、算子、精度、量化、批处理与流水线。
  • 应用层:感知、预测、规划、控制等任务的端到端性能。
  • 闭环:基准测试 → 性能剖析 → 瓶颈定位 → 优化实施 → 回归验证。

下面这张图展示了从传感器输入到控制输出,再到基准与调优闭环的整体关系。它也是本课程后续章节的“地图”。

自动驾驶计算平台性能基准与调优工程 · 整体框架 传感器输入 摄像头 / 激光雷达 / 毫米波 感知与融合 检测 / 分割 / 跟踪 / 融合 预测与规划 轨迹预测 / 行为决策 / 路径规划 控制输出 转向 / 制动 / 驱动 计算平台四层结构 硬件层 SoC / GPU / NPU / 内存 / 散热 系统层 OS / 调度 / 驱动 / 中间件 算法层 模型 / 算子 / 量化 / 流水线 应用层 感知 / 预测 / 规划 / 控制 性能工程闭环 基准测试 指标 / 场景 / 基线 性能剖析 Timeline / 计数器 瓶颈定位 计算 / 访存 / 调度 优化实施 算子 / 量化 / 绑定 回归验证 门禁 / 长稳 持续回归:每次优化后重新基准,防止性能回退

四、实战路线图:从单点到系统

课程将按照“先单点、后系统、再量产”的路线推进:

  1. 指标与工具入门:理解时延、吞吐、抖动,掌握常用 profiling 工具。
  2. 单模块基准:对单个模型或算子做可重复的微基准测试。
  3. 端到端基准:把感知、预测、规划、控制串起来,测全链路时延与帧率。
  4. 瓶颈定位:用时间线、火焰图、硬件计数器找到真正的瓶颈。
  5. 调优实战:算子融合、量化、批处理、流水线、线程绑定、内存复用。
  6. 量产稳定性:热降频、长稳、回归门禁、性能预算管理。

五、案例场景:一次典型的性能问题

某项目在实验室跑感知模型时,单帧推理平均 28ms,看起来满足 30FPS。但上车后出现偶发刹车顿挫。排查发现:

平均时延: 28ms
P99时延: 67ms
GPU利用率: 92%
内存带宽占用: 88%
温度: 85°C 后触发降频
调度抖动: 最大 18ms

问题不在“平均算力不够”,而在P99时延、内存带宽和热降频。优化方向包括:降低峰值带宽、调整线程优先级、改善散热策略、对模型做量化。这个案例说明:性能工程必须看分布、看资源、看稳定性,而不是只看一个平均 FPS。

建议在项目早期就建立性能基线,把“性能预算”写进需求:例如端到端 P99 时延不超过 100ms,GPU 利用率不超过 80%,温度不超过 80°C。

六、常见误区与复盘

  • 误区一:只看平均时延。 复盘:必须同时看 P95、P99 和抖动。
  • 误区二:把 GPU 利用率高当成好事。 复盘:利用率接近 100% 往往意味着没有余量,容易抖动。
  • 误区三:优化后不回归。 复盘:每次优化都要重新跑基准,防止“按下葫芦浮起瓢”。
  • 误区四:忽略散热与功耗。 复盘:车载环境温度高,热降频会直接吃掉性能。
  • 误区五:只测模型,不测系统。 复盘:通信、调度、内存拷贝往往才是隐藏瓶颈。
性能调优不是“把数字压到最低”,而是在时延、吞吐、功耗、温度、成本之间找到可量产、可验证、可回归的平衡点。

接下来,课程将围绕这条“基准—剖析—定位—优化—回归”的主线展开。你将逐步掌握从单算子到整车级计算平台的性能工程方法,并能在真实项目中独立完成性能基准设计与调优闭环。