📚 课程目录第4章关键性能指标解析

4. 关键性能指标解析

在自动驾驶计算平台中，性能从来不是单一数字，而是一组彼此耦合、相互制约的指标集合。端到端延迟决定车辆对突发场景的反应距离，帧率决定感知系统的时间采样密度，算力利用率反映NPU/GPU是否被真正喂饱，内存带宽往往才是隐藏瓶颈，功耗与热设计功耗决定平台能否持续稳定输出，而实时性与确定性指标则回答“最坏情况下还能不能按时完成”。理解这些指标之间的因果关系，是后续调优工作的前提。

核心认知：自动驾驶计算平台的性能评估不是追求某一项指标的最大值，而是在延迟、吞吐、功耗、热约束和确定性之间寻找可验证的平衡点。任何单项指标的改善，都必须检查是否以牺牲其他指标为代价。

一、指标全景与信号链关系

从传感器输入到控制输出，计算平台内部形成一条完整的信号链。每个环节都会引入延迟、消耗算力、占用带宽并产生热量。下图展示了关键指标在信号链上的分布与相互影响关系。

二、核心指标定义与测量方法

端到端延迟指从传感器曝光或数据采集时刻起，到控制指令发出时刻止的总时间。它包含采集延迟、传输延迟、预处理延迟、推理延迟、后处理延迟、融合规划延迟和输出延迟。测量时通常使用硬件时间戳或GPIO打点，避免软件计时误差。

帧率是单位时间内完整处理并输出的帧数。对于感知系统，帧率不足会导致高速场景下相邻帧间位移过大，影响跟踪与预测的连续性。帧率的上限由最慢环节决定，而非平均处理速度。

算力利用率反映NPU/GPU在统计周期内实际执行计算的时间占比。利用率过低说明数据供给不足或任务划分不合理；利用率长期接近100%则意味着排队严重，延迟会随负载波动而急剧上升。

内存带宽是芯片与内存之间单位时间可传输的数据量。自动驾驶中大量特征图、点云和中间张量的读写会迅速耗尽带宽，导致计算单元空转。带宽瓶颈往往比算力瓶颈更难通过增加核心数解决。

功耗与热设计功耗：功耗是实时能量消耗速率，TDP是散热系统能够持续带走的热量上限。当芯片功耗超过TDP对应的散热能力时，温度上升触发降频，实际算力和帧率随之下降。

实时性与确定性指标关注最坏情况而非平均值。WCET（最坏执行时间）决定任务能否在截止期内完成；抖动反映周期任务执行时间的波动范围；截止期满足率则统计长时间运行中按时完成的比例。

三、指标对比与典型参考范围

指标	定义	典型测量工具	L2 级自动驾驶参考范围	常见瓶颈
端到端延迟	传感器到控制输出总时间	GPIO打点、硬件时间戳	≤ 100 ms（目标 60~80 ms）	推理排队、内存拷贝
帧率	每秒完整处理帧数	帧计数器、ros2 topic hz	≥ 10 FPS（感知 15~30 FPS）	最慢算子、CPU-GPU同步
算力利用率	NPU/GPU 计算时间占比	tegrastats、nvidia-smi、perfetto	60%~85% 为健康区间	数据供给不足、算子碎片化
内存带宽	DDR/HBM 读写吞吐	带宽计数器、内存分析器	≤ 70% 峰值带宽	大张量拷贝、缓存未命中
功耗 / TDP	实时功耗与散热上限	INA 传感器、热成像	持续功耗 ≤ TDP 的 80%	散热不足、降频
WCET / 抖动	最坏执行时间与波动	示波器、实时跟踪	抖动 ≤ 周期 10%	调度抢占、中断延迟

四、场景案例：从指标异常到根因定位

某L2+域控制器在夏季高温路测中出现感知帧率从20 FPS降至12 FPS的现象。团队按以下顺序排查：

查看温度与频率日志，发现SoC温度达到95°C，GPU频率从1.3 GHz降至0.9 GHz，确认触发降频。
检查功耗曲线，发现持续功耗达到45 W，超过散热模组设计的35 W TDP。
进一步分析算力利用率，发现NPU利用率仅55%，但内存带宽占用达到峰值的92%。
定位到某特征融合算子频繁进行大张量拷贝，导致带宽饱和并产生额外功耗。
优化数据布局与算子融合后，带宽占用降至68%，功耗降至32 W，温度回落至82°C，帧率恢复至19 FPS。

排障顺序建议：先看热与频率（是否降频），再看功耗（是否超TDP），再看带宽（是否饱和），最后看算力利用率（是否空转）。这个顺序能快速区分“算力不够”和“算力被浪费”两类问题。

五、常见误区与复盘要点

只看平均延迟，忽略P99和WCET。平均延迟60 ms不代表安全，若P99达到200 ms，在紧急场景下可能直接导致控制失效。
把算力利用率高当作好事。长期100%利用率意味着没有余量应对突发负载，延迟抖动会显著增大。
忽略内存带宽的隐性成本。带宽饱和不仅拖慢计算，还会推高功耗和温度，形成连锁反应。
用峰值算力推算实际性能。标称TOPS是理论值，实际可达算力受带宽、调度、算子支持度影响，通常只有峰值的30%~60%。
不区分实时性与确定性。实时是“按时完成”，确定性是“每次都能按时完成且波动可控”，后者对安全关键系统更为重要。

# 典型指标采集命令示例（NVIDIA Jetson 平台）
tegrastats --interval 1000

# 输出示例：
# RAM 3200/7920MB | GR3D_FREQ 45% | CPU [25%@1.9GHz] | 
# APE 150 | thermal 78C | power/IN 28W/35W

# 关键字段解读：
# GR3D_FREQ   GPU利用率
# thermal     SoC温度
# power/IN    实时功耗 / TDP上限
# RAM         内存占用与带宽压力参考

在调优过程中，任何一项指标的改善都必须重新测量其余指标。例如降低推理精度可能提升帧率，但会改变内存访问模式，可能反而推高带宽占用和功耗。指标之间没有免费的午餐。

掌握这些指标的定义、测量方法和相互关系后，才能在实际工程中建立可信的性能基线，并针对瓶颈制定有效的优化策略。下一阶段的调优工作，将围绕这些指标展开具体的采集、分析和迭代。