4. 量化核心概念

在无人机模型量化部署中，理解量化背后的数学本质是避免精度损失和性能瓶颈的前提。量化本质上是用一种更“廉价”的数值表示去近似原始的连续数值空间，从而在硬件资源受限的飞控芯片或边缘计算单元上实现低延迟推理。本节将围绕定点数与浮点数的差异、量化尺度（Scale）与零点（Zero Point）的确定方法，以及对称/非对称量化的适用场景展开，帮助你在实际部署中做出正确的量化策略选择。

4.1 定点数与浮点数：无人机算力约束下的数值表示

核心原理：浮点数（如FP32）用符号位、指数位和尾数位表示实数，动态范围大、精度高，但硬件计算单元复杂、功耗高。定点数（如INT8）则用固定位宽的整数表示数值，配合一个缩放因子（Scale）来映射到实数域。在无人机飞控芯片（如STM32H7、Jetson Nano）上，INT8乘累加运算的速度通常是FP32的2-4倍，功耗降低约60%。

判断方法：选择定点还是浮点，主要看三个约束：算力预算（TOPS/W）、内存带宽（模型体积）和精度容差（任务类型）。例如，无人机视觉避障模型对延迟敏感（<30ms），但对单像素精度要求相对宽松，适合INT8；而飞控姿态解算中的PID参数，由于数值范围小且对精度敏感，通常保留FP32。

4.2 量化尺度（Scale）与零点（Zero Point）的数学定义

核心原理：量化映射公式为 r = s × (q - z)，其中 r 是原始浮点值，q 是量化后的整数，s 是尺度（步长），z 是零点（整数偏移）。s 的计算公式为：

s = (r_max - r_min) / (q_max - q_min)

零点 z 则保证浮点0能精确映射到整数，避免量化误差偏移：

z = round(q_min - r_min / s)

操作流程：确定尺度和零点的标准步骤：

1. 收集统计量：在验证集上运行FP32模型，记录每层激活值的 r_min 和 r_max（或使用百分位截断）。
2. 计算尺度：根据目标位宽（如INT8的 q_min=-128, q_max=127）代入公式。
3. 计算零点：确保浮点0映射到整数 z，若 r_min 为正，则 z 可能为负。
4. 校准：使用少量校准数据（约100-500张图片）调整 r_min/r_max，避免离群点主导尺度。

4.3 对称量化与非对称量化：精度与硬件效率的权衡

核心原理：对称量化强制 z=0，即浮点0映射到整数0，公式简化为 r = s × q。这减少了推理时的减法操作，适合权重分布近似关于0对称的情况（如经过BatchNorm后的卷积核）。非对称量化允许 z≠0，能更精细地覆盖任意分布，但硬件需要额外计算 (q - z)，增加一个减法操作。

判断方法：在无人机部署中，建议遵循以下规则：

• 权重（Weight）：优先使用对称量化。因为权重通常经过正则化，分布接近高斯且关于0对称，对称量化不会损失太多精度，且硬件实现简单。
• 激活（Activation）：优先使用非对称量化。ReLU等激活函数输出全为非负值，分布明显偏移，非对称量化能有效利用量化范围。
• 特殊情况：若激活值经过Tanh或Sigmoid，输出范围固定为[-1,1]或[0,1]，此时对称量化（对Tanh）或非对称量化（对Sigmoid）均可，但需实测对比。

4.4 实战场景：无人机视觉模型混合量化部署

案例背景：某农业无人机需要部署一个YOLOv5s目标检测模型（识别农田中的障碍物），目标平台为NVIDIA Jetson Nano（算力472 GFLOPS FP16，但INT8算力可达1 TOPS）。初始FP32模型推理延迟为85ms，无法满足实时避障需求（要求<40ms）。

初始现象与目标：FP32模型精度mAP@0.5为0.82，延迟85ms。目标是将延迟降至40ms以下，同时mAP下降不超过2%。

关键输入数据：模型权重分布经统计，约70%的层权重近似对称分布；激活值经ReLU后全部为非负，且最大值集中在0~12之间。校准集选用500张农田实拍图。

分析判断过程：

1. 首先尝试全INT8对称量化，发现mAP降至0.71（下降11%），主要原因是检测头（输出层）的激活值分布极不均匀，对称量化截断了大量小数值。
2. 改为混合量化：Backbone（骨干网络）使用INT8对称量化（权重+激活），Neck（特征融合层）使用INT8非对称量化（激活），Head（检测头）保留FP16。
3. 使用TensorRT的 calibrator 进行熵校准，选择百分位99.9%截断离群点。

实际操作步骤：

# 伪代码示例：TensorRT混合精度配置
config.set_flag(trt.BuilderFlag.INT8)
config.int8_calibrator = EntropyCalibrator2(calib_images)
# 指定层精度
for layer in network:
    if layer.name.startswith('head'):
        layer.precision = trt.float16
    elif layer.name.startswith('backbone'):
        layer.precision = trt.int8
        layer.set_output_type(trt.int8)

结果对比：

风险与代价：混合量化需要手动指定层精度，增加了部署复杂度；且校准集若与真实场景分布差异大，会导致尺度估计偏差。最终方案选择混合量化，因为延迟满足要求且精度损失仅0.02。

复盘经验：在无人机这类资源受限场景，“一刀切”量化往往失败。正确做法是：先分析每层权重/激活的分布特征，再结合硬件指令集（如Jetson的DP4A指令支持INT8乘加），最后用校准集迭代验证。同时，建议在飞控代码中保留FP32的备用模型，当检测置信度持续低于阈值时自动切换，确保安全。