2、深度学习模型量化基础：浮点与定点表示、量化误差来源、对称与非对称量化、量化粒度（per-tensor/per-channel）
在工业视觉部署场景中，模型量化是连接高性能算法与低成本硬件的核心桥梁。无论是海思、瑞芯微、地平线等国产芯片，还是英伟达的TensorRT、Intel的OpenVINO，其底层加速逻辑都依赖于将FP32权重与激活转换为低比特整数（如INT8）。然而，量化并非简单的数值截断，它涉及数值表示、误差控制、粒度选择等多个维度的权衡。本章将从浮点与定点的本质差异出发，系统拆解量化误差的来源，并深入对比对称/非对称量化以及per-tensor/per-channel两种粒度策略，为后续的精度保护与校准集构建奠定理论基础。
2.1 浮点与定点表示：数值世界的两种语言
深度学习模型在训练阶段几乎全部采用IEEE 754标准的FP32（32位浮点数）格式。FP32由1位符号位、8位指数位和23位尾数位组成，其动态范围可达约1.18e-38至3.4e38，能够精确表达极小或极大的数值。然而，这种高精度是以存储空间和计算复杂度为代价的。在工业视觉设备中，如海思Hi3559A或瑞芯微RK3588，其NPU（神经网络处理单元）通常只支持INT8或INT16定点运算。定点数通过固定小数位来表示实数，例如Q7.8格式表示8位整数位和8位小数位。定点运算在硬件上只需整数乘加器即可完成，功耗和延迟远低于浮点运算。
量化的本质是寻找一个映射函数，将浮点实数域映射到有限的整数域。最基础的映射公式为：r = S × (q - Z)，其中r为原始浮点值，q为量化后的整数值，S为缩放因子（scale），Z为零点（zero-point）。S的计算公式为S = (rmax - rmin) / (qmax - qmin)，Z则用于对齐浮点零与整数零。理解这一映射关系是后续所有量化策略的基础。
2.2 量化误差来源：从数学到工程的偏差溯源
量化误差并非单一来源，而是多种因素叠加的结果。理解这些误差来源，有助于在实际部署中针对性地进行优化。主要误差来源包括以下四类：
- 舍入误差（Rounding Error）：将浮点值映射到最近整数时产生的误差，类似于四舍五入。这种误差是随机的、无偏的，其最大值为0.5×S。在大量数据统计下，舍入误差近似均匀分布，可通过增加量化位数或使用随机舍入（如直方图均衡）来缓解。
- 截断误差（Clipping Error）：当浮点值超出量化范围[rmax, rmin]时，会被强制截断到边界值。这种误差是系统性的、有偏的，尤其在存在离群值（outlier）时非常显著。例如，权重中偶尔出现一个远大于均值3σ的值，若直接采用min/max范围，会导致大部分正常值被压缩到很小的量化步长上，精度急剧下降。
- 精度丢失（Precision Loss）：量化后数值的表示精度从FP32的约7位有效数字降至INT8的约2-3位有效数字。对于需要高精度累加的操作（如BatchNorm的均值/方差），这种精度丢失可能被放大。
- 动态范围不匹配（Dynamic Range Mismatch）：不同层、不同通道的激活值分布差异巨大。例如，检测网络的第一层卷积输出可能集中在[0, 5]区间，而深层特征图的输出可能分布在[-50, 200]区间。若全局使用同一量化范围，必然导致部分层严重欠量化。
在实际工程中，截断误差往往是最需要关注的。TensorRT等工具在默认情况下会使用entropy calibration（熵校准）而非简单的min/max校准，其目的就是通过最小化KL散度来寻找最优截断阈值，从而在舍入误差和截断误差之间取得平衡。
2.3 对称与非对称量化：两种映射策略的博弈
对称量化与非对称量化的核心区别在于零点Z是否为零。对称量化强制Z=0，即浮点零映射到整数零，量化范围关于原点对称。其映射公式简化为r = S × q。这种方式的优势在于实现简单，无需存储零点，且卷积运算中的乘加操作无需额外处理零点偏移。然而，对于分布不对称的数据（如ReLU后的激活值全为正），对称量化会浪费一半的量化码本（负半轴全部闲置），导致有效分辨率降低。
非对称量化允许Z≠0，通过零点偏移来适配数据的实际分布。例如，若激活值分布在[2, 10]区间，非对称量化可以将量化范围精确设置为[2, 10]，从而充分利用256个整数码本。其代价是计算时需要额外处理零点偏移，且硬件实现复杂度增加。在工业实践中，权重通常使用对称量化（因为权重分布近似对称），而激活值则根据具体分布选择对称或非对称。下表总结了两种策略的适用场景：
| 对比维度 | 对称量化 | 非对称量化 |
|---|---|---|
| 零点Z | 恒为0 | 非0，需额外存储 |
| 计算复杂度 | 低（无需零点修正） | 高（需修正Z） |
| 适用数据分布 | 近似对称分布（权重） | 偏态分布（ReLU激活） |
| 硬件支持 | 广泛支持 | 部分NPU不支持 |
| 精度表现 | 对不对称数据精度损失大 | 能更好适配数据范围 |
2.4 量化粒度：per-tensor与per-channel的精度与效率权衡
量化粒度决定了量化参数（S和Z）的共享范围。最粗粒度的per-tensor量化为整个张量（如一个卷积层的权重或激活）使用一组量化参数。这种方式实现最简单，硬件支持度最高，但问题在于：卷积层的权重张量形状为[out_channels, in_channels, kh, kw]，不同输出通道的权重分布可能存在显著差异。例如，某些通道的权重范围在[-0.1, 0.1]，而另一些通道在[-2.0, 2.0]。若采用per-tensor，量化步长S会被最大范围通道主导，导致小范围通道的量化精度严重不足。
per-channel量化则为每个输出通道独立计算量化参数。对于权重，per-channel量化通常只增加极小的计算开销（因为权重在推理时是静态的，可以预先计算好量化参数）。对于激活值，per-channel量化需要动态统计每个通道的分布，计算量较大，因此在实际部署中，激活值通常仍使用per-tensor量化，而权重使用per-channel量化。这种混合策略已成为工业界的主流选择。
# 伪代码示例：per-channel量化参数计算
import numpy as np
# 权重形状: [out_ch, in_ch, kh, kw]
weight = np.random.randn(64, 3, 3, 3).astype(np.float32)
# per-tensor
scale_tensor = (weight.max() - weight.min()) / 255
# per-channel
scale_channel = (weight.max(axis=(1,2,3)) - weight.min(axis=(1,2,3))) / 255
print(f"Per-tensor scale: {scale_tensor:.4f}")
print(f"Per-channel scale range: [{scale_channel.min():.4f}, {scale_channel.max():.4f}]")从上述代码可以看出，per-channel的scale范围跨度可能达到10倍以上。在MobileNet这类深度可分离卷积中，per-channel量化带来的精度提升尤为明显，因为其逐通道卷积的通道数较少，通道间差异更大。
2.5 案例拆解：工业质检场景下的量化策略选择
某3C电子制造企业需要在RK3588平台上部署一个缺陷检测模型（基于ResNet18的改进网络），用于检测手机外壳的划痕和污渍。模型输入为224×224×3的RGB图像，FP32模型在GPU上的mAP为98.2%。部署目标是将模型转换为INT8，并保证mAP下降不超过1%。
初始现象与约束：直接使用TensorRT的默认校准（entropy calibration）后，mAP降至96.5%，下降1.7%，超出容忍范围。进一步分析发现，模型的第一层卷积和最后的全连接层对量化敏感度最高。
分析判断过程：通过TensorRT的层级精度分析工具，定位到第一层卷积的激活值分布存在明显的长尾效应（最大值约为均值的20倍），而全连接层的权重分布存在通道间差异。若采用per-tensor量化，第一层卷积的激活值截断误差过大；若采用对称量化，全连接层的权重负半轴浪费严重。
实际操作步骤：
- 将第一层卷积的激活值改为非对称per-tensor量化，并采用KL散度校准，而非min/max校准。
- 将全连接层的权重改为per-channel对称量化，其他卷积层保持per-tensor对称量化。
- 使用200张覆盖不同光照条件和缺陷类型的真实产线图像作为校准集，而非随机选取的ImageNet图像。
- 重新校准后，mAP恢复至97.8%，精度损失0.4%，满足要求。
结果对比与风险：量化后模型推理速度从FP32的45ms提升至INT8的12ms，加速比3.75倍。但需注意，per-channel量化在RK3588上会增加约5%的NPU计算开销，且校准集的选择对结果影响极大。若校准集与真实数据分布偏差过大，精度可能再次下降。