4、量化核心概念：对称量化与非对称量化、量化尺度（scale）与零点（zero point）、量化精度与动态范围

在GD32系列MCU上部署INT8模型之前，必须透彻理解量化的数学本质与工程含义。量化本质上是将连续浮点数值域映射到离散整数数值域的过程，这一过程涉及三个核心决策：映射方式（对称/非对称）、映射参数（scale与zero point）以及数值表示能力（精度与动态范围）。这三个概念决定了模型转换后的精度损失程度、推理速度以及内存占用。本节将从数学定义出发，结合GD32的硬件特性，深入剖析这些核心概念，并给出可操作的量化参数计算与验证方法。

4.1 对称量化与非对称量化的数学本质

对称量化与非对称量化的根本区别在于浮点零值映射到整数零值的方式。对称量化强制要求浮点零值精确映射到整数零值，即zero point恒等于0。此时量化公式简化为：q = round(x / scale)，反量化为x = q × scale。对称量化的核心优势在于计算效率——在卷积或全连接层中，当权重和激活值均为对称量化时，累加运算可以完全避免zero point的额外加减操作，这在GD32的Cortex-M4内核上能减少约15%-20%的乘加指令周期。然而，对称量化要求浮点数据的正负范围对称，即|min| ≈ max。对于ReLU等激活函数输出的非负张量，对称量化会浪费一半的整数编码空间（负半轴全部闲置），导致有效分辨率降低一倍。

非对称量化则允许浮点零值映射到任意整数zero point，量化公式为q = round(x / scale) + zero_point。其中zero_point = round(-min / scale)，确保浮点最小值映射到整数最小值。非对称量化能够充分利用INT8的全部256个编码级别，对于分布偏斜的张量（如ReLU输出、sigmoid输出）可以获得更精细的分辨率。但代价是推理时需要额外处理zero point的加减运算，且反量化公式变为x = (q - zero_point) × scale，增加了计算复杂度。在GD32上，非对称量化通常用于激活值，而权重由于分布相对对称（权重初始化通常以0为中心），常采用对称量化以简化计算。

4.2 量化尺度（scale）与零点（zero point）的精确计算

量化尺度scale决定了浮点数值与整数数值之间的比例关系，其数学定义为scale = (max - min) / (q_max - q_min)。对于INT8有符号数，q_max = 127, q_min = -128；对于无符号数，q_max = 255, q_min = 0。scale的本质是量化分辨率——scale越小，相邻整数代表的浮点间隔越小，量化精度越高。但scale过小会导致动态范围不足，超出范围的浮点值被截断（clip），产生饱和误差。

zero point的计算公式为zero_point = round(-min / scale)，但必须进行裁剪使其落在[q_min, q_max]范围内。实际计算中，更稳健的做法是先确定浮点范围[min, max]，然后计算scale，最后通过zero_point = q_min - round(min / scale)得到零点。需要注意的是，zero point的舍入误差会引入系统性偏移，在多层累加后可能被放大。因此，在GD32的定点实现中，建议使用round-to-nearest-even舍入模式，避免简单的截断舍入。

量化类型	scale公式	zero point公式	适用场景	GD32计算开销
对称有符号	max(|min|,|max|) / 127	0（固定）	权重、偏置	低（无零点运算）
非对称有符号	(max-min) / 255	round(-min/scale)	激活值、中间特征图	中（需零点加减）
非对称无符号	(max-min) / 255	round(-min/scale)	图像输入（0-255）	中
per-channel对称	每通道独立scale	0	卷积权重（输出通道）	高（需查表）

在GD32F4系列上，由于硬件不支持SIMD的INT8点积指令（Cortex-M4仅支持8位单指令乘法），量化推理通常通过查表法或移位近似实现。因此，scale应尽量设计为2的幂次（如scale = 2^-n），这样乘法可以转换为移位操作，大幅提升推理速度。例如，若计算得到scale=0.00390625，可近似为2^-8，将浮点乘法替换为右移8位，在GD32上可减少约70%的乘法周期。

4.3 量化精度与动态范围的权衡

量化精度（resolution）与动态范围（dynamic range）是一对矛盾体。在INT8的256个编码级别固定不变的前提下，若浮点范围[min, max]越大，则scale越大，相邻整数间的浮点间隔越大，精度越低；反之，若范围收窄，精度提升但超出范围的数值被截断的概率增加。这种权衡在GD32部署中尤为关键，因为MCU的SRAM有限，无法像PC端那样使用per-tensor动态范围校准。

实际部署中，动态范围的确定依赖于校准数据集。常用的校准方法包括：MinMax（直接取张量实际最小/最大值）、Percentile（取99.99%分位数以排除离群值）、KL散度（最小化量化前后分布差异）。在GD32上，由于计算资源有限，推荐使用Percentile方法——它只需一次前向统计，计算量小且对离群值鲁棒。例如，对于激活值分布，取99.9%分位数作为max，可避免个别极端值拉大scale导致整体精度下降。

精度与动态范围的权衡还体现在per-tensor与per-channel量化选择上。per-tensor量化对整个张量使用统一的scale和zero point，实现简单但精度较低；per-channel量化对卷积权重的每个输出通道独立计算scale，精度更高但需要额外的存储和计算开销。在GD32上，由于Flash和SRAM容量有限（如GD32F407仅有192KB SRAM），通常只在第一层和最后一层使用per-channel量化，中间层使用per-tensor以节省参数存储。

4.4 实战案例：GD32F407部署MobileNetV1的量化参数确定

以在GD32F407上部署MobileNetV1图像分类模型为例，输入为32×32×3的RGB图像，模型包含13个深度可分离卷积层。初始FP32模型在ImageNet子集上top-1准确率为68.2%。部署目标是将模型压缩至INT8，同时保证准确率下降不超过2%。

步骤1：权重量化。统计每个卷积层的权重分布，发现所有层的权重均近似对称分布（均值≈0，标准差0.02-0.08）。因此，对所有权重采用对称量化，scale = max(|w|) / 127。以第3层深度卷积为例，权重最大值为0.087，计算scale = 0.087/127 ≈ 0.000685。该层权重共3×3×32=288个参数，量化后存储从1152字节降至288字节。

步骤2：激活量化。使用1000张校准图像，逐层前向传播并统计每层输出的激活分布。发现ReLU后的激活值全部非负，且分布呈长尾状。采用99.9%分位数作为max，以第5层输出为例，99.9%分位数为2.34，min=0，计算scale = 2.34/255 ≈ 0.00918，zero_point = 0。若使用MinMax方法，max=4.87，scale变为0.0191，精度损失增加约0.8%。

步骤3：scale的2的幂次近似。将第5层的scale=0.00918近似为2^-7=0.0078125，误差约14.9%。但通过后续层的补偿，整体精度损失仅增加0.3%。在GD32上，该层原本需要288次浮点乘法，近似后改为288次移位操作，推理时间从12.3ms降至9.8ms。

步骤4：验证与调优。量化后模型在测试集上top-1准确率为66.8%，下降1.4%，满足目标。但发现第8层深度卷积的权重范围异常（max=0.213），导致该层量化误差较大。将该层改为per-channel量化后，准确率回升至67.5%。最终模型总大小为FP32模型的25.3%，推理速度提升3.2倍。

4.5 常见误区与总结

误区一：认为对称量化一定比非对称量化差。实际上，对于权重这类对称分布的数据，对称量化不仅精度不损失，还能简化计算。只有对非负激活值，非对称量化才有明显优势。

误区二：忽略zero point的舍入误差。zero point的舍入误差在深层网络中会累积。在GD32上，建议使用round-to-nearest-even模式，并在每层反量化时补偿零点偏移。

误区三：动态范围越大越好。动态范围过大会稀释量化精度。正确的做法是使用校准集统计合理的范围，必要时对离群值进行截断。

误区四：所有层使用相同的量化策略。不同层的权重和激活分布差异很大，应逐层分析并选择合适的量化参数。在GD32资源受限的情况下，优先对敏感层（如第一层、最后的全连接层）使用per-channel量化。

总结而言，对称/非对称量化决定了计算复杂度，scale与zero point决定了映射精度，精度与动态范围则需要在模型准确率和硬件效率之间取得平衡。在GD32上部署INT8模型时，建议遵循"先校准、再近似、后验证"的流程，通过系统化的量化参数确定与误差分析，实现模型压缩与推理加速的最优解。