4、线性量化原理：线性映射公式、scale和zero point的定义、对称量化与非对称量化的区别

在TensorFlow Lite的模型优化体系中，量化是将浮点模型转换为整数模型的核心手段。理解线性量化的数学本质，是掌握scale（缩放因子）与zero point（零点）参数含义的前提。本章从线性映射公式出发，系统拆解量化参数的定义逻辑，并深入对比对称量化与非对称量化在工程实践中的适用场景与权衡。

4.1 线性映射公式：从浮点到整数的桥梁

线性量化的本质是建立浮点实数与有限整数集合之间的仿射变换关系。设浮点值为 r，量化后的整数值为 q，则正向量化与反向反量化分别由以下公式定义：

反量化（整数→浮点）：r = S × (q − Z)
量化（浮点→整数）：q = round(r / S + Z)

其中 S（scale）表示浮点数值与整数刻度之间的比例关系，Z（zero point）表示浮点数值0对应的整数刻度。这两个参数一旦确定，整个张量的量化映射关系即被唯一锁定。TensorFlow Lite在转换模型时，会为每个张量（权重、偏置、激活值）独立计算S和Z，并作为量化参数存储在FlatBuffer中。

4.2 scale与zero point的精确定义

scale（缩放因子）定义为浮点范围与整数范围的比值，其数学表达式为：

S = (r_max − r_min) / (q_max − q_min)

zero point（零点）定义为浮点值0映射到整数域时的取值，计算公式为：

Z = round(q_min − r_min / S)

在实际工程中，S通常采用浮点数存储（如float32），而Z必须为整数类型（如int8或uint8）。Z的存在使得浮点值0在量化后不一定映射到整数0，这为非对称分布的数据提供了更精细的表示能力。

参数	数学定义	数据类型	作用
scale (S)	(r_max − r_min) / (q_max − q_min)	float32	控制量化步长，决定精度损失程度
zero point (Z)	round(q_min − r_min / S)	int8/uint8	对齐浮点0与整数刻度，处理非对称分布

以TensorFlow Lite默认的int8量化为例，q_min=-128，q_max=127。若某激活张量的浮点范围为[-2.0, 6.0]，则：

S = (6.0 − (−2.0)) / (127 − (−128)) = 8.0 / 255 ≈ 0.03137
Z = round(−128 − (−2.0) / 0.03137) = round(−128 + 63.75) = round(−64.25) = −64

这意味着浮点值0对应整数-64，浮点值6.0对应整数127，浮点值-2.0对应整数-128。整个映射区间被均匀划分为255个刻度，每个刻度代表约0.03137的浮点变化。

4.3 对称量化与非对称量化的核心区别

对称量化是线性量化的一种特殊形式，其约束条件为Z=0，即浮点0必须映射到整数0。此时映射公式简化为：

r = S × q
q = round(r / S)

对称量化要求浮点范围关于原点对称，即r_max = −r_min。实际计算时，通常取r_max = max(|r_min|, |r_max|)，然后令S = r_max / q_max。这种方式的优势在于：

• 计算效率高：反量化时无需减去Z，减少一次整数减法运算
• 硬件友好：许多NPU和DSP的乘加单元天然支持对称量化，无需额外处理零点偏移
• 存储简洁：无需为每个张量额外存储Z值

非对称量化则允许Z≠0，能够更灵活地适配数据分布。当激活值经过ReLU等操作后呈现明显的单侧分布（如[0, 6.0]）时，非对称量化可以将整个整数范围用于表示有效数据区间，避免对称量化中因强制对称而浪费一半的量化刻度。

对比维度	对称量化	非对称量化
zero point	恒为0	可为任意整数
浮点范围要求	关于原点对称	无特殊要求
计算复杂度	低（无需零点偏移）	较高（需处理Z）
精度表现	对偏斜分布精度较差	对任意分布均能较好适配
典型应用	权重张量、偏置张量	激活张量、输入张量
TensorFlow Lite默认	权重使用对称量化	激活使用非对称量化

4.4 案例拆解：一个卷积层的量化参数计算

假设我们有一个3×3的卷积层，其权重张量W的浮点分布为[-0.5, 0.8]，偏置b为[0.1, 0.3]，输入激活值x经过ReLU后分布在[0.0, 5.0]。我们分别计算各张量的量化参数。

第一步：权重张量（对称量化）

r_max = max(|−0.5|, |0.8|) = 0.8
S_w = 0.8 / 127 ≈ 0.006299
Z_w = 0（对称量化强制零点为0）

第二步：激活张量（非对称量化）

r_min = 0.0, r_max = 5.0
S_x = (5.0 − 0.0) / (127 − (−128)) = 5.0 / 255 ≈ 0.019608
Z_x = round(−128 − 0.0 / 0.019608) = round(−128) = −128

第三步：偏置张量（特殊处理）

偏置的量化scale必须与权重和激活的scale保持一致，以保证卷积运算的数学等价性。TensorFlow Lite规定偏置的scale为S_b = S_w × S_x，零点Z_b = 0：

S_b = 0.006299 × 0.019608 ≈ 0.0001235
Z_b = 0

第四步：量化后的整数运算

原始浮点卷积公式为：y = W·x + b。量化后，整数域运算为：

q_y = (S_w × S_x / S_y) × (q_w − Z_w) × (q_x − Z_x) + (S_b / S_y) × q_b + Z_y

由于S_w × S_x = S_b，且Z_w = 0，Z_b = 0，公式可简化为：

q_y = (S_b / S_y) × (q_w × q_x + q_b) + Z_y

其中(S_b / S_y)和Z_y在推理前预先计算为常量，实际运行时仅需整数乘加运算。

4.5 常见误区与总结复盘

误区一：认为对称量化一定比非对称量化精度差。实际上，对于分布接近对称的数据（如权重），对称量化不会损失有效精度，且计算更高效。只有对偏斜分布的数据，非对称量化才具有明显优势。

误区二：忽略zero point对反量化的影响。在反量化公式r = S × (q − Z)中，Z的符号和大小直接影响浮点还原值。若Z计算错误，即使S完全正确，反量化结果也会整体偏移。

误区三：所有张量使用相同的量化参数。不同张量的数值范围差异巨大，必须独立计算S和Z。TensorFlow Lite的量化器会逐张量统计数值范围，而非使用全局统一参数。