2、量化基础回顾：掌握线性量化、对称/非对称量化、量化参数（scale、zero_point）等核心概念，为调参打下理论基础
在进入 TFLite 的 PTQ（Post-Training Quantization，训练后量化）调参之前，我们必须先建立一套精确的量化语言体系。量化本质上是用低精度整数（如 int8、uint8）去近似高精度浮点数（如 float32）的过程，而 PTQ 调参的所有操作——无论是调整校准集、修正输入范围，还是优化精度恢复策略——最终都落脚于对量化参数 scale 和 zero_point 的重新计算与约束。如果对线性量化的数学本质、对称与非对称的适用边界、以及量化参数如何影响数值分辨率缺乏清晰认知，后续的调参工作就会变成盲目的试错。本节将系统梳理这些核心概念，并揭示它们与 PTQ 精度损失之间的直接因果关系。
2.1 线性量化的数学本质与量化参数
线性量化（Linear Quantization）的核心假设是：浮点实数域中的数值与量化整数域之间存在一个仿射变换关系。这种变换是均匀的，即浮点范围内任意两个相邻整数之间的间隔（步长）是恒定的。这个步长就是 scale（缩放因子），而整数域中对应浮点零点的位置则由 zero_point（零点偏移）来标记。
量化过程可以形式化地表达为：
q = clamp(round(r / scale) + zero_point, q_min, q_max)
r_approx = (q - zero_point) × scale其中 round() 是取整函数，clamp() 将结果限制在整数类型允许的范围内（如 int8 的 [-128, 127]）。反量化公式则用于将整数还原为浮点近似值。这里的关键在于：scale 决定了量化分辨率——scale 越小，相邻整数代表的浮点间隔越小，量化精度越高；但 scale 过小会导致整数范围溢出，从而引入截断误差。
从信息论的角度看，量化是一个有损压缩过程。量化误差由两部分组成：舍入误差（由 round 操作引入，通常不超过 0.5 × scale）和截断误差（由 clamp 操作引入，当浮点值超出 [r_min, r_max] 范围时发生）。PTQ 调参的核心目标之一，就是在这两种误差之间寻找最佳平衡点。
核心理解：scale 和 zero_point 不是独立变量，它们由浮点范围 [r_min, r_max] 和整数范围 [q_min, q_max] 共同决定。因此，PTQ 调参中所有关于"输入范围"的操作，本质上都是在调整 r_min 和 r_max 的取值，进而影响 scale 和 zero_point。
2.2 对称量化与非对称量化：适用场景与精度权衡
根据 zero_point 是否为零，线性量化可分为对称量化（Symmetric Quantization）和非对称量化（Asymmetric Quantization）两种模式。这两种模式在 TFLite 中均有广泛应用，且各有明确的适用场景。
| 对比维度 | 对称量化 | 非对称量化 |
|---|---|---|
| zero_point 取值 | 固定为 0 | 任意整数（通常非零） |
| 浮点范围 | [-r_max, r_max]（以零点对称） | [r_min, r_max]（任意范围） |
| scale 计算 | r_max / 127（int8） | (r_max - r_min) / 255（uint8） |
| 计算复杂度 | 低（无需零点偏移修正） | 较高（需额外处理 zero_point） |
| 精度表现 | 分布对称时精度高；非对称分布浪费量化范围 | 对任意分布都能充分利用量化范围 |
| TFLite 典型应用 | 权重张量（分布近似对称） | 激活张量（ReLU 后非负分布） |
在 TFLite 的默认 PTQ 流程中，权重通常采用对称量化，因为训练好的权重分布往往以零为中心、近似对称；而激活值通常采用非对称量化，因为经过 ReLU 等激活函数后，激活值分布往往偏向非负区间。这种"混合模式"是 TFLite 默认配置的理性选择，但在调参过程中，我们有时需要根据实际分布特征手动调整。
一个典型的精度损失场景是：当激活值分布极度偏斜（例如大部分值集中在 [0, 0.1] 区间，但存在少量 10.0 的离群值）时，非对称量化会将 scale 拉大，导致 [0, 0.1] 区间内的分辨率急剧下降。此时，调参策略应考虑范围裁剪（clipping），主动舍弃离群值以换取主要分布区间的更高精度。
2.3 校准集与输入范围：量化参数的来源
PTQ 与 QAT（Quantization-Aware Training，量化感知训练）的本质区别在于：PTQ 不需要反向传播训练，而是通过校准集（Calibration Dataset）的统计特征来确定量化参数。校准集是一小部分具有代表性的输入数据（通常为 100~500 个样本），它们被送入浮点模型进行前向推理，在推理过程中收集每个张量的数值分布信息。
校准集的质量直接决定了量化参数的优劣。一个理想的校准集应满足：覆盖典型输入分布、包含边界情况、数量适中。如果校准集与真实部署数据分布不一致，即使校准过程本身没有错误，量化后的模型在真实场景中也会出现精度骤降。
TFLite 提供了多种校准策略来确定输入范围，常见的有：
- MinMax 校准：直接使用校准集中观察到的张量最小值和最大值作为 r_min 和 r_max。实现简单，但对离群值敏感。
- Percentile 校准：使用分布的某个百分位（如 99.9%）作为范围边界，主动裁剪极端离群值。这是 PTQ 调参中最常用的策略之一。
- MSE（均方误差）校准：通过最小化量化前后张量的均方误差来选择最优范围。精度较高，但计算开销较大。
- KL 散度校准：通过最小化浮点分布与量化分布之间的 KL 散度来确定范围。TensorRT 中广泛使用，TFLite 也支持类似思路。
调参经验：当模型精度下降明显时，优先检查激活值的分布直方图。如果发现长尾分布，尝试将校准策略从 MinMax 切换为 Percentile（如 99.9%），通常能恢复大部分精度损失。校准集样本数量建议从 200 张开始，若分布不稳定可增加至 500 张。
2.4 案例拆解：一个卷积层的量化参数计算与精度分析
为了将上述概念串联起来，我们以一个实际场景进行拆解。假设我们有一个 TFLite 模型，其中某个卷积层的激活值（经过 ReLU 后）在 200 张校准集图像上统计得到的分布如下：
- 最小值：0.0（大量神经元输出为 0）
- 最大值：12.8（极少数神经元输出较大值）
- 99.9% 分位数：6.4
- 分布特征：约 70% 的值集中在 [0, 1.0] 区间
初始方案（MinMax 校准）：
r_min = 0.0, r_max = 12.8
scale = (12.8 - 0.0) / 255 = 0.0502
zero_point = 0（因为 r_min = 0，q_min = 0）此时，[0, 1.0] 区间内仅有约 20 个量化级别（1.0 / 0.0502 ≈ 20），分辨率严重不足。模型精度评估显示 Top-1 准确率从浮点的 92.3% 降至 88.7%，下降 3.6 个百分点。
调参方案（Percentile 99.9% 校准）：
r_min = 0.0, r_max = 6.4
scale = (6.4 - 0.0) / 255 = 0.0251
zero_point = 0调整后，[0, 1.0] 区间内约有 40 个量化级别，分辨率提升一倍。代价是大于 6.4 的极端值被截断，但这些值仅占 0.1%，对整体精度影响极小。重新评估后 Top-1 准确率恢复至 91.8%，仅下降 0.5 个百分点。
进一步优化（混合策略）：
考虑到权重张量分布近似对称，我们保持权重使用对称量化；激活值则采用非对称量化并配合范围裁剪。同时，将校准集从 200 张增加到 400 张，使分布统计更加稳定。最终精度达到 92.1%，几乎无损。
风险提示：范围裁剪并非越小越好。过度裁剪会引入严重的截断误差，尤其当被裁剪的值在后续层中被放大时，误差会逐层累积。建议每次调整后使用验证集评估精度，并监控每层的量化误差（可通过 TFLite 的 debug 工具输出中间张量的量化前后对比）。
2.5 常见误区与总结复盘
在量化基础概念的理解上，工程师常犯以下错误，这些误区会直接影响 PTQ 调参的效果：
- 误区一：认为 scale 越小越好。实际上，scale 过小会导致整数溢出，产生严重的截断误差。正确的做法是在舍入误差和截断误差之间寻找平衡。
- 误区二：忽视 zero_point 的作用。在非对称量化中，zero_point 的微小偏差会导致整个张量的系统性偏移。TFLite 在推理时会自动处理 zero_point，但手动计算时容易忽略。
- 误区三：校准集样本越多越好。样本过多会增加校准时间，且可能引入冗余信息；样本过少则统计不稳定。200~500 张是实践中的黄金区间。
- 误区四：所有层使用相同的校准策略。不同层的数据分布差异巨大，敏感层（如检测头、分类头）可能需要更保守的范围，而特征提取层可以更激进。