4、量化精度分析：量化误差来源分析、不同位宽（INT8/INT4/INT2）的精度影响、量化敏感层识别。
好，我们直接进入正题。量化精度分析，说白了就是搞清楚一件事：模型量化之后，到底损失了多少“智商”。很多同学一上来就急着把模型从FP32压到INT8，结果跑出来画面全是噪点，人脸都糊成一团。嗯，这就是没做好精度分析。
我个人习惯，在做任何量化之前，先花半天时间把误差来源摸清楚。你想想看，如果连“敌人”是谁都不知道，怎么打胜仗？
4.1 量化误差的来源：到底是谁在捣乱？
量化误差不是凭空产生的。我把它归纳为三大“元凶”：
- 截断误差：这是最直接的。FP32的数值范围很宽，但INT8只能表示256个值。超出范围的数据，只能被“咔嚓”一刀剪掉。我在项目中遇到过，某个卷积层的权重分布特别“胖”，两端拖了很长的尾巴，一量化，尾巴全没了，精度直接掉了2个点。
- 舍入误差：数值落在两个量化格子之间，怎么办？只能四舍五入到最近的那个。这种“差不多”的误差，在单层看很小，但网络一深，误差会像滚雪球一样越滚越大。
- 异常值干扰：这是最坑的。有时候输入数据里突然蹦出一个极大的值（比如传感器瞬间的噪声），它会直接把整个量化范围撑得很大。结果就是，大部分正常数据被压缩到很小的几个量化步长里，精度惨不忍睹。
核心观点： 量化误差的本质，是“信息熵”的损失。我们做的所有工作，都是在有限的比特数里，尽可能保留最多的信息。
我曾经在一个夜景ISP项目里，发现量化后的图像暗部全是条纹。查了半天，原来是某个特征图的数值范围是[-0.01, 0.01]，但被一个异常值拉到了[-100, 100]。量化后，暗部细节几乎全丢了。后来加了饱和截断和异常值过滤，问题才解决。
4.2 不同位宽的精度影响：INT8、INT4、INT2的“性格”
不同位宽，就像不同性格的人。你得摸透它们的脾气，才能用好它们。
| 位宽 | 表示范围 | 精度损失 | 典型应用场景 | 我的经验 |
|---|---|---|---|---|
| INT8 | 256个值 | 较小（通常<1%） | 权重、激活值、大部分卷积层 | “老好人”，大部分模型都能直接上，几乎不掉点。 |
| INT4 | 16个值 | 中等（1%-5%） | 部分冗余层、全连接层、权重 | “有点脾气”，需要做敏感层分析，不能无脑用。 |
| INT2 | 4个值 | 较大（通常>5%） | 极端压缩场景、二值化网络变体 | “刺头”，除非网络结构专门设计过，否则慎用。 |
你可能会问：“既然INT8这么好，为什么还要用INT4和INT2？”
原因很简单：带宽和算力。在端侧芯片上，内存带宽往往是瓶颈。INT4的模型大小只有INT8的一半，推理速度能快不少。我做过一个实验，在某个AI ISP芯片上，把模型从INT8压到INT4，帧率从30fps直接飙到了60fps。代价是PSNR掉了0.8dB，但客户说“画面能看，流畅更重要”。
避坑指南： 我曾经在INT4量化时，发现某个层的输出全是0。查了半天，原来是该层的激活值范围极小，量化步长太大，所有值都被量化到了0。解决办法是：对该层使用per-channel量化，或者改用非对称量化。
4.3 量化敏感层识别：找到模型里的“软肋”
不是所有层都怕量化。有些层天生皮实，量化了也不掉点；有些层则非常敏感，稍微一动就崩。我们的任务，就是找到这些“软肋”。
我常用的方法有三种：
- 逐层量化分析法：把模型一层一层单独量化，其他层保持FP32，看哪一层量化后精度掉得最厉害。这个方法最直观，但很耗时。
- 梯度敏感度分析：计算每层权重的梯度，梯度大的层通常对量化更敏感。这个方法快，但需要跑一次反向传播。
- 信噪比（SNR）分析：量化后的输出和原始输出的信噪比。SNR低的层，就是敏感层。
下面是一个我常用的敏感层识别流程：
# 伪代码：逐层量化敏感度分析
for layer in model.layers:
# 1. 保存原始权重
original_weights = layer.get_weights()
# 2. 只量化当前层
quantized_weights = quantize(original_weights, bit_width=8)
layer.set_weights(quantized_weights)
# 3. 在验证集上评估精度
accuracy = evaluate(model, val_dataset)
# 4. 记录精度损失
sensitivity[layer.name] = baseline_accuracy - accuracy
# 5. 恢复原始权重
layer.set_weights(original_weights)
# 输出敏感度排名
sorted_layers = sorted(sensitivity.items(), key=lambda x: x[1], reverse=True)
print("Top-5 敏感层：", sorted_layers[:5])注意： 敏感层识别不是一劳永逸的。换一个数据集、换一种量化方法，敏感层的排名可能会变。我建议每次量化前都重新跑一遍分析，别偷懒。
下面这张图，是我总结的量化精度分析知识体系。你可以把它当作一个检查清单：
最后说一句，量化精度分析不是一次性的工作。模型迭代、芯片换平台、甚至训练数据变了，都可能影响量化结果。我现在的习惯是，把精度分析脚本集成到CI/CD流水线里，每次模型更新都自动跑一遍。省心，也放心。