4. 量化参数调优：粒度、对称性与边界裁剪
量化参数调优，说白了就是给模型找一套最合适的「压缩参数」。我刚开始做量化时，以为直接调用 API 就完事了。结果模型跑起来，精度掉了 3 个点，检测框乱飘。后来才明白——参数没调对，量化就是瞎搞。
这一章，咱们重点聊三个核心参数：量化粒度、对称性、边界裁剪。它们直接影响量化后的精度表现。
4.1 量化粒度：Per-Tensor vs Per-Channel
量化粒度决定了「多少个权重共享同一套缩放参数」。粒度越细，精度保留越好，但计算开销也越大。
| 粒度类型 | 共享范围 | 精度保留 | 硬件友好度 | 适用场景 |
|---|---|---|---|---|
| Per-Tensor | 整个张量 | 较低 | 高（多数硬件原生支持） | 权重分布均匀的层 |
| Per-Channel | 每个输出通道 | 较高 | 中等（部分硬件需特殊处理） | 权重分布差异大的层 |
我在项目中遇到过这样一个情况：YOLOv11 的 Conv 层，如果全部用 Per-Tensor 量化，某些通道的权重范围特别大，导致小权重被「淹没」，精度直接崩了。换成 Per-Channel 后，每个通道独立缩放，问题就解决了。
经验法则：
- 卷积层（Conv）优先用 Per-Channel，尤其是深度可分离卷积。
- 全连接层（Linear）可以用 Per-Tensor，因为权重分布通常比较均匀。
- 如果硬件不支持 Per-Channel，考虑对权重分布异常的层做特殊处理。
4.2 对称 vs 非对称量化
对称量化，就是量化范围关于零点对称（零点固定为 0）。非对称量化，零点可以偏移。说白了，对称量化计算简单，非对称量化更灵活。
| 类型 | 零点位置 | 计算复杂度 | 精度表现 | 典型场景 |
|---|---|---|---|---|
| 对称量化 | 固定为 0 | 低（无零点偏移计算） | 权重分布对称时好 | 权重、ReLU 后的激活值 |
| 非对称量化 | 可偏移 | 高（需处理零点） | 分布不对称时更好 | 激活值（如 SiLU、Leaky ReLU） |
YOLOv11 的激活函数用了 SiLU，输出分布不是对称的。如果强行用对称量化，零点附近的精度会损失严重。我建议：权重用对称量化，激活值用非对称量化。这是目前工业界最稳妥的搭配。
小技巧： 如果你用 PyTorch 的 torch.quantization，可以通过 qconfig 分别设置权重和激活的量化方式。例如：
from torch.quantization import default_qconfig, QConfig
from torch.quantization.observer import MinMaxObserver, MovingAverageMinMaxObserver
# 权重：对称量化，Per-Channel
weight_observer = MovingAverageMinMaxObserver.with_args(
dtype=torch.qint8, qscheme=torch.per_channel_symmetric
)
# 激活：非对称量化，Per-Tensor
activation_observer = MinMaxObserver.with_args(
dtype=torch.quint8, qscheme=torch.per_tensor_affine
)
qconfig = QConfig(activation=activation_observer, weight=weight_observer)4.3 量化边界裁剪（Clipping）
量化边界，就是决定把浮点数的哪个范围映射到整数的 [0, 255] 或 [-128, 127]。边界设得太宽，量化精度浪费；设得太窄，离群点被截断，信息丢失。
我曾经在一个检测任务中，发现某个层的激活值有少量极大值（离群点）。如果不做裁剪，整个量化范围被拉得很宽，大部分正常值只能用到很少的整数刻度。精度掉了 2 个点。后来我用了 Percentile Clipping，只保留 99.9% 的数据范围，把离群点扔掉，精度就回来了。
注意： 裁剪比例不能太大。我见过有人直接裁掉 5% 的离群点，结果模型输出全乱了。建议从 0.1% 开始试，逐步增加，观察精度变化。
常见的裁剪策略有几种：
- MinMax： 不裁剪，直接用全局最小/最大值。简单，但容易被离群点带偏。
- Percentile： 按百分比裁剪。例如保留 [0.1%, 99.9%] 的范围。适合有离群点的分布。
- KL 散度： 通过最小化量化前后分布的 KL 散度，找到最优边界。效果好，但计算慢。
- MSE： 最小化量化误差的均方根。比 KL 快一些，精度也不错。
| 策略 | 计算开销 | 精度表现 | 适用场景 |
|---|---|---|---|
| MinMax | 极低 | 一般 | 分布均匀、无离群点 |
| Percentile | 低 | 较好 | 有少量离群点 |
| KL 散度 | 高 | 优秀 | 对精度要求极高 |
| MSE | 中等 | 良好 | 平衡精度与速度 |
我的建议： 先用 Percentile（0.1% 裁剪）快速试一遍。如果精度不够，再换成 KL 散度做精细调优。别一上来就上 KL，太慢了。
4.4 参数调优流程
说了这么多，到底怎么调？我总结了一个三步走的流程：
- 粗调： 全部用 Per-Tensor + 对称量化 + MinMax。跑一遍，看精度掉多少。
- 细调： 把 Conv 层换成 Per-Channel，激活值换成非对称量化。精度通常能回升 0.5-1 个点。
- 精调： 对精度敏感的层，单独做边界裁剪。用 Percentile 或 KL 散度，逐层优化。
嗯，这里要注意：每次只改一个参数，别同时改好几个。不然你都不知道是哪个改动起了作用。
4.5 实战避坑
最后，分享几个我踩过的坑：
- 别迷信 Per-Channel： 虽然它精度好，但有些硬件（比如某些 NPU）不支持。部署前一定要确认硬件能力。
- 对称量化不是万能的： 如果激活值分布严重偏斜，非对称量化能多保留 0.3-0.5 个点的精度。
- 裁剪要逐层验证： 我曾经对某个层裁了 1% 的离群点，精度没变。但另一个层裁了 0.5%，精度直接掉了 1 个点。每个层都不一样，别偷懒。
一句话总结： 量化参数调优没有银弹。Per-Channel + 非对称激活 + Percentile 裁剪，是我最常用的起点。然后根据实际精度反馈，逐层微调。