课程导入：QAT（量化感知训练）的定义、动机、与PTQ的区别、整体学习路径
深度学习模型在云端训练完成后，往往需要部署到手机、边缘设备、嵌入式板卡等资源受限的硬件上。模型参数量动辄数十亿，若直接以FP32精度运行，内存带宽和计算功耗都难以承受。量化（Quantization）通过将连续浮点数值映射到离散的低位整型（如INT8、INT4），能显著压缩模型体积并加速推理。然而，直接对训练好的模型做“事后量化”（Post-Training Quantization, PTQ）常常带来不可忽视的精度损失，尤其在激活值分布不均匀或存在敏感层的网络中。量化感知训练（Quantization-Aware Training, QAT）正是为了解决这一痛点而设计的——它在训练阶段就模拟量化误差，让模型权重和激活逐步适应低精度表示，从而在部署时获得接近原始浮点模型的精度。本章作为整个课程的开篇，将系统阐述QAT的定义、动机、与PTQ的本质区别，并给出贯穿后续29章的学习路径图。
1.1 QAT 的核心定义与动机
量化感知训练（QAT）是一种在模型训练过程中模拟量化误差的范式。其核心思想是：在训练图（Training Graph）中插入伪量化节点（FakeQuant Node），这些节点在前向传播时对权重和激活执行“伪量化”操作——即先量化到低精度（如INT8），再反量化回浮点值。这样，网络的前向计算虽然仍以浮点运算为主，但数值分布已经带上了量化噪声。反向传播时，由于量化/反量化操作的梯度几乎处处为零，无法直接回传，因此采用直通估计器（Straight-Through Estimator, STE）将梯度近似为恒等映射，使得权重可以正常更新。
QAT 的动机源于一个现实矛盾：PTQ 在大型模型（如 ResNet-50、BERT）上精度损失尚可接受，但在轻量级模型（如 MobileNet、EfficientNet-Lite）或对激活分布敏感的任务（如目标检测、语音识别）上，精度下降可能超过 2%~5%。根本原因在于，PTQ 使用少量校准数据统计激活范围，无法覆盖训练时的动态分布；而 QAT 让模型在训练中“看到”量化误差，从而调整权重以适应离散化表示。此外，QAT 还能为每层学习更优的量化参数（scale 和 zero_point），甚至支持混合精度量化。
1.2 QAT 与 PTQ 的本质区别
PTQ 和 QAT 虽然目标相同（将模型转为低精度），但工作阶段、数据需求、精度表现和工程复杂度截然不同。下表从多个维度进行对比：
| 对比维度 | PTQ（事后量化） | QAT（量化感知训练） |
|---|---|---|
| 执行阶段 | 训练完成后，部署前 | 训练过程中（或微调阶段） |
| 是否需要反向传播 | 否，仅前向推理 | 是，需要完整训练流程 |
| 校准数据量 | 通常 100~1000 张图片/样本 | 使用完整训练集（或较大子集） |
| 精度恢复能力 | 有限，依赖模型冗余度 | 强，可逼近 FP32 精度 |
| 训练时间开销 | 分钟级（仅校准） | 额外增加 10%~30% 训练时间 |
| 硬件要求 | CPU/GPU 均可，内存占用小 | 需要 GPU 训练资源 |
| 适用场景 | 大模型、精度不敏感任务 | 小模型、精度敏感任务、边缘部署 |
| 工程复杂度 | 低，工具链成熟 | 较高，需修改训练代码和推理图 |
从工程实践角度看，PTQ 适合快速验证和原型迭代，而 QAT 适合最终产品交付。一个常见的策略是：先做 PTQ 评估精度损失，若损失超过阈值（如 1%），再切换到 QAT 进行微调。这种“先 PTQ 后 QAT”的流程能节省大量训练资源。
1.3 整体学习路径与课程地图
本课程共 30 章，内容从基础到进阶，覆盖 QAT 的完整生命周期。学习路径分为五个阶段：
- 基础理论（第 1~5 章）：量化数学原理、对称/非对称量化、scale/zero_point 计算、量化误差分析。
- FakeQuant 节点设计（第 6~10 章）：节点结构、前向/反向实现、STE 变体、量化参数初始化与更新策略。
- 训练图构建（第 11~18 章）：在 PyTorch/TensorFlow 中插入 FakeQuant、自动图改写、BN 层融合、多卡训练注意事项。
- 推理图转换与优化（第 19~24 章）：FakeQuant 移除、权重打包、算子融合（Conv+BN+ReLU）、INT8 内核调用。
- 精度调优与部署（第 25~30 章）：敏感层分析、混合精度量化、量化感知微调技巧、硬件适配（CPU/GPU/NPU）与端侧推理引擎对接。
每一章都配有代码示例、实验数据和常见坑点总结。建议学习者按照顺序推进，尤其是第 6~10 章（FakeQuant 节点）和第 11~18 章（训练图构建）是核心难点，需要动手实践。
torch.quantization 和 TensorFlow 的 tf.quantization 两套 API。虽然框架不同，但底层原理完全一致。本课程以 PyTorch 为主要演示环境，但会指出框架间的差异。
1.4 常见误区与复盘
初学者在接触 QAT 时容易陷入几个误区，这里提前澄清：
- 误区一：QAT 等同于“低精度训练”。实际上，QAT 的权重存储仍是 FP32，只是前向传播时模拟量化误差；而低精度训练（如 FP16 训练）是直接以半精度计算梯度，两者目的不同。
- 误区二：FakeQuant 节点越多越好。插入过多节点会增加训练开销，且某些层（如 concat 后的激活）量化收益低，反而引入噪声。需要根据敏感度分析选择性插入。
- 误区三：QAT 后模型一定比 PTQ 好。如果训练超参不当（如学习率过大、训练轮次不足），QAT 可能过拟合量化噪声，导致精度反而低于 PTQ。通常建议在预训练模型基础上微调 10~20 个 epoch。
- 误区四：忽略 BN 层的影响。BN 层在训练和推理时的行为不同，QAT 中必须将 BN 参数融合到卷积层中，否则推理图会出现严重精度偏差。
复盘一个典型场景：某团队在 MobileNetV2 上应用 QAT，初始设置学习率为 0.01，训练 5 个 epoch 后精度比 PTQ 还低 1.2%。分析发现，学习率过大导致权重震荡，量化参数（scale）频繁更新，模型无法收敛。调整为学习率 0.001 并配合余弦退火，训练 15 个 epoch 后，精度反超 PTQ 2.3%。这说明 QAT 的训练策略需要精细调优，不能直接套用普通训练的超参。