课程导入：TinyML与量化背景、课程目标、学习路径与实战环境搭建
TinyML（微型机器学习）是边缘计算与深度学习交叉领域中最具工程落地价值的方向之一。它要求在毫瓦级甚至微瓦级功耗的MCU（微控制器）上部署神经网络推理，而模型量化则是将浮点权重与激活从FP32压缩到INT8/INT16的关键手段。然而，量化并非无损操作——当模型从32位浮点映射到8位整数时，权重和激活的动态范围被大幅压缩，精度损失往往从0.5%到5%不等，严重时甚至导致模型完全失效。本课程聚焦于量化感知训练（QAT，Quantization-Aware Training），系统讲解如何在训练阶段模拟量化误差、调整超参数、优化网络结构，从而在保持模型精度的前提下实现高效的端侧部署。
1.1 TinyML与量化：为什么精度损失是必然的
TinyML的硬件约束决定了量化是唯一可行的部署路径。以STM32F746（Cortex-M7，主频216MHz，RAM 320KB）为例，FP32模型权重若超过320KB便无法加载，而INT8量化可将内存占用压缩至原来的1/4，同时利用SIMD指令将推理速度提升2-4倍。但量化本质上是一种有损压缩：FP32能表示的数值范围约为1.18e-38到3.4e38，而INT8仅有256个离散级别。当权重分布集中在[-0.1, 0.1]区间时，量化步长约为0.00078，精度尚可；若存在少量离群值（如0.5或-0.3），量化步长被迫增大到0.0039，导致大部分权重被粗糙映射，精度急剧下降。
量化感知训练的理论基础是直通估计器（STE，Straight-Through Estimator）。由于量化函数的梯度在绝大多数点处为0，无法直接反向传播，STE在反向传播时将量化函数的梯度近似为恒等映射，即∂L/∂x ≈ ∂L/∂x̂，其中x̂为量化后的值。这种近似虽然存在偏差，但在实践中被证明能有效引导权重向量化友好的方向收敛。值得注意的是，STE的近似质量与量化步长密切相关——步长越大，近似误差越大，训练越不稳定。
1.2 课程目标：从"能跑"到"跑得好"
本课程的目标不是简单地教会你调用tf.quantization.quantize或torch.quantization的API，而是建立一套系统化的诊断与调参方法论。完成本课程后，你将能够：
- 诊断精度损失根因：通过逐层敏感度分析、权重分布可视化、激活值范围统计等手段，定位导致精度下降的关键层。
- 制定QAT调参策略：根据模型结构、数据集特点和硬件约束，选择合适的量化配置（对称/非对称、per-tensor/per-channel）、学习率调度和微调轮数。
- 实施联合优化：将知识蒸馏、正则化、批归一化折叠等技术与QAT结合，在极端量化（如4-bit或混合精度）下保持模型性能。
- 完成端到端部署：在真实MCU硬件上验证量化模型，评估延迟、内存占用和精度，形成可复用的部署流水线。
| 能力维度 | 入门水平 | 本课程目标 |
|---|---|---|
| 量化原理 | 了解INT8/FP32区别 | 掌握量化误差数学模型、STE原理、动态范围分析 |
| 工具链 | 能运行官方QAT示例 | 熟练使用TFLite/PyTorch量化API，自定义伪量化节点 |
| 调参策略 | 按默认参数训练 | 根据敏感度分析结果动态调整学习率、量化范围、蒸馏权重 |
| 部署验证 | 在模拟器上测试 | 在STM32/ESP32上实测，分析性能瓶颈 |
1.3 学习路径：四阶段递进式训练
课程内容按照"原理→诊断→调参→部署"的逻辑组织，每个阶段都配有对应的实战项目。建议学习者按照以下路径推进：
- 阶段一（第1-5章）：量化基础与误差分析。完成FP32基线模型训练，实现PTQ量化并记录精度损失，学习使用TensorBoard和Netron可视化权重分布。
- 阶段二（第6-12章）：QAT核心机制。在PyTorch中手动实现伪量化节点，理解STE的梯度行为，对比不同量化配置（对称vs非对称、per-tensor vs per-channel）的效果。
- 阶段三（第13-22章）：高级调参技术。包括敏感度分析、混合精度量化、知识蒸馏辅助QAT、学习率热启动策略等，每章配套一个调参实验。
- 阶段四（第23-30章）：硬件部署与优化。在STM32F746和ESP32-S3上部署量化模型，使用CMSIS-NN和TFLM进行推理优化，解决实际工程问题。
模型/量化配置/学习率/蒸馏权重/精度损失/备注。这将成为你后续工程实践的宝贵参考。
1.4 实战环境搭建：从零到可运行
本课程所有实验均基于开源工具链，确保可复现性。推荐以下环境配置：
# Python 3.9+ 虚拟环境
python -m venv tinyml_qat
source tinyml_qat/bin/activate # Linux/Mac
# 或 tinyml_qat\Scripts\activate # Windows
# 安装核心依赖
pip install tensorflow==2.13.0 # 或 tensorflow-cpu
pip install torch==2.0.1 torchvision==0.15.1
pip install tflite-support==0.4.4
pip install onnx==1.14.0 onnxruntime==1.15.1
pip install netron==7.3.0 # 模型可视化
pip install pyserial==3.5 # 串口调试
# 硬件工具链（以STM32为例）
# 安装STM32CubeMX、STM32CubeIDE、X-CUBE-AI扩展包
# 或使用PlatformIO + ESP32 Arduino核心环境搭建的关键在于版本兼容性。TensorFlow 2.13与PyTorch 2.0的量化API存在差异，建议初学者先以PyTorch为主（其量化API更直观），后续章节再对比TFLite的实现。对于硬件部署，如果暂时没有开发板，可以使用QEMU模拟器或STM32CubeMX的软件仿真模式，但最终仍需在真实硬件上验证时序和功耗。
1.5 案例拆解：图像分类模型从FP32到INT8的精度骤降
我们以一个实际案例说明量化精度损失的典型场景。某智能家居项目需要在ESP32-S3上部署一个MobileNetV2图像分类模型（10类室内物品），FP32基线精度为92.3%。直接使用PTQ量化后，精度骤降至71.8%，损失超过20%。
初始现象与约束：ESP32-S3的RAM为512KB，Flash为8MB，FP32模型大小为14.2MB，无法直接部署。INT8量化后模型大小为3.6MB，满足Flash要求，但精度损失不可接受。项目要求精度不低于88%。
分析过程：首先使用Netron检查模型结构，发现最后一个卷积层（输出10类logits）的权重范围在[-0.8, 0.9]之间，而前几层权重范围仅为[-0.05, 0.05]。使用per-tensor量化时，全局量化步长被离群值拉大，导致前几层权重被严重粗糙化。进一步使用TensorBoard绘制激活值直方图，发现第3个深度可分离卷积层的激活值存在少量峰值（>5.0），这些峰值在量化时被裁剪，产生系统性偏差。
实际操作步骤：
- 将量化配置从per-tensor改为per-channel（逐通道量化），使每个卷积核拥有独立的量化步长。
- 对激活值使用
observer策略，从默认的MinMax改为Percentile（99.9%），避免离群值主导量化范围。 - 实施QAT：在PyTorch中插入
torch.quantization.FakeQuantize模块，以FP32预训练权重为起点，使用学习率1e-4微调10个epoch。 - 在微调过程中，对最后3层使用更高的学习率（5e-4），因为分类头对量化更敏感。
结果对比：经过上述调整，INT8模型精度恢复至89.6%，满足项目要求。推理延迟从FP32的420ms降至INT8的118ms（使用ESP32-S3的SIMD指令），内存占用从14.2MB降至3.6MB。
风险与代价：per-channel量化增加了推理时的计算复杂度（需要额外的缩放因子乘法），在ESP32-S3上导致延迟增加了约15ms。QAT微调需要额外的训练时间（约2小时GPU时间），且需要准备与部署环境一致的校准数据集。
复盘经验：量化精度损失往往不是均匀分布的，而是集中在少数敏感层。建议在实施QAT前先进行逐层敏感度分析（将某一层保持FP32，其余层量化，观察精度变化），优先处理敏感层。此外，激活值的离群值处理比权重离群值更关键，因为激活值在推理时动态变化，无法通过离线优化完全消除。