课程导入：学习目标、适用人群、课程结构与时序模型量化在TinyML中的重要性
TinyML（微型机器学习）正将深度学习推理能力从云端下沉到微控制器（MCU）、传感器节点和边缘设备。然而，这些设备通常只有几十KB到几百KB的RAM，Flash存储也以MB为单位，且依赖电池供电。时序模型（如LSTM、GRU、1D-CNN、Transformer-Lite）在工业预测性维护、可穿戴健康监测、语音关键词识别、结构健康监测等场景中表现优异，但其参数量和计算量往往远超MCU的承载能力。模型量化——将FP32权重和激活映射为INT8、INT16或更低比特表示——成为在资源受限设备上部署时序模型的核心使能技术。本章作为课程的开篇，将明确学习目标、界定适用人群、拆解课程结构，并深入阐述时序模型量化在TinyML工程链路中的战略价值。
上图展示了TinyML设备约束、时序模型特征与量化技术三者之间的核心关系：设备端的资源限制决定了我们必须对模型进行压缩，而时序模型的结构特点又对量化方案提出了特殊要求。量化不是简单的数值截断，而是一个涉及数值表示、误差传播、硬件指令集匹配的系统工程。本章将围绕这一核心矛盾展开，帮助学习者建立完整的知识框架。
1.1 学习目标：从原理到部署的完整能力构建
完成本章及后续课程学习后，学习者应具备以下四个层次的能力：
| 能力层次 | 具体目标 | 对应章节 |
|---|---|---|
| 理论认知 | 理解量化数学原理（缩放因子、零点、舍入误差）、时序模型数值敏感度分布 | 第2-4章 |
| 工程实现 | 使用TensorFlow Lite for MCU、CMSIS-NN、Glow等工具链完成PTQ与QAT | 第5-8章 |
| 精度验证 | 设计量化前后精度对比实验，识别精度突降根因（离群值、激活饱和） | 第9-12章 |
| 部署优化 | 针对ARM Cortex-M、RISC-V等平台进行算子优化、内存复用、延迟调优 | 第13-17章 |
特别强调，时序模型的量化验证与CNN有本质区别。CNN的激活值分布通常较为集中，而LSTM/GRU的循环连接会导致激活值在时间步上发生漂移，某些时间步可能出现极端值。因此，本课程将专门设置"时序敏感层识别"与"逐层量化误差分析"两个专题，帮助学习者避免"整体精度尚可，但个别序列预测完全失效"的陷阱。
1.2 适用人群：谁需要这门课程？
本课程面向三类核心人群，每类人群的学习侧重点有所不同：
- 嵌入式软件工程师：已熟悉MCU开发，希望将机器学习能力集成到现有产品中。重点关注第5-8章的量化工具链操作、第13-14章的CMSIS-NN算子优化，以及第16章的实时性验证方法。
- 算法工程师/数据科学家：具备深度学习模型训练经验，但对硬件资源约束认知不足。需要重点学习第2-3章的量化原理、第9-10章的精度评估方法论，以及第15章的模型-硬件协同设计思想。
- 物联网系统架构师：负责端-边-云整体方案设计，需要评估量化对系统功耗、延迟、成本的影响。建议通读全部章节，尤其关注第17章的综合案例——一个工业振动监测系统的完整量化部署流程。
1.3 课程结构：六阶段递进式学习路径
本课程共30章，分为六个阶段，每个阶段解决一个核心问题。这种结构设计遵循"原理→方法→实践→优化→验证→综合"的认知规律。
| 阶段 | 章节范围 | 核心主题 | 关键产出 |
|---|---|---|---|
| 第一阶段 | 第1-4章 | 基础与原理 | 量化数学框架、时序模型数值特性分析报告 |
| 第二阶段 | 第5-8章 | 工具链与操作 | 可运行的INT8时序模型（PTQ与QAT各一个） |
| 第三阶段 | 第9-12章 | 精度验证与调优 | 精度对比测试报告、误差根因分析清单 |
| 第四阶段 | 第13-15章 | 硬件部署与优化 | 在MCU上运行的优化后推理代码 |
| 第五阶段 | 第16-17章 | 系统验证与案例 | 完整项目：电机故障预测系统 |
| 第六阶段 | 第18-30章 | 进阶专题 | 混合精度量化、知识蒸馏、自动化搜索等 |
每个阶段都包含理论讲解、动手实验、常见错误分析和复盘总结。特别是第17章作为本课程的收尾，将完整呈现一个从数据采集到量产部署的工业级案例，涵盖所有前序知识点。
1.4 时序模型量化在TinyML中的战略重要性
为什么时序模型的量化比其他模型更具挑战性，也更具价值？我们可以从三个维度理解：
第一，资源约束的刚性。以STM32L476为例，其拥有128KB RAM和1MB Flash。一个典型的用于轴承故障诊断的LSTM模型（输入维度16，隐藏单元32，时间步64）在FP32下需要约40KB权重存储和15KB激活缓存。如果不量化，模型勉强能放下，但几乎没有留给传感器驱动、通信协议栈和操作系统的空间。量化到INT8后，权重降至10KB，激活降至4KB，系统资源余量大幅增加。
第二，时序模型的数值敏感性。循环神经网络在时间步上的梯度传播存在指数放大或衰减效应。量化引入的噪声可能被循环结构累积放大。例如，在LSTM的遗忘门中，如果量化误差导致遗忘门偏移0.01，经过100个时间步后，记忆单元的值可能产生显著偏差。这意味着时序模型量化不能简单套用CNN的"训练后量化+校准"流程，而需要更精细的逐层分析和可能的混合精度策略。
第三，边缘智能的市场驱动。根据IoT Analytics 2024年报告，边缘AI芯片出货量中，支持时序模型推理的MCU占比从2021年的12%增长至2024年的31%。工业预测性维护、可穿戴心电图分析、智能电表负荷预测等场景都依赖时序模型。量化是这些产品能否在成本敏感的硬件上实现商业化的关键。
背景与约束：某工厂需要部署200个无线振动传感器节点，每个节点采用EFM32 Giant Gecko MCU（Cortex-M4F @ 72MHz，256KB Flash，32KB RAM），电池容量为2400mAh，要求连续工作2年。原始方案使用云端推理，但网络延迟（平均800ms）和功耗（Wi-Fi模块峰值电流350mA）无法满足要求。
初始现象：团队尝试将训练好的GRU模型（FP32，参数量120K）直接部署，发现Flash占用超过300KB，且单次推理时间达2.3秒，功耗超标3倍。
关键数据：模型在FP32下准确率97.2%，但部署后设备待机电流从5μA升至120μA（因Flash交换频繁）。
分析过程：通过逐层分析发现，GRU的输入门和输出门对量化误差不敏感（精度损失<0.5%），但遗忘门和候选记忆门的权重分布存在长尾（最大值是均值的8倍），直接使用对称量化会导致严重精度损失。
操作步骤：① 对遗忘门和候选记忆门采用非对称量化（额外增加2字节缩放因子）；② 对激活值使用per-tensor量化，但排除第一个时间步（其激活范围与其他时间步差异显著）；③ 采用QAT训练，在量化感知训练中冻结前两层参数，仅微调最后两层。
结果对比：量化后模型Flash占用78KB，RAM占用12KB，单次推理时间420ms，待机电流恢复至6μA。精度为96.1%，满足工业要求（>95%）。
风险与代价：非对称量化增加了约5%的推理时间（额外乘法操作），但换来了1.1%的精度提升。团队复盘认为，如果一开始就采用"逐层敏感度分析+混合量化"策略，可以避免两轮返工，节省约3周开发时间。
上述案例揭示了时序模型量化的核心方法论：不是所有层都同等重要，也不是所有层都同等脆弱。有效的量化策略需要基于数值分布分析和任务敏感度评估，而非一刀切地应用统一格式。这正是本课程后续章节要系统解决的问题。
1.5 常见误区与学习心态准备
在开始正式学习前，有必要澄清几个常见误区，这些误区可能导致后续学习走弯路：
- 误区一："量化只是精度换速度的简单交易"。实际上，合理的量化设计可以在精度损失极小（<0.5%）的情况下获得4倍存储压缩和2-3倍速度提升。关键在于误差分配策略。
- 误区二："INT8量化是唯一选择"。对于时序模型，INT16或混合INT8/INT16往往在精度和性能间取得更好平衡。Cortex-M4F的SIMD指令支持INT16并行计算，某些场景下INT16的推理速度甚至优于INT8（因为避免了反量化开销）。
- 误区三："训练后量化（PTQ）足够应对所有场景"。PTQ对激活值动态范围大的时序模型可能失效。本课程将教你如何判断何时必须使用QAT，以及如何最小化QAT的训练成本。
- 误区四："精度指标只看整体准确率"。对于时序模型，还需要关注时间步级别的误差分布、异常检测的召回率、以及长序列下的误差累积。第10章将专门讨论时序任务的评估指标体系。