课程导入：TinyML的定义、应用场景、课程目标与学习路径概览
TinyML（微型机器学习）是机器学习与嵌入式物联网系统交叉融合的前沿领域，其核心目标是在功耗受限、计算资源有限、存储空间狭小的微控制器（MCU）上部署和运行机器学习推理模型。与云端AI依赖高性能GPU和高速网络不同，TinyML强调在设备本地完成数据采集、特征提取与推理决策，从而实现毫瓦级功耗下的智能感知。本课程将带领学员完成一个端到端的TinyML项目实战：从PyTorch或TensorFlow训练模型，导出为ONNX标准格式，经过模型优化与量化，最终部署到ARM Cortex-M系列MCU上运行。课程覆盖模型设计、格式转换、量化压缩、C代码生成、板级移植与性能调优全链路，帮助学员建立从云端算法到边缘硬件的完整工程思维。
TinyML的定义与核心特征
TinyML并非简单的"小模型"或"轻量级机器学习"，而是一套完整的工程方法论。从技术栈角度看，它涵盖了模型设计（如MobileNetV1、TinyMLPerf基准模型）、编译器优化（如TFLite Micro、CMSIS-NN）、硬件适配（ARM Cortex-M系列、RISC-V MCU）以及系统集成（RTOS、驱动、电源管理）。其核心特征可以归纳为以下四点：
- 极致的资源约束：典型的TinyML目标设备仅有256KB Flash和64KB RAM，这意味着模型参数量通常不超过数百KB，激活值缓冲区必须精打细算。例如，一个用于关键词识别的DS-CNN模型参数量约为40KB，而用于异常检测的自编码器可压缩至10KB以内。
- 低功耗优先：设备通常由纽扣电池或能量采集供电，平均功耗需控制在1mW以下。这要求推理过程尽量在数十毫秒内完成，以便MCU快速进入深度睡眠模式。以STM32L4系列为例，其运行功耗约100μA/MHz，一个80MHz的推理任务若耗时50ms，则单次推理能耗约为0.4mJ。
- 本地化推理：数据不出设备，避免云端通信延迟和隐私风险。这在医疗监测、工业控制等场景中尤为重要。例如，可穿戴心电设备需在本地完成心律失常检测，仅在异常时通过BLE发送告警。
- 软硬协同设计：算法需针对特定MCU的指令集（如ARM Cortex-M4的DSP指令、M7的SIMD）进行优化，同时利用硬件加速器（如STM32的ART加速器、NXP的eIQ）。
关键理解：TinyML的本质是在"不可能"的硬件条件下实现"可能"的智能。它要求开发者同时具备机器学习、嵌入式系统、数字信号处理和软件工程四方面的知识，是一种典型的交叉学科能力。
典型应用场景与商业价值
TinyML的应用场景正从早期的语音唤醒扩展到工业、医疗、农业、消费电子等各个领域。根据市场研究机构ABI Research预测，到2026年TinyML设备出货量将超过25亿台。以下表格对比了四个典型场景的技术需求与商业价值：
| 应用场景 | 输入数据类型 | 模型任务 | 典型硬件 | 商业价值 |
|---|---|---|---|---|
| 关键词唤醒（KWS） | 16kHz音频流 | 语音分类（10~30类） | Cortex-M4F @ 64MHz | 智能音箱、TWS耳机 |
| 工业预测性维护 | 振动加速度信号 | 异常检测/故障分类 | Cortex-M7 @ 400MHz | 减少停机损失，节省30%维护成本 |
| 可穿戴健康监测 | PPG/ECG信号 | 心律失常分类、血氧估算 | Cortex-M4 @ 80MHz | 慢性病管理，远程医疗 |
| 智能农业传感器 | 土壤湿度/气象数据 | 环境分类/预测 | Cortex-M0+ @ 48MHz | 精准灌溉，节水30%以上 |
以工业预测性维护为例，传统方案依赖振动分析仪定期巡检，成本高且无法实时预警。采用TinyML方案后，在电机轴承附近部署无线振动传感器节点，内置MCU运行轻量级自编码器模型，实时计算重构误差。当误差超过阈值时，节点通过LoRa发送告警。该方案将故障检测延迟从数天缩短至秒级，且节点电池寿命可达2年以上。
课程目标与学习路径
本课程的目标是让学员独立完成一个完整的TinyML项目，从零开始训练模型，最终在真实MCU开发板上看到推理结果。具体学习目标包括：
- 掌握ONNX作为中间格式的桥接作用：理解PyTorch/TensorFlow模型如何通过ONNX导出、算子映射和形状推断，转换为硬件友好的计算图。
- 熟练运用量化工具链：掌握静态量化、动态量化和量化感知训练的区别，能够使用ONNX Runtime和TensorRT等工具进行INT8量化，并评估精度损失。
- 具备MCU部署实战能力：能够使用STM32CubeMX、Keil MDK或IAR进行工程配置，将量化后的模型通过X-CUBE-AI或TFLite Micro生成C代码并集成到嵌入式应用中。
- 建立性能调优方法论：学会分析推理延迟、RAM占用、Flash占用三大指标，并通过算子替换、内存复用、并行化等手段进行优化。
学习路径分为四个阶段，每个阶段都有明确的交付物：
- 阶段一（第1~5章）：基础准备。掌握TinyML概念、ONNX格式规范、MCU开发环境搭建。交付物：能运行一个简单的"LED闪烁+串口打印"工程。
- 阶段二（第6~15章）：模型训练与转换。以图像分类和关键词识别两个项目为主线，完成从PyTorch训练到ONNX导出的全过程。交付物：两个可运行的ONNX模型文件。
- 阶段三（第16~24章）：量化与优化。深入INT8量化原理，使用校准数据集进行量化，对比不同量化策略的精度与性能。交付物：量化后的模型及精度报告。
- 阶段四（第25~30章）：MCU部署与项目实战。在STM32F746开发板上部署关键词识别模型，实现实时推理并通过串口输出结果。交付物：完整的嵌入式工程源码及演示视频。
学习建议：建议学员准备一块STM32F746G-DISCO开发板（或同等配置的Cortex-M7开发板），以及一个MEMS麦克风模块。如果条件有限，也可以先用QEMU模拟器完成软件层面的验证，但最终仍需在真实硬件上验证时序和功耗。
常见误区与总结复盘
在TinyML学习过程中，初学者容易陷入以下几个误区，需要特别警惕：
误区一：认为模型越小越好。模型压缩到极致可能导致精度骤降。正确做法是设定精度下限（如90%），在满足精度要求的前提下尽可能压缩模型。例如，在关键词识别任务中，若背景噪声较大，过小的模型可能无法区分"是"和"不是"。
误区二：忽略数据预处理的一致性。训练时的数据归一化参数（均值、标准差）必须在部署时完全一致。很多项目在PC上精度很高，部署到MCU后结果完全错误，往往是因为浮点转定点时未正确处理缩放因子。
误区三：只关注推理时间，忽略内存峰值。MCU的RAM是稀缺资源，推理过程中的中间激活值可能比模型权重占用更多内存。例如，一个输入为32x32x3的图像分类模型，第一层卷积的激活值可能达到32x32x16=16KB，而模型权重仅8KB。因此，必须使用内存规划工具（如STM32CubeMonitor）分析峰值内存。
总结来说，TinyML项目的成功关键在于"系统思维"——从算法设计之初就要考虑硬件约束，而不是在部署阶段才进行适配。本课程将通过一个贯穿始终的实战项目（关键词识别），让学员亲身体验从模型训练到硬件部署的完整闭环。每章内容都配有可运行的代码示例和调试技巧，确保学员能够"学以致用，用之有效"。