TinyML基础：嵌入式机器学习概念、模型压缩技术与硬件限制
TinyML（Tiny Machine Learning）是机器学习与嵌入式物联网系统交叉融合的前沿领域，其核心目标是在功耗受限、计算资源有限、存储空间狭小的微控制器（MCU）或极低功耗处理器上，直接部署和运行机器学习推理模型。与云端AI依赖高性能GPU/TPU集群不同，TinyML强调端侧智能——数据在本地采集、本地处理、本地决策，无需将原始数据上传至云端。这一范式转变带来了隐私保护、实时响应、低带宽依赖和超低功耗等关键优势。然而，将动辄数百MB的深度学习模型塞进仅有几百KB Flash和几十KB RAM的MCU中，绝非易事。本章将系统梳理TinyML的核心概念、模型压缩技术（量化与剪枝）、典型应用场景以及硬件层面的硬性约束，为后续构建可复用的实时AI任务框架奠定理论基础。
上图展示了TinyML生态中三大核心支柱的关联关系：模型压缩技术是手段，典型应用场景是目标，硬件限制是约束条件。三者相互制约、相互促进。在实际工程中，我们往往需要根据目标硬件的具体参数（Flash/RAM/算力），反向选择或设计合适的模型架构与压缩策略。例如，在Cortex-M4内核且Flash仅有512KB的MCU上部署关键词唤醒模型，通常需要将模型量化至INT8，并配合通道剪枝将参数量压缩至200KB以内。下面我们将逐一深入剖析这些关键维度。
2.1 嵌入式机器学习核心概念
嵌入式机器学习并非简单地将现有深度学习框架移植到嵌入式平台，而是一套从数据采集、特征工程、模型设计到部署优化的完整方法论。其核心概念包括：端侧推理（On-device Inference）、微控制器友好型模型（MCU-friendly Models）以及实时性（Real-time Constraint）。端侧推理意味着模型必须完全在本地设备上运行，不依赖网络连接。这要求模型具备极小的内存足迹和极低的计算延迟。微控制器友好型模型通常指参数量在几十KB到几百KB之间的轻量级网络，如MobileNetV1（经深度可分离卷积改造）、TinyMLPerf基准中的各类基准模型。实时性则取决于具体应用——对于工业异常检测，推理延迟可能需要控制在10ms以内；而对于环境温湿度监测，秒级响应即可接受。
在嵌入式环境中，数据流模式也与云端训练截然不同。嵌入式系统通常采用环形缓冲区（Ring Buffer）持续采集传感器数据，通过滑动窗口（如256ms的音频帧或128个IMU采样点）进行特征提取，然后送入模型推理。这种流式处理方式要求模型具备良好的时序鲁棒性，且推理过程不能阻塞中断服务程序。此外，嵌入式ML还强调模型与硬件的协同设计——例如，选择支持SIMD（单指令多数据）指令集的MCU可以显著加速卷积运算；而带有硬件加速器（如CMSIS-NN）的Cortex-M7内核则能进一步提升INT8推理速度。
2.2 模型压缩技术：量化与剪枝
模型压缩是TinyML落地的核心技术手段，其目标是在尽量不损失精度的前提下，大幅缩减模型的存储空间、内存占用和计算量。目前最成熟、应用最广泛的两项技术是量化（Quantization）和剪枝（Pruning）。
2.2.1 量化：从FP32到INT8
量化是将神经网络中的权重和激活值从32位浮点数（FP32）转换为更低比特位表示的过程。最常见的量化方案是INT8量化，它将每个浮点数值映射到[-128, 127]的整数范围内。量化过程涉及两个关键参数：缩放因子（Scale）和零点（Zero Point）。其数学映射关系为：real_value = scale * (quantized_value - zero_point)。根据是否需要校准数据集，量化可分为训练后量化（Post-Training Quantization, PTQ）和量化感知训练（Quantization-Aware Training, QAT）。PTQ实现简单，只需少量校准数据即可完成，但精度损失相对较大；QAT在训练过程中模拟量化误差，使模型权重适应低比特表示，精度保持更好，但需要重新训练模型。
| 量化类型 | 精度损失 | 部署难度 | 适用场景 | 典型工具 |
|---|---|---|---|---|
| 动态范围量化 | 中等 | 低 | 权重压缩，激活仍为FP32 | TensorFlow Lite |
| 全整型量化（PTQ） | 较低 | 中 | 权重+激活均为INT8，需校准集 | STM32Cube.AI |
| 量化感知训练（QAT） | 极低 | 高 | 精度敏感型应用，需重新训练 | PyTorch QAT |
| 混合精度量化 | 低 | 高 | 敏感层保留FP16/FP32 | TensorRT |
以STM32F746（Cortex-M7，1MB Flash，320KB RAM）为例，一个MobileNetV1模型原始FP32大小为16.9MB，远超Flash容量。经过INT8量化后，模型大小降至4.2MB，仍然偏大。若进一步结合深度可分离卷积的通道剪枝，将通道数缩减50%，模型可压缩至约1.1MB，勉强可部署。但此时推理延迟可能从原始的80ms增加至120ms（因为剪枝后计算密度降低，但内存访问开销增加），需要权衡。
2.2.2 剪枝：剔除冗余结构
剪枝的核心思想是移除神经网络中对最终预测贡献较小的权重或神经元连接。剪枝分为非结构化剪枝和结构化剪枝。非结构化剪枝将单个权重置零，产生稀疏矩阵，但需要特殊的稀疏矩阵存储格式和计算库才能发挥加速效果，在MCU上实现难度较大。结构化剪枝则直接移除整个卷积核、通道或层，保持矩阵的稠密性，更利于硬件加速。例如，通道剪枝通过评估每个通道的重要性（如L1范数、BN层缩放因子），将不重要的通道整体删除，从而直接减少计算量和模型体积。
除了量化和剪枝，知识蒸馏（用一个大型教师网络指导小型学生网络训练）和低秩分解（将权重矩阵分解为两个低秩矩阵的乘积）也是有效的压缩手段，但在MCU场景中应用较少，主要因为其实现复杂且收益不如量化和剪枝直接。
2.3 典型应用场景与硬件限制
TinyML的应用场景必须满足三个条件：数据可在本地获取、决策延迟要求高、网络连接不可靠或成本高。目前最成熟的落地场景包括：
- 关键词唤醒（KWS）：智能音箱、TWS耳机中的“Hey Siri”或“小爱同学”唤醒词检测。通常使用DS-CNN或CRNN模型，参数量在100KB-300KB之间，运行在Cortex-M4或M7内核上，功耗控制在毫瓦级。
- 预测性维护：工业电机、泵机的振动异常检测。通过加速度计采集振动信号，使用1D-CNN或LSTM模型判断设备健康状态。典型硬件为STM32L4系列（超低功耗），要求连续运行数月而无需更换电池。
- 可穿戴健康监测：心电（ECG）信号中的心律失常检测、血氧饱和度分析。模型需处理高采样率（250Hz-1kHz）的生物信号，对实时性和精度要求极高。
- 视觉识别：在智能门锁、工业质检中实现简单的图像分类或物体检测。受限于RAM，通常使用灰度图像或极低分辨率（如96x96）输入，模型为MobileNetV2或EfficientNet-Lite的极简版本。
然而，这些应用场景无一不受到硬件资源的严苛限制。下表总结了主流TinyML硬件平台的典型参数与约束：
| 硬件平台 | 内核 | Flash | RAM | 最高主频 | 典型功耗 | 硬件加速 |
|---|---|---|---|---|---|---|
| STM32F746 | Cortex-M7 | 1MB | 320KB | 216MHz | ~200mW | 无（依赖CMSIS-NN） |
| STM32L4 | Cortex-M4 | 512KB | 128KB | 80MHz | ~10mW | 无 |
| ESP32-S3 | Xtensa LX7 | 8MB（外部） | 512KB | 240MHz | ~100mW | 向量指令 |
| MAX78000 | Cortex-M4 + CNN加速器 | 3MB | 512KB | 100MHz | ~5mW | 专用CNN硬件 |
| Raspberry Pi Pico | Cortex-M0+ | 2MB | 264KB | 133MHz | ~15mW | 无 |
从上表可以看出，Flash容量决定了模型权重的存储上限，RAM容量限制了激活值和中间缓冲区的大小，CPU主频和是否有硬件加速器决定了推理延迟。例如，在Cortex-M0+（无FPU、无DSP指令）上运行INT8卷积，其计算效率远低于Cortex-M7。因此，在项目选型阶段，必须根据模型的计算量（MACs）和参数量，结合目标MCU的算力（通常以CoreMark/MHz衡量）进行初步可行性评估。
2.4 实战案例：工业电机振动异常检测模型压缩
下面通过一个完整的案例来展示如何在实际项目中应用上述压缩技术。某工厂希望在其电机驱动设备上部署振动异常检测模型，用于预测性维护。硬件平台选定为STM32L4系列MCU（512KB Flash，128KB RAM，80MHz主频），传感器为三轴加速度计（采样率2kHz）。初始方案采用一个包含3个卷积层和2个全连接层的1D-CNN模型，输入为256个采样点（约128ms窗口），输出为“正常/异常”二分类。
初始模型参数：FP32权重总大小为1.2MB，单次推理需要约18ms，RAM峰值占用约85KB。显然，1.2MB的模型无法放入512KB Flash，且85KB的RAM占用已接近128KB上限，存在溢出风险。
优化步骤：
- 通道剪枝：对第2、3卷积层进行通道剪枝，基于BN层缩放因子（Gamma值）评估通道重要性，将Gamma值低于0.01的通道移除。剪枝比例设定为40%。剪枝后模型大小降至720KB，推理时间降至12ms，RAM峰值降至60KB。
- INT8量化（PTQ）：使用500条正常振动数据和200条异常振动数据作为校准集，进行全整型量化。量化后模型大小降至180KB，RAM峰值降至22KB（激活值以INT8存储），推理时间降至8ms。
- 精度验证：在测试集（1000条样本）上评估，原始FP32模型准确率为98.5%，剪枝+量化后准确率为97.2%，精度损失1.3%，在可接受范围内（<2%）。
最终部署结果：模型占用Flash 180KB（剩余332KB用于应用程序代码和RTOS内核），RAM峰值22KB（剩余106KB用于传感器缓冲区和任务栈），单次推理8ms，满足10ms实时性要求。设备在3.3V供电下平均电流为3.2mA（约10.5mW功耗），可由两节AA电池供电连续运行约6个月。
2.5 常见误区与总结复盘
在TinyML项目开发中，以下误区需要特别警惕：
- 误区一：盲目追求高压缩比。过度压缩（如剪枝70%以上）会导致模型精度急剧下降，且模型变得难以训练。建议压缩比控制在50%以内，并通过QAT进行精度恢复。
- 误区二：忽略RAM占用。只关注模型文件大小，而忽视推理时的峰值RAM。建议使用工具（如STM32Cube.AI的RAM估算功能）在开发早期就评估内存峰值。
- 误区三：在MCU上使用浮点模型。除非MCU带有FPU且Flash/RAM充足，否则应默认使用INT8模型。浮点运算在无FPU的Cortex-M0上会消耗大量CPU周期。
- 误区四：忽视数据预处理开销。传感器数据的滤波、归一化、特征提取同样消耗CPU和内存。在计算推理延迟时，必须将预处理时间计入总延迟。