2. 嵌入式机器学习基础

在开始STM32上部署TFLite Micro之前，必须先厘清一个核心问题：我们到底在部署什么？TFLite Micro并不是TFLite的“精简版”那么简单，它是针对微控制器（MCU）的极端资源约束而重新设计的推理引擎。本章将从定位、关系、运行原理和资源约束四个维度，帮助你建立完整的嵌入式机器学习知识框架，为后续的工程配置打下坚实的认知基础。

2.1 核心原理：TFLite Micro的定位与设计哲学

TFLite Micro（简称TFLM）是Google为微控制器级别设备设计的机器学习推理框架，其定位可以概括为：在资源极度受限的嵌入式设备上，以最小化内存占用和代码体积为最高优先级，运行经过预训练的TensorFlow模型。它不是一个训练框架，而是一个纯粹的推理引擎——所有模型权重和结构都在PC端完成训练和转换，MCU只负责“执行”模型。

与TFLite标准版相比，TFLM做了以下关键取舍：

• 移除动态内存分配：标准TFLite依赖malloc/free，而TFLM要求所有内存分配在初始化阶段一次性完成，运行期间零动态分配，避免内存碎片和不确定性。
• 精简算子集：TFLM只支持约100个核心算子（如CONV_2D、DEPTHWISE_CONV_2D、FULLY_CONNECTED、SOFTMAX等），不支持字符串操作、动态张量形状等高级特性。
• 无文件系统依赖：模型以C数组形式直接编译进固件，不依赖文件系统读取。
• 可裁剪的框架结构：通过宏定义（如TF_LITE_DISABLE_X86_NEON）可以裁剪不需要的算子内核，进一步减小代码体积。

这种设计哲学的核心是“确定性”——在MCU上，推理时间、内存峰值、栈深度都必须是可预测的，因为实时系统不允许出现不可控的延迟或内存溢出。

2.2 判断方法：如何评估一个模型是否适合部署到MCU

在实际项目中，并非所有模型都能直接部署到STM32上。你需要通过以下四个维度进行可行性评估：

一个实用的判断流程是：先用TensorFlow训练模型 → 使用TFLite Converter进行int8量化 → 检查量化后模型大小 → 使用TFLite Model Analyzer估算RAM占用 → 在PC上模拟运行TFLM → 最后才移植到STM32。如果模型在PC模拟阶段就超出目标MCU的资源限制，应回到模型设计阶段进行优化，而不是强行部署。

2.3 案例拆解：关键词唤醒模型在STM32上的部署评估

假设我们需要在STM32F407VET6（Cortex-M4F，168MHz，Flash 512KB，RAM 192KB）上部署一个关键词唤醒（KWS）模型，用于检测“小智小智”这个唤醒词。以下是完整的评估过程：

初始模型设计：使用2层卷积（每层16个3×3滤波器）+ 1层全连接（64个神经元）+ Softmax，输入为40通道的MFCC特征（时间帧40×频率40）。在PC上训练后，模型参数量约为25,000个。

量化与转换：使用TFLite Converter进行int8量化，模型从原始的98KB（float32）压缩到约25KB。这个大小完全满足Flash限制。

RAM估算：使用TFLite Model Analyzer工具分析，推理时峰值内存约为45KB（包括输入张量、中间特征图、输出张量）。加上系统栈（8KB）、全局变量（10KB）、DMA缓冲区（4KB），总RAM占用约67KB，在192KB的预算内。

计算量评估：模型总MACs约为1.2M次。在168MHz主频下，使用CMSIS-NN优化的int8卷积，预计推理时间约15-20ms，满足实时性要求。

实际部署结果：在STM32F407上运行，Flash占用为：模型25KB + TFLM框架代码约35KB + 应用代码约20KB = 80KB，远低于512KB限制。实测推理时间为18ms，RAM峰值48KB，一切正常。

复盘经验：这个案例成功的关键在于：① 模型本身很小，适合MCU场景；② 正确使用了int8量化，将模型缩小4倍；③ 利用了CMSIS-NN的硬件加速能力。如果模型设计为5层卷积，参数量会增加到200K，RAM峰值将超过120KB，就可能需要裁剪或改用外部SRAM。

2.4 常见误区与总结复盘

在嵌入式机器学习项目中，以下误区最为常见：