2、嵌入式AI基础：边缘计算与嵌入式AI概念、STM32在AI部署中的角色、典型应用场景

在正式接触TensorFlow Lite Micro的代码与算子之前，我们首先需要建立一套完整的认知框架：为什么AI模型要跑在MCU上？边缘计算与云端计算的分界线在哪里？STM32在AI部署中究竟承担什么角色？只有理解了这些底层逻辑，后续的模型转换、算子适配、内存优化和性能调优才有决策依据。本章将从概念辨析、硬件角色、场景拆解三个维度，帮助你构建嵌入式AI的全局视野。

2.1 边缘计算与嵌入式AI的核心概念

边缘计算（Edge Computing）是一种分布式计算范式，将数据处理和推理能力下沉到靠近数据源头的网络边缘设备上。与传统的云计算中心化模式相比，边缘计算强调在本地完成数据采集、预处理、特征提取和模型推理，仅将必要的结果或摘要上传至云端。嵌入式AI（Embedded AI）则是边缘计算在资源受限设备上的具体实现，它要求在MCU、DSP或低功耗SoC上运行机器学习模型，通常使用TensorFlow Lite Micro、CMSIS-NN或STM32Cube.AI等工具链。

嵌入式AI与传统MCU开发最大的区别在于数据驱动的编程范式。传统嵌入式开发是“规则驱动”——工程师编写if-else逻辑处理传感器数据；而嵌入式AI是“模型驱动”——工程师训练神经网络，将权重和激活函数固化到设备中，设备通过前向传播完成推理。这种转变带来了三个关键挑战：模型压缩（如何将数十MB的模型压缩到几百KB）、算子优化（如何在Cortex-M内核上高效执行卷积和全连接运算）、内存复用（如何在不支持动态内存分配的MCU上管理中间张量）。

2.2 STM32在AI部署中的硬件角色

STM32系列是STMicroelectronics推出的32位ARM Cortex-M微控制器家族，在嵌入式AI部署中扮演着推理执行单元和系统控制中心的双重角色。从硬件架构来看，STM32的AI部署能力取决于以下几个关键资源：

资源类型	典型配置（STM32H7系列）	对AI部署的影响
CPU核心	Cortex-M7 @ 480MHz + M4协处理器	M7支持双精度FPU，但AI推理通常使用int8定点运算
Flash	1~2MB	存储模型权重和代码，量化后模型通常占100~500KB
SRAM	512KB~1MB	存放中间激活值，需精细规划内存池
DSP指令	SIMD、饱和运算	加速卷积和矩阵乘法的关键
DMA	多通道DMA	传感器数据搬运不占用CPU，实现流水线推理
硬件加速器	部分型号集成Cordic、FMAC	可加速三角函数和滤波运算

在AI部署中，STM32的角色定位可以类比为“带着镣铐的舞者”——它拥有完整的ARM指令集和丰富的外设接口，但必须在严格的资源约束下完成推理任务。具体来说，STM32承担以下职责：

• 数据采集与同步：通过I2C/SPI/ADC接口获取传感器原始数据，利用DMA实现零拷贝传输。
• 预处理与特征工程：在推理前完成滤波、去均值、归一化、FFT等操作，这些操作通常比神经网络本身更消耗算力。
• 模型推理执行：加载TFLM解释器，逐层执行卷积、池化、全连接等算子，管理张量内存。
• 后处理与决策：将推理结果（如分类概率、回归值）转换为控制指令或通信报文。
• 系统级管理：功耗管理、看门狗、通信协议栈、OTA升级等。

2.3 典型应用场景与选型逻辑

嵌入式AI在STM32上的应用已经覆盖工业、消费、医疗、汽车等多个领域。根据任务类型和数据形态，可以归纳为以下四类典型场景：

场景一：振动信号故障诊断（预测性维护）

在工业电机、泵、压缩机上安装加速度传感器，STM32以1~10kHz采样率采集振动数据，通过FFT提取频谱特征，输入一个小型CNN或LSTM模型，实时判断设备是否处于异常状态。这类场景的典型约束是：模型大小必须小于64KB，单次推理时间小于10ms，误报率低于1%。实际部署中，通常采用1D卷积网络，输入为1024点FFT幅值谱，输出为正常/异常/严重三分类。

场景二：语音关键词唤醒（KWS）

智能家居设备上的“小X小X”唤醒词检测。STM32通过PDM麦克风采集16kHz音频，提取MFCC特征（通常40维×25帧），送入一个深度可分离卷积网络（DS-CNN），在20ms内完成一次推理。由于音频数据流是连续的，需要设计滑窗+重叠推理策略，同时利用CMSIS-NN的DSP指令加速卷积运算。这类场景对功耗极其敏感，通常要求平均电流低于5mA。

场景三：图像分类与物体检测（视觉）

虽然STM32算力有限，但通过灰度图像或极低分辨率（如96×96）的RGB图像，仍然可以完成简单的视觉任务。例如，在智能门锁中检测人脸是否存在，在分拣机器人中识别不同颜色的零件。这类场景通常使用MobileNetV1的量化版本，模型大小约200~300KB，推理时间约200~500ms。需要注意，图像预处理（缩放、格式转换）往往比推理本身更耗时，建议使用DMA2D硬件加速。

场景四：异常检测（传感器融合）

在可穿戴设备中，融合加速度计、陀螺仪、心率传感器数据，检测跌倒、心律失常等异常事件。这类场景的特点是多通道时间序列，通常使用TinyLSTM或1D-CNN+注意力机制。由于MCU上无法运行复杂的注意力模块，实际部署中常将其简化为全连接层+softmax。关键挑战在于内存复用——LSTM的隐藏状态需要跨时间步保留，必须静态分配内存。

2.4 案例拆解：工业电机振动监测的完整部署

我们以一个实际的工业电机预测性维护项目为例，完整展示嵌入式AI的部署流程和决策逻辑。

项目背景与约束：某工厂有50台大型电机，需要实时监测轴承磨损状态。传统方案是人工巡检，每2小时一次，漏检率高。客户要求：每台电机部署一个无线传感器节点，电池供电（3.6V锂电池，容量2400mAh），目标续航6个月以上。节点需在本地完成故障判断，仅当检测到异常时通过BLE上报。

初始现象与目标：电机正常运行时振动幅值约0.5g，故障初期幅值升至1.2g且出现特定频率峰值。目标是实现三分类：正常、早期磨损、严重故障。精度要求：正常样本识别准确率>99%，故障样本漏报率<0.5%。

关键输入数据与参数：

• 传感器：ADXL345三轴加速度计，量程±16g，采样率3.2kHz
• 数据长度：每帧1024点（约0.32秒），每2秒采集一帧
• 特征：对每轴做512点FFT，取幅值谱前128个频点，三轴拼接成384维特征
• 模型：两层1D卷积（32通道，kernel=3）+全局平均池化+全连接（32→3）
• 量化：int8动态范围量化，模型大小从原始float32的45KB压缩至12KB

分析判断过程：首先在PC端使用TensorFlow训练模型，在验证集上达到99.2%准确率。然后使用TFLite Converter进行int8量化，量化后准确率降至98.7%，仍在可接受范围。接着将模型转换为C数组，嵌入STM32工程。在STM32F407（Cortex-M4 @168MHz）上实测推理时间为8.3ms，远小于20ms的预算。内存占用：模型权重12KB + 中间激活值约8KB + 特征缓冲区6KB，总计26KB，远低于STM32F407的192KB RAM。

实际操作步骤：

1. 使用STM32CubeMX配置I2C接口读取ADXL345，配置DMA传输，采样率3.2kHz。
2. 在定时器中断中每2秒触发一次采集，采集完成后启动DMA搬运。
3. CPU执行FFT（使用CMSIS-DSP库的arm_rfft_fast_f32函数），耗时约1.2ms。
4. 将384维特征输入TFLM解释器，调用tflite::MicroInterpreter::Invoke()执行推理。
5. 根据输出概率判断状态：若严重故障概率>0.8，立即通过BLE发送报警；若早期磨损概率>0.7，累计3次后上报。
6. 进入低功耗模式（STOP模式），电流降至10μA，等待下一次采集。

结果对比与风险：部署后实测功耗：平均电流约0.8mA（工作状态8.3ms×200mA + 休眠状态10μA），电池理论续航约125天，略低于6个月目标。通过优化——将采样率降至2kHz、FFT点数降至256、每5秒采集一帧——平均电流降至0.35mA，续航达到285天。风险方面：量化后模型对高频噪声敏感，在强电磁干扰环境下误报率上升至2%，通过增加中值滤波后降至0.8%。

复盘经验：第一，特征工程比模型结构更重要——FFT幅值谱比原始波形更容易训练，且计算量远小于增加一层卷积；第二，量化感知训练（QAT）比训练后量化（PTQ）在低比特场景下更稳定，但PTQ在8bit下通常足够；第三，内存规划必须从第一天开始——TFLM的TensorArena需要静态分配，建议使用STM32的CCM RAM（如果可用）存放中间激活值，以加速访问。

2.5 常见误区与总结复盘

在嵌入式AI的入门阶段，开发者容易陷入以下五个误区，需要特别警惕：

误区	错误认知	正确做法
模型越大越准	认为增加层数或通道数能提升精度	MCU上应优先使用深度可分离卷积、全局平均池化等轻量结构
忽略数据预处理	直接喂原始数据给模型	归一化、去直流分量、滤波等预处理能显著提升量化模型鲁棒性
动态内存分配	使用malloc/free管理张量	TFLM要求静态内存池，避免碎片化和不确定性
忽视功耗预算	只关注推理速度	应计算平均功耗（工作电流×占空比+休眠电流），而非峰值功耗
不做端到端验证	只在PC上验证模型	必须在目标硬件上验证量化误差、内存溢出、时序抖动