嵌入式AI基础：边缘计算、MCU与MPU区别、STM32系列选型要点
在正式接触TensorFlow Lite Micro与STM32的移植之前，必须先厘清三个基础问题：为什么要把AI推理放到设备端（边缘计算）？MCU与MPU在架构和资源上的本质差异是什么？面对STM32庞大的产品矩阵，如何根据AI模型需求进行选型？这三个问题决定了后续模型量化策略、算子选择、内存规划乃至实时性设计的整体方向。本章将围绕这三条主线展开，建立嵌入式AI部署的全局坐标系。
2.1 边缘计算：为什么AI推理必须走向设备端
核心原理：边缘计算的定义与价值
边缘计算（Edge Computing）是指在靠近数据源头的网络边缘侧，融合网络、计算、存储、应用核心能力的分布式开放平台。在嵌入式AI语境下，边缘计算意味着将神经网络推理任务从云端数据中心迁移到设备端（如STM32微控制器）或靠近设备的边缘节点（如网关）上执行。其核心价值体现在四个维度：实时性——工业质检、自动驾驶等场景要求毫秒级响应，云端往返时延不可接受；带宽成本——工业现场每秒产生数MB传感器数据，全量上传不现实；数据隐私与安全——医疗影像、金融数据等敏感信息不允许离开设备；可靠性——网络断连时设备仍需独立工作。
判断方法：什么任务适合放在边缘端
并非所有AI任务都适合边缘部署。判断时需回答三个问题：时延预算——如果从数据采集到决策输出的端到端时延要求小于50ms，则必须边缘计算；数据量级——若每秒产生超过1MB原始数据且无法压缩，边缘处理是唯一选择；模型复杂度——若模型参数量超过10MB且无法量化压缩，则MCU端难以承载，需考虑MPU或NPU方案。下表给出了典型场景的部署位置参考：
| 应用场景 | 时延要求 | 数据量 | 模型规模 | 推荐部署位置 |
|---|---|---|---|---|
| 电机振动异常检测 | <10ms | 64kHz采样 | <100KB | MCU（STM32F4/H7） |
| 工业视觉缺陷检测 | <100ms | 1080p图像 | 1~5MB | MPU+NPU（如RK3588） |
| 智能音箱语音唤醒 | <300ms | 16kHz音频 | <500KB | MCU（STM32U5） |
| 自动驾驶目标检测 | <30ms | 多路摄像头 | >10MB | 车规级MPU+GPU |
案例拆解：工业电机预测性维护的边缘部署
某工厂需要在50台电机上部署振动异常检测系统。初始方案是每台电机通过Wi-Fi将振动波形上传至云端服务器进行CNN推理，但实际运行中发现：Wi-Fi在金属粉尘环境中频繁断连，单次推理时延波动在200ms~2s之间，且每月4G流量费用超过3000元。改为STM32F746（Cortex-M7，216MHz）本地部署后，使用1D-CNN模型（输入512点振动波形，2层卷积+2层全连接，量化后模型大小48KB），推理时延稳定在8ms，功耗从3.5W降至0.8W，流量费用归零。关键改进在于：模型量化——将float32权重转为int8，精度损失仅0.7%；环形缓冲区——DMA连续采样，CPU仅在缓冲区满时执行推理；看门狗与断点续传——异常数据本地暂存，网络恢复后批量上传。
2.2 MCU与MPU：架构差异决定部署策略
核心原理：从指令集到系统架构的本质区别
MCU（Microcontroller Unit）与MPU（Microprocessor Unit）的根本差异在于存储架构和操作系统支持。MCU采用哈佛架构或改进型哈佛架构，程序存储（Flash）与数据存储（SRAM）物理分离，指令和数据可并行访问，这使得MCU在低主频下仍能获得较高指令吞吐率。MCU内部集成Flash和SRAM，无需外部存储芯片，启动时间极短（微秒级）。而MPU采用冯·诺依曼架构或哈佛架构+MMU，需要外部DDR作为主存，通过MMU（内存管理单元）支持虚拟内存，因此可以运行Linux等复杂操作系统。在AI推理场景中，MCU适合轻量级模型（<1MB）和确定性时延要求高的任务；MPU适合重量级模型（>5MB）和需要多进程隔离的复杂系统。
判断方法：根据模型特征选择计算平台
选择MCU还是MPU，可依据以下量化指标：模型参数量——int8量化后模型文件大小是否小于MCU Flash容量的50%（留出程序代码空间）；激活张量峰值——推理过程中最大的中间特征图尺寸是否小于MCU SRAM的60%（留出系统栈和RTOS开销）；MACs（乘加运算次数）——以STM32F4（168MHz，带FPU）为例，单次MAC约需4个时钟周期，若模型需要10M MACs，则推理时间约为10M×4/168M≈238ms，需评估是否满足实时性要求。下表对比了典型STM32系列与MPU的AI部署能力：
| 平台 | 典型型号 | 主频 | Flash/RAM | 支持模型规模 | 推理时延（1D-CNN 50KB） |
|---|---|---|---|---|---|
| 入门MCU | STM32G0 | 64MHz | 64KB/8KB | <20KB | ~50ms |
| 主流MCU | STM32F407 | 168MHz | 1MB/192KB | <200KB | ~15ms |
| 高性能MCU | STM32H743 | 480MHz | 2MB/1MB | <800KB | ~5ms |
| 跨界MCU | STM32MP1 | 650MHz A7 | 外接DDR | <5MB | ~1ms |
| 入门MPU | i.MX6ULL | 800MHz A7 | 外接DDR | <10MB | <1ms |
案例拆解：语音关键词识别（KWS）的平台选型
一个智能家居语音唤醒项目需要识别"你好，小智"等5个关键词。初始方案采用树莓派4B（Cortex-A72，1.5GHz）运行TensorFlow Lite，模型为DS-CNN（参数量300KB，int8量化后120KB）。实测推理时延2ms，但系统启动时间超过15秒，待机功耗3.2W，且Linux系统在意外断电后偶发文件系统损坏。改用STM32L4R5（Cortex-M4，120MHz，2MB Flash/640KB SRAM）后，将模型进一步量化至int8并应用权重剪枝（去除小于0.01的权重），模型压缩至85KB。推理时延为18ms（满足100ms时延预算），待机功耗降至12uA（使用STOP2模式），启动时间小于100ms。关键优化包括：CMSIS-NN——使用ARM官方优化的卷积函数，速度提升4.2倍；双缓冲区——音频DMA采集与推理并行执行；内存池——预分配所有张量内存，避免malloc碎片。
2.3 STM32系列选型要点：从AI部署视角审视
核心原理：STM32产品矩阵与AI相关特性
ST（意法半导体）的STM32家族覆盖从Cortex-M0+到Cortex-M7再到Cortex-A7的完整产品线。与AI部署强相关的关键特性包括：算力——主频、FPU（浮点单元）、DSP指令集、Cache大小；存储——Flash容量、SRAM容量、外部存储接口（FMC/QSPI）；外设——DMA通道数、ADC采样率、定时器分辨率；功耗——运行功耗、待机功耗、唤醒时间；AI加速——部分新型号（如STM32N6）集成了NPU（神经网络处理单元），可提供高达600 GOPS算力。选型时需综合评估这些维度与目标模型的匹配度。
判断方法：五步选型法
- 模型量化评估：使用TensorFlow Lite Converter将模型转为int8格式，记录模型文件大小（对应Flash需求）和推理时激活张量峰值（对应RAM需求）。
- 算力估算：统计模型的MACs总数，除以目标时延（秒），得到所需MACs/s。以STM32F4为例，168MHz下实际可用算力约40M MACs/s（考虑流水线开销），STM32H7约120M MACs/s。
- 外设匹配：列出传感器接口需求（如I2S音频、SPI屏幕、UART调试），确认所选型号具备足够的外设实例和DMA通道。
- 功耗预算：计算平均功耗 = 运行功耗×占空比 + 待机功耗×(1-占空比)。对于电池供电设备，需关注STOP模式的唤醒时间（通常<5us）。
- 开发工具链：确认STM32CubeMX支持该型号，且TensorFlow Lite Micro的示例工程（如person_detection、micro_speech）是否已适配或可移植。
案例拆解：可穿戴心电异常检测设备选型
设计一款腕带式心电（ECG）异常检测设备，需实时分析单导联ECG信号（250Hz采样），检测房颤、早搏等异常。模型为1D-ResNet（8层，参数量450KB，int8量化后180KB），推理时激活峰值约120KB。约束条件：电池容量200mAh，目标续航7天，设备体积限制在20mm×30mm PCB。选型过程：第一步，模型Flash需求180KB+程序代码预留100KB=280KB，RAM需求120KB+系统开销50KB=170KB；第二步，模型MACs为2.3M，目标时延50ms，所需算力46M MACs/s，STM32F4（40M MACs/s）勉强达标但余量不足，STM32L4+（80MHz，20M MACs/s）不达标，STM32H7（120M MACs/s）满足；第三步，需要2个DMA通道（ADC连续采样+SPI屏幕刷新），1个I2C（加速度计），STM32H743满足；第四步，功耗计算：运行功耗120mW×10%占空比+待机功耗5uW×90%=12mW，200mAh/（12mW/3.3V=3.6mA）≈55小时，不满足7天需求。最终选择STM32U585（Cortex-M33，160MHz，2MB Flash/786KB SRAM），其LPBAM（低功耗后台自主模式）允许ADC在STOP模式下继续采样，运行功耗降至45mW，待机功耗2uA，综合续航达到6.8天，接近目标。同时利用M33内核的TrustZone实现安全启动，保护模型权重不被非法读取。
常见误区与总结
- 误区一：只看主频。Cortex-M7的480MHz并不一定比Cortex-M33的160MHz快4倍，因为M7需要等待Flash访问（除非启用ART加速器或使用RAM执行代码），且分支预测能力弱于M33。实际AI推理性能需用CoreMark和CMSIS-NN基准测试验证。
- 误区二：忽略内存带宽。MCU的SRAM带宽通常为32位×主频，但Flash读取可能成为瓶颈。当模型权重存储在Flash时，每次卷积权重读取都可能产生等待周期。解决方案：将频繁访问的权重复制到RAM，或使用支持双Bank的型号（如STM32H7）实现交错读取。
- 误区三：不重视DMA与低功耗模式。AI推理只是系统的一部分，传感器数据采集、预处理、结果输出同样消耗时间和功耗。合理使用DMA（如ADC→SRAM直接传输）和低功耗模式（如STOP2+LPBAM），可显著降低系统级功耗。
- 误区四：忽视工具链兼容性。TensorFlow Lite Micro对Cortex-M4/M7/M33支持较好，但对Cortex-M0+支持有限（缺少DSP指令优化）。若选用G0系列，需确认算子是否能在纯C环境下运行。