2、MCU与TinyML基础：MCU资源限制、TinyML典型工作流、内存类型（Flash、SRAM、寄存器）及作用

在嵌入式机器学习（TinyML）的工程实践中，绝大多数算法模型最终要部署在微控制器（MCU）上运行。与云端GPU服务器或移动端应用处理器不同，MCU的算力、存储和功耗都受到严格约束。理解MCU的资源边界、内存层次结构以及TinyML的标准工作流，是进行内存预算表设计与验收的前提。本章将系统梳理这三块基础内容，帮助读者建立硬件视角与数据流视角的双重认知。

上图从三个维度勾勒了本章的核心框架：左侧是MCU的硬性资源约束，中间是TinyML从数据到部署的标准工作流，右侧则是内存层次结构。三者并非孤立存在——资源约束决定了工作流中每个环节的取舍，而内存层次结构则是预算表设计的直接对象。下面逐一展开。

2.1 MCU资源限制：为什么内存预算如此重要

核心原理

MCU（Microcontroller Unit）是集成了处理器核心、存储器、可编程输入输出外设的单芯片系统。与运行Linux或Android的应用处理器相比，MCU的资源以“稀缺”为典型特征。以业界常见的Cortex-M系列为例，主流型号的主频在16MHz至480MHz之间，Flash容量从16KB到2MB不等，SRAM则通常在4KB到1MB之间。这种资源规模决定了TinyML模型必须经过极致的压缩与优化才能落地。

从内存预算的角度看，MCU的资源限制主要体现在三个层面：容量限制（Flash和SRAM的绝对字节数）、带宽限制（总线位宽和时钟频率决定了数据搬运速度）、功耗限制（内存访问功耗占MCU总功耗的30%-50%）。这些限制直接影响了模型结构选择、量化策略和推理时的内存复用方案。

判断方法：评估目标MCU的资源余量

在开始TinyML项目前，工程师应通过以下步骤快速评估MCU的资源余量：

1. 查阅数据手册：确认Flash、SRAM的精确容量，以及是否有ECC（纠错码）占用额外空间。
2. 估算模型体积：以INT8量化为例，1MB Flash大约可容纳100万参数（含少量元数据），据此判断模型规模上限。
3. 计算激活内存峰值：以MobileNetV1为例，输入224x224x3时，第一层卷积的激活值约为112x112x32=401KB，远超多数MCU的SRAM容量，因此需要调整输入尺寸或网络结构。
4. 检查外设DMA能力：若传感器数据通过DMA搬运，可减少CPU参与，但DMA描述符本身也占用SRAM。

案例拆解：一个实际MCU选型中的资源冲突

某智能家居项目需要部署一个关键词唤醒模型，目标硬件为STM32L4系列（192KB Flash，64KB SRAM）。初始方案采用DNN模型，全连接层参数为250K，INT8量化后模型体积为250KB，超出Flash容量。工程师尝试将模型裁剪至180KB，但推理时激活值峰值达到48KB，加上系统栈（8KB）和传感器缓冲（4KB），SRAM已逼近极限。最终方案改为两层CNN+全连接，通过深度可分离卷积将参数降至120KB，同时将输入特征从40维降至24维，激活峰值降至22KB，系统才稳定运行。这个案例说明，内存预算必须在模型设计阶段就介入，而非部署时再调整。

常见误区

• 误区一：只关注Flash而忽略SRAM。很多工程师认为模型能烧录进Flash即可运行，但推理时的中间张量往往比模型本身更占SRAM。
• 误区二：忽略对齐和填充。ARM Cortex-M要求4字节对齐访问，若结构体未对齐，编译器会插入填充字节，导致实际SRAM占用比理论值多5%-15%。
• 误区三：将寄存器与SRAM混为一谈。寄存器是CPU内核的一部分，访问延迟为1个时钟周期，而SRAM通常需要2-3个周期。虽然寄存器容量极小（几十到几百字节），但在中断上下文切换和热循环中作用关键。

2.2 TinyML典型工作流：从数据到部署的完整链路

核心原理

TinyML工作流与常规ML工作流最大的区别在于部署约束前置。在PC端训练模型时，工程师必须时刻考虑目标MCU的Flash/SRAM限制、算子支持范围以及数值精度要求。标准工作流包含四个阶段：数据采集与预处理、模型训练与量化、模型转换与部署、运行时推理与优化。每个阶段都会产生与内存相关的决策点。

操作流程：各阶段的内存相关任务

案例拆解：工作流中的内存预算迭代

一个工业振动监测项目，目标在Cortex-M7（主频400MHz，1MB Flash，512KB SRAM）上部署故障分类模型。初始工作流中，工程师在PC端训练了一个ResNet-18变体，参数量11M，FP32模型体积44MB。经过INT8量化后体积降至11MB，仍远超Flash容量。此时工作流进入迭代：

1. 结构压缩：将ResNet-18替换为MobileNetV2（参数量3.4M），INT8后体积3.4MB，仍超限。
2. 知识蒸馏：用大模型蒸馏出参数量0.8M的小模型，体积0.8MB，满足Flash要求。
3. 激活优化：将输入从224x224降至96x96，激活峰值从1.2MB降至220KB，满足SRAM要求。
4. 算子替换：将标准卷积替换为深度可分离卷积，减少中间张量数量。

最终模型在目标MCU上推理延迟为38ms，峰值SRAM占用186KB，Flash占用0.75MB。整个迭代过程中，内存预算表从最初的“估算”逐步细化为“精确到每个张量的字节数”，这正是工作流对预算表设计的核心价值。

常见误区

• 误区一：先训练后考虑部署。这会导致模型结构在部署时无法适配MCU资源，被迫重新训练，浪费数周时间。
• 误区二：忽略量化精度损失。INT8量化在边缘设备上通常能保持90%以上的精度，但对于某些对噪声敏感的任务（如生物信号处理），可能需要混合精度（部分层保持FP16），这会显著增加Flash和SRAM占用。
• 误区三：不进行在环测试。仅在PC端模拟推理通过，未在真实MCU上验证内存峰值，导致运行时栈溢出或内存碎片。

2.3 内存类型详解：Flash、SRAM与寄存器的分工与协作

核心原理

MCU的内存体系是一个典型的三层结构：Flash（非易失性只读存储器）用于存储代码、模型权重和只读常量；SRAM（静态随机存取存储器）用于存储运行时数据，包括激活值、中间结果、栈和堆；寄存器是CPU内核内部的存储单元，用于暂存指令、地址和数据。三者的访问速度依次递增（Flash最慢，寄存器最快），容量依次递减，成本依次递增。

在TinyML场景中，Flash和SRAM的分配策略直接决定了模型能否运行。Flash的写入寿命有限（通常10K-100K次擦写），因此模型权重在运行时不会被修改；SRAM则面临容量瓶颈，需要精细的复用策略。寄存器虽然容量极小，但在中断处理、上下文切换和关键循环中扮演着“隐形加速器”的角色。

判断方法：内存分配决策树

工程师在分配内存时，可遵循以下决策逻辑：

• 数据是否在运行时改变？ 若不变（如模型权重、查找表），放入Flash；若改变（如激活值、中间结果），放入SRAM。
• 数据是否频繁访问？ 高频访问的变量（如循环计数器、指针）尽量放入寄存器或SRAM的零页（Zero Page）区域。
• 数据是否需要长期保存？ 需要掉电保存的（如校准参数）放入Flash的独立分区；临时数据放入SRAM。
• 数据是否超过SRAM容量？ 若超过，考虑将部分常量表放入Flash，或使用内存映射文件（Memory-Mapped File）方式访问外部Flash。

案例拆解：一个典型TinyML推理的内存分配实例

以STM32F746（1MB Flash，320KB SRAM）运行一个语音关键词识别模型为例：

内存分配清单（单位：字节）
Flash 区域：
  - 模型权重（INT8）: 180,000
  - 代码段（含TFLite Micro运行时）: 120,000
  - 常量查找表（MFCC系数）: 4,200
  - 固件升级预留: 100,000
  Flash 总占用: 404,200 / 1,048,576 (38.5%)

SRAM 区域：
  - 输入音频缓冲（16kHz, 30ms）: 960
  - 预处理中间缓冲: 2,400
  - 第一层激活值: 18,000
  - 第二层激活值: 12,500
  - 第三层激活值: 8,200
  - 输出层激活值: 120
  - 系统栈（8KB）: 8,192
  - 堆（动态分配）: 4,000
  SRAM 总占用: 54,372 / 327,680 (16.6%)

该分配方案中，激活值采用“内存池复用”策略——第一层激活值在第二层计算完成后即被覆盖，因此峰值SRAM占用为18,000字节（取各层最大值），而非所有层之和。这种复用策略是TinyML内存预算的核心技巧。

常见误区与复盘

• 误区一：将Flash当作SRAM的扩展。虽然部分MCU支持XIP（Execute in Place）直接从Flash执行代码，但Flash的随机访问延迟远高于SRAM，频繁读取Flash会拖慢推理速度。
• 误区二：忽略寄存器在中断中的保存与恢复。Cortex-M内核在进入中断时自动保存8个寄存器到栈中，若中断嵌套层级深，栈空间需求会成倍增加，必须在SRAM预算中预留。
• 误区三：不进行内存对齐优化。ARM架构下，未对齐的32位访问可能导致硬件异常或性能惩罚。建议将结构体成员按4字节对齐，或将多个小数组合并为一个大数组以减少填充。