4、模型内存占用构成：权重、激活、中间张量、算子临时缓冲区、输入输出缓冲区、运行时元数据

在Edge AI MCU端侧部署深度学习模型时，内存占用往往是决定模型能否成功运行的首要瓶颈。与云端GPU或服务器CPU不同，MCU通常只有几十KB到几MB的SRAM，且没有虚拟内存机制，所有数据必须常驻物理内存。理解模型在推理过程中的内存构成，是进行内存优化、算子替换、量化部署和工程裁剪的前提。本章将系统拆解模型推理时的六大内存模块：权重、激活、中间张量、算子临时缓冲区、输入输出缓冲区以及运行时元数据，并结合实际MCU工程案例，给出排查与优化路径。

上图展示了MCU推理时内存占用的六大模块及其相互关系。其中，权重和运行时元数据属于静态分配，在模型加载后即固定；而激活、中间张量、算子临时缓冲区和输入输出缓冲区则属于动态分配，其峰值决定了模型推理时的最大内存需求。在实际工程中，我们通常使用内存峰值（Peak Memory）作为衡量模型是否可部署的关键指标，而峰值往往由某一层或某几个连续层的动态内存叠加产生。

4.1 核心原理：六大内存模块的职责与生命周期

要精准排查内存问题，首先需要明确每个模块的定义、生命周期和存储位置。下表总结了六大模块的核心属性：

从工程角度看，权重通常映射到Flash地址空间，通过MCU的只读接口直接访问，不占用宝贵的SRAM；但在某些需要频繁改写权重的场景（如联邦学习、在线自适应），则必须加载到SRAM。激活是动态内存的最大消耗者，尤其在图像分类模型中，第一层卷积的输出特征图往往最大。例如，输入为224×224×3的图像，经过16通道的3×3卷积后，激活大小为112×112×16=200KB（假设float32），这已经超过了许多MCU的SRAM总量。中间张量则多出现在特征图拼接（Concat）、分割（Split）或转置（Transpose）操作中，其生命周期极短，但瞬时占用可能很高。算子临时缓冲区是容易被忽视的部分，例如在MCU上实现卷积时，若采用im2col算法，需要将输入展开为矩阵，其大小可能达到原始激活的9倍（3×3卷积核）。输入输出缓冲区通常由外设DMA管理，但若DMA与CPU共享内存，则需预留连续空间。运行时元数据在轻量级推理引擎（如TFLite Micro、CMSIS-NN）中通常较小，但在解释型框架中可能占用数十KB。

4.2 判断方法与操作流程：如何量化各模块内存占用

在实际工程中，我们不能仅凭理论估算，必须通过工具和代码插桩来精确测量。以下是标准的内存排查流程：

1. 静态分析阶段：使用模型转换工具（如TensorFlow Lite Converter、ONNX Runtime）导出模型时，开启--dump-format或内存分析选项，获取权重大小、算子列表和理论激活大小。对于TFLite，可使用interpreter.GetMemoryAllocatorInfo()获取分配信息。
2. 动态插桩阶段：在MCU代码中，重写malloc/free或使用内存池统计函数，记录每次分配的地址、大小和时间戳。推荐使用Segger SystemView或自定义环形缓冲区记录内存事件。
3. 峰值追踪阶段：在推理循环中，每执行完一个算子，记录当前已分配内存总量。通过比较相邻算子的内存变化，定位峰值产生的具体层。
4. 模块归因阶段：根据算子类型，将内存分配归类到上述六大模块。例如，卷积算子的输入输出归为激活，其内部展开缓冲区归为算子临时缓冲区。

以下是一个典型的MCU内存日志片段，展示了如何通过插桩定位峰值：

// 伪代码：内存追踪
void inference_step() {
    for (int i = 0; i < num_ops; i++) {
        uint32_t before = get_current_heap_usage();
        run_op(i);
        uint32_t after = get_current_heap_usage();
        printf("Op[%d] %s: delta=%d, total=%d\n", 
               i, op_names[i], after - before, after);
    }
}
// 输出示例：
// Op[0] Conv2D: delta=+12000, total=45000
// Op[1] ReLU:   delta=0,      total=45000
// Op[2] Conv2D: delta=+8000,  total=53000  <-- 峰值
// Op[3] MaxPool: delta=-5000, total=48000

通过上述日志，我们可以明确看到第2个卷积层产生了内存峰值。进一步分析发现，该层输入特征图较大，且使用了im2col展开，导致临时缓冲区激增。

4.3 案例拆解：基于STM32F746的KWS模型内存优化实战

下面通过一个完整的案例，展示如何应用上述方法排查并优化内存占用。某智能语音唤醒词（KWS）项目，使用STM32F746（Cortex-M7，320KB SRAM），部署一个包含2个卷积层、2个深度可分离卷积层和1个全连接层的唤醒词模型。

初始状态：模型转换后，权重大小为180KB（float32），激活峰值出现在第二层深度可分离卷积，约85KB，算子临时缓冲区（DWConv的通道展开）约40KB，输入输出缓冲区（麦克风PCM数据+MFCC特征）约20KB，运行时元数据约15KB。总峰值约340KB，超出SRAM容量20KB，导致无法加载。

分析过程：通过插桩发现，权重占180KB，但实际Flash空间充足，因此将权重映射到Flash地址（使用const修饰或__attribute__((section(".rodata")))），释放了180KB SRAM。接着，激活峰值85KB中，第一层卷积输出为40KB，第二层DWConv输出为45KB。通过内存复用技术（将第一层输出缓冲区与第二层输入缓冲区重叠），激活峰值降至45KB。算子临时缓冲区40KB，是因为DWConv实现时使用了逐通道的im2col，改为直接卷积（不使用im2col）后，临时缓冲区降至8KB。输入输出缓冲区通过DMA双缓冲优化，从20KB降至12KB。运行时元数据从15KB精简至8KB（移除不需要的调试算子）。

优化结果对比：

风险与代价：将权重映射到Flash后，访问速度略低于SRAM（Cortex-M7具有指令缓存，影响较小）；直接卷积计算量增加，但MCU的乘加单元利用率提升，整体推理时间仅增加5%。内存复用需要仔细管理生命周期，避免数据覆盖错误。

复盘经验：内存优化应遵循“先静态后动态、先大块后小块”的原则。权重和元数据属于一次性优化，收益最大；激活和临时缓冲区需要结合算子实现细节，往往需要修改内核代码；输入输出缓冲区优化需与DMA和外设中断配合，注意数据一致性。

4.4 常见误区与总结复盘

在MCU内存排查中，工程师常犯以下错误：

• 误区一：只关注权重大小。权重虽然大，但可映射到Flash；真正导致内存溢出的是激活和临时缓冲区的峰值叠加。
• 误区二：忽略算子临时缓冲区。某些优化算法（如Winograd、FFT）虽然减少计算量，但会引入巨大的临时内存，在MCU上可能得不偿失。
• 误区三：内存复用不当。简单地将所有中间张量放入一个共享缓冲区，可能导致数据依赖冲突。必须分析算子间的依赖关系，确保复用安全。
• 误区四：未考虑对齐和碎片。MCU的DMA通常要求4字节或8字节对齐，若分配器未对齐，会导致额外内存浪费或硬件错误。

总结复盘：模型内存占用是一个系统工程，需要从模型结构、算子实现、硬件特性三个维度综合考量。建议团队建立标准的内存排查流程，并维护一份“内存占用清单”，记录每个算子的输入输出大小、临时缓冲区需求和生命周期。在模型设计阶段，就应优先选择内存友好的结构（如深度可分离卷积、瓶颈结构），并在算子实现时，根据MCU的SRAM大小选择合适的分块策略（Tiling）。最后，务必在真实硬件上进行压力测试，因为编译器的优化和链接脚本的布局会影响最终的内存分配。