3、TinyML工作负载特征：分析典型TinyML模型（如CNN、RNN）在MCU上的计算与内存访问模式

在嵌入式系统上部署TinyML模型，与在云端GPU或边缘Linux设备上运行推理有着本质区别。MCU（微控制器）通常只有几十KB到几MB的RAM，主频在几十MHz到几百MHz之间，且没有操作系统级别的虚拟内存管理。因此，理解典型TinyML模型（如CNN、RNN）在MCU上的计算与内存访问模式，是进行性能评估、栈水位分析和延迟优化的前提。本章将深入剖析这些工作负载的底层特征，帮助你在RTOS环境下建立准确的性能预期。

上图展示了CNN与RNN在MCU上的核心工作负载差异。CNN以空间卷积为主，计算密集但结构规整；RNN以时间循环为主，状态依赖强且串行度高。两者共同受限于MCU的RAM、Flash和算力约束，这决定了我们在RTOS中调度和监控它们的方式截然不同。

3.1 核心原理：CNN与RNN的计算与内存访问本质

CNN（卷积神经网络）在MCU上的典型操作是深度可分离卷积（Depthwise Separable Convolution）或标准卷积。其计算模式表现为：

• 计算密集但规律性强：卷积核在输入特征图上滑动，每个输出像素需要执行乘加运算（MAC）。这种操作是高度可预测的，循环嵌套结构清晰，非常适合编译器优化和硬件加速。
• 内存访问以流式为主：输入特征图、权重和输出特征图通常按顺序访问。由于MCU的Cache（如果有）很小或没有，数据通常直接从Flash（权重）和RAM（特征图）读取。
• 权重存储占用Flash：模型参数（权重和偏置）通常存放在Flash中，运行时不需要修改，这节省了宝贵的RAM空间。

RNN（循环神经网络）（包括LSTM、GRU）在MCU上的模式则完全不同：

• 串行依赖强：每个时间步的输出依赖于前一个时间步的隐藏状态，导致无法并行化，计算延迟是累加的。
• 状态向量常驻RAM：隐藏状态（Hidden State）和细胞状态（Cell State）需要在推理过程中持续更新，必须存放在RAM中，且频繁读写。
• 矩阵乘法密集：每个时间步内，输入向量与权重矩阵、隐藏状态与权重矩阵的乘法是主要计算量，但相比CNN，其数据复用率较低。

3.2 判断方法：如何量化分析工作负载特征

在RTOS环境下，我们不能仅凭直觉判断模型是“CPU密集”还是“内存密集”。需要采用系统化的方法进行量化分析：

1. 静态代码分析：使用工具（如GCC的 -fstack-usage）编译模型推理代码，生成每个函数的栈使用量报告。这能初步判断栈水位风险。
2. 运行时Profiling：在RTOS中挂接性能计数器（如ARM Cortex-M的DWT->CYCCNT），测量关键函数的CPU周期数。例如，测量卷积层和全连接层的耗时差异。
3. 内存访问追踪：通过调试器或硬件追踪（如ETM）记录内存读写地址序列，分析是否存在Cache Miss（如果有Cache）或频繁的Flash页切换。
4. RTOS任务状态监控：利用RTOS提供的任务统计API（如FreeRTOS的 vTaskGetRunTimeStats()），观察模型推理任务在总CPU时间中的占比，以及是否有优先级反转导致的延迟抖动。

3.3 案例拆解：关键词唤醒（KWS）模型在RTOS上的性能剖析

我们以一个典型的TinyML应用——关键词唤醒（KWS）为例，该模型通常采用DS-CNN（深度可分离卷积）或CRNN（CNN+RNN混合）结构。假设硬件平台为Cortex-M7（主频400MHz，RAM 512KB，Flash 2MB），RTOS为FreeRTOS。

初始现象：系统在运行KWS模型时，发现音频中断服务程序（ISR）的响应延迟偶尔超过 500μs，导致音频数据丢失。同时，任务栈水位检查显示主推理任务栈使用率高达85%，存在溢出风险。

分析过程：

• 通过DWT计数器测量，发现CNN部分（前3层卷积）占用了总推理时间的70%，但内存访问是顺序的，未造成明显瓶颈。
• RNN部分（GRU层）虽然只占30%时间，但每次状态更新需要读写约 2KB 的RAM（隐藏状态+中间结果），且由于数据依赖，无法被中断打断。
• 进一步追踪发现，ISR延迟的根源在于GRU层执行期间，CPU长时间处于高负载且无法响应中断（因为中断被RTOS暂时屏蔽或优先级设置不当）。

优化措施：

1. 调整RTOS中断优先级：确保音频DMA中断优先级高于模型推理任务，允许在GRU计算间隙响应中断。
2. 栈空间优化：将GRU的中间计算缓冲区从任务栈移至静态分配的全局缓冲区，减少栈压力。
3. 计算拆分：将GRU的时间步循环拆分为多个RTOS可抢占的段，每计算2个时间步主动让出CPU（taskYIELD()），降低最大延迟。

结果对比：

复盘经验：在混合模型中，CNN部分适合用RTOS的DMA或硬件加速器处理，而RNN部分需要精细的中断管理和时间片划分。栈水位检查不能只看峰值，还要关注瞬时栈深度，尤其是在函数嵌套调用最深处。

3.4 常见误区与总结复盘

误区一：认为模型参数量（Flash占用）等同于内存占用。实际上，CNN的中间特征图往往比权重更占RAM。例如，MobileNetV1的权重约4.2MB，但若输入为 224x224x3，第一层特征图就占用 112x112x32x4字节 ≈ 1.6MB，远超许多MCU的RAM容量。

误区二：忽略Flash读取的延迟。MCU的Flash通常比RAM慢（如Cortex-M4的Flash等待状态为2-3周期）。如果权重访问不连续，会导致CPU停顿。建议将频繁访问的权重复制到RAM（如果RAM允许）或使用Flash Cache。

误区三：将所有模型层视为同质化负载。在RTOS调度时，应区分计算密集层（如卷积）和内存密集层（如全连接、RNN状态更新）。前者适合独占CPU，后者可以与其他I/O任务交错执行。