模型选型与压缩：适合MCU的轻量级模型选择策略
嵌入式AI模型部署到MCU，本质上是在“算法精度”与“硬件资源”之间寻找最优平衡点。MCU的Flash通常只有256KB~2MB，RAM仅有64KB~512KB，主频多在80MHz~240MHz之间，且没有GPU、NPU等专用加速器。这意味着，并非所有在服务器上表现优异的模型都能直接移植到MCU上运行。本章将围绕“选型”与“压缩”两条主线，系统讲解如何在资源受限的MCU平台上，选择并优化出可用的轻量级模型。
上图展示了MCU端模型选型与压缩的完整决策链路。整个流程分为三个核心阶段：选型决策（确定基础模型架构）、压缩策略（剪枝、量化、知识蒸馏的组合应用）、验证部署（在目标硬件上实测并迭代）。下面将逐一展开每个环节的具体操作方法和实战要点。
4.1 模型选型：从经典轻量级网络到定制化设计
核心原理：为什么MobileNet适合MCU
MobileNet系列的核心创新在于深度可分离卷积（Depthwise Separable Convolution），它将标准卷积分解为逐通道卷积（Depthwise Conv）和逐点卷积（Pointwise Conv，即1x1卷积）。这种分解方式将计算量从K×K×C_in×C_out×H×W降低到K×K×C_in×H×W + C_in×C_out×H×W，计算量约为标准卷积的1/K²。以3x3卷积为例，计算量直接减少到原来的1/9。对于MCU这种没有硬件加速器的平台，这种计算量的削减是决定性的。
MobileNetV2进一步引入了倒残差结构（Inverted Residual）和线性瓶颈（Linear Bottleneck）。倒残差结构先通过1x1卷积升维，再进行深度卷积，最后用1x1卷积降维，配合ReLU6激活函数，在保持精度的同时进一步减少了内存访问开销。而MobileNetV3则结合了神经架构搜索（NAS）和硬件感知设计，在MCU级别通常选择宽度因子0.25或0.35的版本。
判断方法：选型评估矩阵
在实际项目中，不能只看参数量，还需要综合评估峰值RAM占用和单次推理延迟。下表给出了常见轻量级模型在MCU约束下的对比评估：
| 模型架构 | 参数量 | 乘加运算量(MACs) | 峰值RAM(INT8) | 适合MCU等级 | 典型应用场景 |
|---|---|---|---|---|---|
| MobileNetV1 (α=0.25) | 0.47M | 41M | ~120KB | 中高端MCU | 图像分类、简单检测 |
| MobileNetV2 (α=0.35) | 0.65M | 59M | ~150KB | 中高端MCU | 分类、特征提取 |
| EfficientNet-Lite0 | 4.7M | 390M | ~800KB | 不适用 | 需外部存储或NPU |
| 自定义TinyCNN (3层卷积) | 0.08M | 8M | ~40KB | 入门级MCU | 唤醒词、简单分类 |
| DS-CNN (深度可分离) | 0.03M | 3.2M | ~25KB | 所有MCU | 关键词识别(KWS) |
案例拆解：智能门锁的人脸识别模型选型
某智能门锁项目需要实现本地人脸识别，硬件平台为STM32H743（Flash 2MB，RAM 1MB，主频480MHz），要求识别延迟小于200ms，准确率不低于95%。
初始方案：直接使用MobileNetV2（α=0.5）作为特征提取器，输入尺寸112×112。经STM32Cube.AI分析，模型占用Flash 1.2MB，RAM峰值420KB，单次推理延迟约350ms。虽然Flash和RAM满足要求，但延迟超标75%。
分析过程：通过Profiling发现，延迟瓶颈主要在最后几层卷积的通道数过高（1280通道），导致计算量集中在1x1卷积上。进一步分析发现，输入分辨率从112×112降到96×96，计算量可减少约27%，但精度会下降约1.2%。
优化操作：
- 将输入分辨率调整为96×96，延迟降至260ms，精度降至94.1%（仍可接受）；
- 对模型进行结构化剪枝，移除最后两层中贡献度低于阈值的50%通道，参数量减少35%；
- 应用INT8量化，Flash占用降至420KB，RAM峰值降至180KB，延迟降至85ms。
结果对比：最终方案在满足所有约束的前提下，精度为93.8%，延迟85ms，Flash占用420KB，RAM峰值180KB。相比初始方案，延迟降低75.7%，Flash占用减少65%。
复盘经验：选型时不能只看模型参数量，必须结合输入分辨率、目标硬件特性（是否有FPU、Flash读取速度）综合评估。同时，先剪枝后量化的顺序能获得更好的精度保持效果。
4.2 模型压缩：剪枝、量化与知识蒸馏的工程实践
核心原理：三种压缩手段的互补性
模型压缩的三种主要手段各有侧重：剪枝直接减少计算量和存储量，适合在训练后或训练中进行；量化降低数值精度，利用MCU的INT8或INT16运算能力加速推理；知识蒸馏通过大模型指导小模型训练，提升小模型的精度上限。三者可以叠加使用，但需要注意顺序和组合方式。
剪枝分为非结构化剪枝（将单个权重置零）和结构化剪枝（移除整个卷积核或通道）。非结构化剪枝虽然压缩率高，但产生的稀疏矩阵在MCU上难以获得实际加速效果（除非使用专门的稀疏推理库）；结构化剪枝则能直接减少计算量，更适合MCU部署。
操作流程：量化感知训练（QAT）的标准流程
训练后量化（PTQ）虽然简单，但在模型较小或任务复杂时精度损失可能较大。量化感知训练（QAT）通过在训练过程中模拟量化误差，让模型自适应调整权重分布，通常能获得更好的效果。标准流程如下：
# 伪代码：QAT训练流程
1. 加载预训练FP32模型
2. 在模型中插入伪量化节点（FakeQuantize）
- 权重：per-tensor或per-channel对称量化
- 激活：per-tensor非对称量化
3. 使用较小学习率（如1e-4）继续训练
- 训练轮数：原训练轮数的10%~20%
- 损失函数不变，但需监控量化误差
4. 冻结BN层，转换为INT8推理图
5. 在验证集上评估精度，若损失过大则调整量化参数
案例拆解：语音唤醒词模型的压缩实战
某TWS耳机项目需要部署唤醒词模型“小度小度”，硬件为Cortex-M4F内核（主频100MHz，Flash 512KB，RAM 128KB）。初始模型为DS-CNN（深度可分离卷积），FP32精度96.2%，Flash占用180KB，RAM占用45KB，延迟35ms。
目标：将Flash压缩至100KB以内，延迟降至20ms以内，精度不低于94%。
实施步骤：
- 结构化剪枝：对3个深度可分离卷积层进行通道剪枝，剪枝率30%。剪枝后精度降至95.1%，Flash降至130KB，延迟降至28ms。
- INT8量化：使用QAT方法，训练5个epoch（原训练轮数的15%）。量化后Flash降至65KB，延迟降至12ms，精度94.3%。
- 知识蒸馏：使用未剪枝的FP32模型作为Teacher，对剪枝量化后的Student模型进行蒸馏训练。蒸馏后精度回升至94.8%。
结果对比：最终模型Flash占用65KB（减少64%），延迟12ms（减少66%），精度94.8%（仅下降1.4个百分点）。整个压缩流程耗时约2小时（包括训练时间），完全满足产品需求。
风险与代价：QAT训练需要额外的GPU时间，且需要维护两套训练代码（FP32和QAT）。知识蒸馏需要额外训练Teacher模型，增加了训练复杂度。但在精度敏感场景下，这些代价是值得的。
常见误区与总结
- 误区一：认为剪枝率越高越好。实际上，当剪枝率超过50%时，精度会急剧下降，且MCU上的实际加速效果可能不如预期（因为内存访问瓶颈）。
- 误区二：忽略激活函数的量化影响。ReLU6在INT8量化下表现良好，但Swish、GELU等激活函数在低比特量化下精度损失较大，应尽量避免在MCU模型中使用。
- 误区三：只关注模型大小，不关注峰值RAM。有些模型虽然参数量小，但中间特征图的尺寸很大，导致RAM溢出。务必使用工具（如STM32Cube.AI的RAM分析）检查峰值内存。
- 误区四：知识蒸馏只适用于分类任务。实际上，蒸馏可以应用于检测（通过蒸馏边界框回归损失）、分割（通过蒸馏特征图）等更复杂的任务。
通过本章的学习，读者应掌握从模型选型到压缩部署的完整方法论。在实际项目中，建议先使用TensorFlow Lite Micro或STM32Cube.AI等工具链进行快速原型验证，再根据实测结果迭代优化。记住，MCU上的AI部署是一个系统工程，模型优化只是其中一环，还需要考虑数据预处理、后处理、中断调度等外围因素的综合影响。