4. 模型选择与压缩

在STM32这类资源受限的MCU上部署TinyML模型，核心矛盾在于“模型能力”与“硬件资源”之间的鸿沟。一个标准的MobileNetV2模型参数量约为3.4MB，Flash占用超过13MB，而主流STM32F4系列仅有1MB Flash和192KB RAM。直接部署必然失败。本章将系统讲解如何为STM32挑选合适的轻量级模型，并通过量化、剪枝、知识蒸馏三大压缩手段，将模型压缩至“可运行、低延迟、省功耗”的工程状态。

上图展示了从原始模型到可部署模型的完整决策链路。实际工程中，模型选择与压缩并非线性流程，而是需要根据STM32的具体型号（如F4、L4、H7系列）和任务需求（图像分类、语音唤醒、异常检测）进行多轮迭代。下面我们将逐一拆解每个环节的核心原理与操作要点。

4.1 轻量级模型选型：从“能用”到“够用”

核心原理：为什么MobileNetV2在STM32上“水土不服”？

MobileNetV2虽然比VGG小很多，但其设计目标仍是手机端GPU/CPU，而非MCU。其瓶颈在于：深度可分离卷积的中间张量（bottleneck）在推理时会占用大量RAM。例如，输入224×224×3的图像，MobileNetV2第一层卷积输出的特征图大小为112×112×32，仅这一层就需要112×112×32×4字节 ≈ 1.6MB RAM，远超STM32的可用内存。因此，选型的第一原则是“RAM优先，Flash次之”，因为Flash可以通过外部存储扩展，而RAM是硬上限。

判断方法：三步筛选法

1. RAM预算计算：先确定STM32型号的可用RAM（如STM32F746有320KB，但需留出50%给系统栈和中间变量）。用公式 峰值RAM = 最大特征图尺寸 × 位宽 估算。例如输入64×64×3，第一层卷积输出32×32×16，FP32时需64KB，INT8时仅需16KB。
2. Flash预算分配：模型权重 + 代码 + 运行时库 ≤ 芯片Flash的70%。例如1MB Flash，模型权重不能超过500KB（留出300KB给代码和库）。
3. 延迟估算：用 MACs（乘加次数） 除以芯片的 有效MAC/s。STM32F4系列在180MHz下，CMSIS-NN优化后可达约1.2 GMAC/s。若模型需要50M MACs，则推理时间约42ms，可接受。

4.2 量化：将FP32“瘦身”为INT8

核心原理：数值精度与硬件加速的权衡

量化是将32位浮点权重和激活值映射到8位整数（或更低）的过程。STM32F4系列内置的CMSIS-DSP库和DSP指令集对INT8运算有硬件加速，实测INT8推理速度比FP32快3-5倍，RAM占用减少75%。但量化会引入精度损失，关键在于选择合适的量化范围和校准方法。

常用的量化方案有两种：训练后量化（PTQ）和量化感知训练（QAT）。PTQ适合快速部署，但精度损失较大（通常1-3%）；QAT在训练时模拟量化误差，精度损失可控制在0.5%以内，但需要重新训练模型。

操作流程：基于STM32Cube.AI的PTQ实战

# 1. 在Python端导出Keras/TFLite模型
import tensorflow as tf
model = tf.keras.models.load_model('mobilenet_v1_025.h5')

# 2. 准备校准数据集（100-500张代表性图片）
calib_ds = tf.data.Dataset.from_tensor_slices((x_calib, y_calib)).batch(32)

# 3. 进行INT8量化（PTQ）
converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = calib_ds
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
tflite_model = converter.convert()

# 4. 保存为.tflite文件，导入STM32Cube.AI
with open('model_int8.tflite', 'wb') as f:
    f.write(tflite_model)

在STM32Cube.AI中，选择“INT8”作为输出格式，它会自动生成C代码，包含量化参数（scale和zero_point）。部署时需注意：输入数据也要量化，例如摄像头采集的RGB888数据需转换为INT8格式，这通常通过硬件DMA和查表法实现。

4.3 剪枝：移除“不重要”的神经元

核心原理：稀疏化与结构化剪枝

剪枝是移除模型中冗余权重或神经元的过程。非结构化剪枝将单个权重置零，产生稀疏矩阵，但需要特殊硬件支持才能加速；结构化剪枝移除整个卷积核或通道，可直接减少计算量和内存占用，更适合STM32。例如，对MobileNetV1的深度可分离卷积层，可以按通道的L2范数排序，删除贡献最小的30%通道。

判断方法：基于敏感度分析的剪枝策略

1. 逐层敏感度分析：对每一层单独进行剪枝（如剪掉20%通道），评估精度下降幅度。敏感度高的层（通常靠近输入输出层）少剪或不剪，敏感度低的层多剪。
2. 全局剪枝：设定全局目标（如减少50% MACs），根据每层敏感度分配剪枝比例。
3. 微调恢复：剪枝后必须进行微调（fine-tune），通常需要原训练数据的10%-20%进行几个epoch的训练。

4.4 知识蒸馏：让小模型“继承”大模型的智慧

核心原理：软标签与温度参数

知识蒸馏（KD）的核心思想是让一个小模型（学生）学习大模型（教师）的输出分布，而不仅仅是硬标签。教师模型的输出经过温度参数T软化后，包含了类别间的相似性信息（例如“猫”和“狗”的概率都比“汽车”高），这比独热编码提供了更丰富的监督信号。对于STM32场景，教师模型可以是MobileNetV2（FP32），学生模型可以是参数量仅50KB的MicroNet。

操作流程：KD训练与部署

# 教师模型（预训练好的FP32模型）
teacher = tf.keras.models.load_model('mobilenet_v2_1.0.h5')

# 学生模型（轻量级模型）
student = tf.keras.Sequential([
    tf.keras.layers.Input(shape=(32, 32, 3)),
    tf.keras.layers.Conv2D(16, 3, activation='relu'),
    tf.keras.layers.DepthwiseConv2D(3, strides=2),
    tf.keras.layers.GlobalAvgPool2D(),
    tf.keras.layers.Dense(10, activation='softmax')
])

# 蒸馏损失函数
def distillation_loss(y_true, y_pred, teacher_pred, T=4, alpha=0.7):
    soft_loss = tf.keras.losses.KLDivergence()(
        tf.nn.softmax(teacher_pred / T), 
        tf.nn.softmax(y_pred / T)
    ) * (T * T)
    hard_loss = tf.keras.losses.CategoricalCrossentropy()(y_true, y_pred)
    return alpha * soft_loss + (1 - alpha) * hard_loss

# 训练时同时输入真实标签和教师输出
# ... 训练循环略 ...
# 训练完成后，仅部署学生模型（INT8量化后约80KB）

常见误区与复盘

• 误区1：认为量化、剪枝、蒸馏是互斥的。实际上三者可叠加使用，最佳实践是“先蒸馏、再剪枝、最后量化”。蒸馏让小模型精度更高，剪枝减少冗余，量化进一步压缩。
• 误区2：只关注Flash占用，忽略RAM峰值。有些模型Flash很小，但推理时中间特征图很大，导致RAM溢出。务必使用STM32Cube.AI的“RAM峰值分析”功能。
• 误区3：剪枝后不微调。直接部署剪枝模型会导致精度骤降（可能超过10%）。微调是必须步骤，且需使用与原始训练相同的数据分布。
• 误区4：量化校准集过少。少于100张图片的校准集可能导致量化尺度偏差，建议使用200-500张覆盖各类别和光照条件的图片。