4、模型来源与格式：如何获取或训练一个适合部署的模型，支持的文件格式（.h5、.tflite、.onnx）及其转换注意事项

在STM32Cube.AI部署流程中，模型来源与格式是决定后续转换能否成功、部署后推理精度与性能是否达标的“第一道关卡”。很多开发者往往在模型训练阶段没有考虑嵌入式部署的约束，导致后期在Cube.AI中反复报错或量化后精度骤降。本章将系统梳理适合部署的模型获取途径、训练时的资源约束、三种主流文件格式（.h5、.tflite、.onnx）的适配性，以及从训练框架到Cube.AI之间的格式转换注意事项。

4.1 适合部署的模型获取途径

获取适合STM32部署的模型主要有三条路径：公开预训练模型库、自训练模型、模型微调与知识蒸馏。每条路径都有其适用场景和约束条件。

4.1.1 公开预训练模型库

TensorFlow Hub、ONNX Model Zoo、PyTorch Hub等平台提供了大量预训练模型。对于嵌入式部署，应优先选择轻量级网络，如MobileNetV2、MobileNetV3-Small、EfficientNet-Lite、SqueezeNet等。这些模型在ImageNet上训练，参数量在1M~5M之间，适合MCU级设备。

使用公开模型时，需要关注以下关键信息：

• 输入分辨率：通常为224×224或192×192，需确认是否可降低至96×96或64×64以适配STM32的内存带宽。
• 权重量化状态：部分模型已提供INT8量化版本，可直接用于Cube.AI；若为FP32版本，需自行量化。
• 算子复杂度：避免包含LSTM、Attention等复杂结构，这些在Cube.AI中可能不支持或效率极低。

4.1.2 自训练模型

当任务为特定场景（如工业缺陷检测、特定手势识别）时，自训练是更可靠的方式。训练框架建议使用TensorFlow/Keras，因为其与Cube.AI的兼容性最好。训练时需注意：

1. 输入形状固定：在Keras中通过Input(shape=(height, width, channels))固定，不要使用动态尺寸。
2. 避免自定义层：如自定义损失函数或自定义激活函数，在导出时可能无法被Cube.AI解析。
3. 使用标准激活函数：ReLU、ReLU6、Sigmoid、Softmax、Tanh等。
4. 批归一化层保留：虽然推理时可以折叠，但保留BN层在转换时更稳定。

4.1.3 模型微调与知识蒸馏

对于资源受限的MCU，直接训练大模型再部署往往不现实。更高效的方式是：

• 迁移学习：在MobileNetV2等轻量模型基础上，冻结前几层，微调最后几层以适应新数据集。
• 知识蒸馏：用大模型（教师网络）指导小模型（学生网络）训练，学生模型参数量可压缩至教师模型的1/10，精度损失控制在2%~3%以内。

4.2 支持的文件格式详解

STM32Cube.AI支持三种主流模型格式：.h5（Keras原生）、.tflite（TensorFlow Lite）、.onnx（Open Neural Network Exchange）。三种格式各有优劣，适用场景不同。

4.2.1 .h5 格式详解

.h5是Keras的默认保存格式，使用HDF5二进制格式存储。它包含：模型架构（JSON）、权重值、训练配置（损失函数、优化器）、优化器状态。对于部署而言，优化器状态是冗余的，但Cube.AI会自动忽略。

推荐使用场景：当模型完全基于Keras构建，且未使用任何自定义层时，直接导出.h5是最稳妥的选择。在Cube.AI中导入.h5时，工具会自动解析模型结构并生成C代码。

4.2.2 .tflite 格式详解

.tflite是TensorFlow Lite的序列化格式，基于FlatBuffer。它经过算子融合、常量折叠等优化，体积更小。更重要的是，.tflite支持INT8量化，可将模型权重从FP32压缩至INT8，推理速度提升4~8倍，RAM占用减少75%。

从Keras导出.tflite的典型命令：

import tensorflow as tf

# 加载Keras模型
model = tf.keras.models.load_model('model.h5')

# 转换为TFLite
converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = representative_dataset_gen  # 校准数据集
tflite_model = converter.convert()

# 保存
with open('model.tflite', 'wb') as f:
    f.write(tflite_model)

4.2.3 .onnx 格式详解

.onnx是微软和Facebook联合推出的开放格式，旨在实现不同深度学习框架之间的互操作。对于PyTorch用户，导出ONNX是进入Cube.AI的主要路径。

PyTorch导出ONNX示例：

import torch
import torch.onnx

# 定义模型
model = MobileNetV2(num_classes=10)
model.load_state_dict(torch.load('model.pth'))
model.eval()

# 构造输入
dummy_input = torch.randn(1, 3, 224, 224)

# 导出ONNX
torch.onnx.export(model, dummy_input, "model.onnx",
                  input_names=["input"],
                  output_names=["output"],
                  dynamic_axes=None)  # 固定batch维度

4.3 格式转换注意事项

无论从哪种格式出发，转换过程中都需要关注以下关键点，否则可能导致Cube.AI导入失败或推理精度异常。

4.3.1 输入张量形状固定

Cube.AI要求模型的输入形状完全固定，即batch_size=1，且高度、宽度、通道数均为常量。在Keras中，确保使用Input(shape=(224,224,3))而非Input(shape=(None,224,3))。在PyTorch导出ONNX时，设置dynamic_axes=None。

4.3.2 算子兼容性检查

Cube.AI支持常见的CNN算子：Conv2D、DepthwiseConv2D、MaxPooling2D、AveragePooling2D、GlobalAveragePooling2D、Dense、Flatten、Reshape、Concatenate、Add、Activation（ReLU、Sigmoid、Softmax、Tanh）等。以下算子需要特别注意：

• BatchNormalization：Cube.AI支持，但建议在转换前将其折叠到前一卷积层（通过tf.keras.models.clone_model配合inference_mode）。
• Dropout：推理时应移除，Keras中设置model.trainable = False后导出。
• Resizing层：如tf.keras.layers.Resizing，Cube.AI不支持，需在预处理中完成。
• 自定义Lambda层：完全不被支持，必须重写为标准层。

4.3.3 归一化参数处理

大多数模型在训练时使用ImageNet的均值和标准差进行归一化。在部署时，有两种处理方式：

1. 将归一化融入模型：在模型第一层之前添加tf.keras.layers.Rescaling(scale=1/255.0, offset=-0.5)，这样Cube.AI生成的C代码会包含归一化操作。
2. 在MCU端预处理：在STM32的C代码中手动实现归一化，模型输入为原始像素值。这种方式更灵活，但需要额外编写代码。

推荐使用第一种方式，因为Cube.AI会自动生成对应的C代码，减少手动工作量。

4.3.4 量化与精度权衡

若使用.tflite格式并启用INT8量化，需要提供代表性数据集（通常100~500张验证集图片）用于校准量化范围。量化后模型精度可能下降1%~3%，对于分类任务通常可接受。若精度下降过多，可尝试：

• 使用量化感知训练（QAT），在训练时模拟量化误差。
• 仅量化权重，保留激活为FP16（部分STM32H7支持FP16加速）。
• 混合量化：对敏感层（如第一层卷积）保持FP32，其余层INT8。

4.4 实战案例：从Keras到Cube.AI的完整转换

以下案例展示了一个实际工业场景——PCB板缺陷分类（六类缺陷：缺孔、鼠咬、开路、短路、毛刺、虚焊）的模型部署流程。

4.4.1 背景与约束

目标芯片为STM32F746G-DISCO（Cortex-M7，216MHz，512KB RAM，1MB Flash）。要求推理时间<200ms，模型文件<300KB，RAM占用<150KB。训练数据共12,000张图像，每张96×96×3。

4.4.2 初始模型与问题

最初使用ResNet50迁移学习，准确率达98.2%，但模型大小89MB，完全无法部署。随后改用MobileNetV2（alpha=0.35），输入尺寸从224×224降至96×96，模型大小1.2MB（FP32），仍超出Flash限制。

4.4.3 优化过程

4.4.4 关键操作步骤

# 1. 训练学生模型（知识蒸馏）
teacher = tf.keras.models.load_model('resnet50_pcb.h5')
student = tf.keras.Sequential([
    tf.keras.layers.Input(shape=(96,96,3)),
    tf.keras.layers.Rescaling(scale=1/255.0, offset=-0.5),
    tf.keras.applications.MobileNetV1(alpha=0.25, weights=None, include_top=False, input_shape=(96,96,3)),
    tf.keras.layers.GlobalAveragePooling2D(),
    tf.keras.layers.Dense(6, activation='softmax')
])

# 2. 蒸馏训练（略）

# 3. 导出.h5
student.save('student_pcb.h5')

# 4. 转换为TFLite并量化
converter = tf.lite.TFLiteConverter.from_keras_model(student)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = representative_gen  # 500张验证集
tflite_model = converter.convert()
with open('student_pcb.tflite', 'wb') as f:
    f.write(tflite_model)

# 5. 在Cube.AI中导入.tflite，验证后生成C代码

4.4.5 结果与复盘

最终部署在STM32F746上，实测推理时间118ms，Flash占用198KB，RAM占用96KB，准确率95.1%，满足产线检测需求。复盘经验：

• 知识蒸馏比直接训练小模型准确率高1.5%~2%。
• INT8量化后准确率下降0.8%，在可接受范围内。
• 将归一化层融入模型后，MCU端无需额外预处理，代码更简洁。
• 若使用ONNX格式，需额外安装onnx2tf工具，且转换后需检查算子映射。

4.5 常见误区与总结

总结：模型获取与格式转换是STM32Cube.AI部署流程中最容易出错的环节。核心原则是：从训练开始就考虑部署约束，选择轻量网络、固定输入尺寸、避免自定义算子、使用标准激活函数。格式选择上，Keras用户优先.h5，TensorFlow用户优先.tflite（可量化），PyTorch用户需通过ONNX中转。转换过程中，重点关注输入形状、算子兼容性、归一化处理和量化校准。通过合理的模型压缩与量化，完全可以在STM32上实现接近云端模型的精度。