3、模型转换基础：掌握TensorFlow模型保存格式（SavedModel、H5、Keras），理解TFLite转换器的基本用法

在TFLite Micro的部署链路中，模型转换是连接“训练完成”与“嵌入式推理”之间的关键桥梁。绝大多数开发者习惯在Keras中训练模型，但微控制器上的TensorFlow Lite Micro运行时并不直接读取Keras的权重文件，它需要的是经过量化、序列化后的FlatBuffer格式（.tflite）。因此，理解TensorFlow模型的不同保存格式及其适用场景，并掌握TFLiteConverter的调用逻辑，是自动化导出脚本设计的基石。本章将系统梳理SavedModel、H5、Keras三种格式的本质区别，深入解析TFLite转换器的核心参数，并通过一个完整的转换案例，帮助读者建立从训练产物到嵌入式部署文件的清晰认知。

上图展示了从训练产物到TFLite Micro部署文件的完整链路。左侧是三种常见的TensorFlow模型保存格式，中间是TFLiteConverter的调用方式与核心参数，右侧是转换后生成的部署文件。理解这条链路中每个环节的职责与限制，是编写自动化转换脚本的前提。

3.1 三种模型保存格式的核心原理与差异

TensorFlow生态中，模型保存格式经历了多次演进。在TFLite Micro的自动化转换脚本中，我们经常需要处理来自不同来源的模型文件，因此必须清晰区分这三种格式的底层逻辑。

3.1.1 SavedModel：生产级标准格式

SavedModel是TensorFlow官方推荐的生产级模型格式，它不仅仅保存权重，还包含完整的计算图（GraphDef）、变量检查点（Variables）、资产文件（Assets）以及签名定义（SignatureDef）。这种格式的最大优势在于自包含性——模型的所有信息都封装在一个目录中，不依赖原始的Python代码即可进行推理或转换。

在转换脚本中，使用tf.saved_model.save()导出的模型目录通常包含以下结构：

my_model/
├── assets/
├── variables/
│   ├── variables.data-00000-of-00001
│   └── variables.index
├── saved_model.pb
└── fingerprint.pb

对于TFLite转换而言，SavedModel格式提供了最稳定的转换路径，因为它完整保留了模型的输入输出签名，转换器可以准确推断张量的形状和数据类型。

3.1.2 H5：Keras的经典单文件格式

H5（HDF5）格式是Keras早期版本（TensorFlow 2.4之前）的默认保存格式。它将模型架构、权重、优化器状态和编译信息打包在一个二进制文件中。虽然H5格式便于分发和存储，但它存在一个关键缺陷：不包含自定义层的代码逻辑。如果模型使用了自定义层或自定义损失函数，加载H5文件时必须提供对应的Python类定义，否则会抛出UnknownLayer错误。

在自动化转换脚本中，处理H5文件需要格外注意：如果模型包含自定义组件，建议先加载H5文件，再重新导出为SavedModel格式，以确保转换过程的稳定性。

3.1.3 Keras格式（.keras）：新一代推荐格式

从TensorFlow 2.6开始，Keras推荐使用.keras格式。这是一种基于Zip的容器格式，内部使用JSON存储模型配置，使用H5或TFRecord存储权重。与H5相比，.keras格式能够更可靠地保存自定义层的信息，因为它会序列化层的类名和配置参数，加载时通过注册的类自动重建。

下表对比了三种格式的关键特性：

3.2 TFLite转换器的基本用法与参数解析

TFLiteConverter是TensorFlow提供的模型转换工具，其核心功能是将训练好的模型转换为FlatBuffer格式的.tflite文件。在TFLite Micro场景中，转换器还承担着量化的重要职责——将浮点权重转换为int8或uint8格式，以满足微控制器的内存和计算限制。

3.2.1 转换器的三种初始化方式

根据输入格式的不同，TFLiteConverter提供了三种静态方法：

# 方式一：从SavedModel目录转换
converter = tf.lite.TFLiteConverter.from_saved_model("my_model/")

# 方式二：从Keras模型文件转换（H5或.keras）
model = tf.keras.models.load_model("my_model.h5")
converter = tf.lite.TFLiteConverter.from_keras_model(model)

# 方式三：从具体函数转换（较少用于Micro场景）
converter = tf.lite.TFLiteConverter.from_concrete_functions([func], model)

对于TFLite Micro部署，推荐使用from_saved_model或from_keras_model。前者适合生产环境，后者适合快速原型验证。

3.2.2 核心参数配置

转换器的核心参数决定了输出模型的大小、精度和算子兼容性。以下是自动化脚本中最常配置的参数：

• optimizations：设置优化策略。[tf.lite.Optimize.DEFAULT]会启用权重量化，将浮点权重转换为int8，显著减小模型体积。
• representative_dataset：校准数据集生成器，用于量化时确定每个激活张量的动态范围。这是量化精度的关键，必须提供有代表性的输入样本。
• target_spec.supported_ops：指定目标算子集合。对于TFLite Micro，通常设置为[tf.lite.OpsSet.TFLITE_BUILTINS_INT8]，强制所有算子使用int8实现。
• inference_input_type / inference_output_type：设置推理时的输入输出数据类型，通常为tf.int8或tf.uint8。

一个典型的量化转换配置如下：

converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = representative_data_gen
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.inference_input_type = tf.int8
converter.inference_output_type = tf.int8
tflite_model = converter.convert()

3.3 案例拆解：从Keras模型到TFLite Micro文件的完整转换

下面通过一个具体的图像分类模型转换案例，展示完整的操作流程和关键决策点。

3.3.1 案例背景与初始目标

假设我们有一个在TensorFlow 2.10中训练的Keras模型，用于识别10类简单图案，输入为32×32的灰度图像。模型结构为：Conv2D(8)→MaxPool→Conv2D(16)→MaxPool→Flatten→Dense(10)。训练完成后保存为pattern_model.h5。我们的目标是将该模型转换为适合在Cortex-M4微控制器上运行的int8量化TFLite模型，要求模型大小不超过50KB，推理延迟在100ms以内。

3.3.2 初始现象与问题

直接使用默认参数转换后，我们得到了一个浮点模型（约180KB），无法满足内存要求。同时，如果直接使用from_keras_model转换而不提供校准数据集，量化后的模型精度从95%下降到82%，因为激活值的动态范围没有被正确估计。

3.3.3 分析判断与操作步骤

针对上述问题，我们采取以下步骤：

1. 重新导出为SavedModel：加载H5文件后，使用model.export("saved_model_dir")导出，确保签名信息完整。
2. 准备校准数据集：从训练集中随机选取100张图像，编写生成器函数，每次产出1个batch（batch_size=1），并确保数据范围与训练时一致（0-255的uint8或0-1的float）。
3. 配置量化参数：设置supported_ops=[TFLITE_BUILTINS_INT8]，强制全int8量化。
4. 执行转换并验证：转换后使用tf.lite.Interpreter加载模型，输入int8数据，对比输出与原始Keras模型的差异。

关键代码片段：

def representative_data_gen():
    for i in range(100):
        img = train_images[i].astype(np.float32) / 255.0
        img = np.expand_dims(img, axis=0)
        yield [img]

converter = tf.lite.TFLiteConverter.from_saved_model("saved_model_dir")
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = representative_data_gen
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.inference_input_type = tf.int8
converter.inference_output_type = tf.int8
tflite_model = converter.convert()
with open("pattern_model_int8.tflite", "wb") as f:
    f.write(tflite_model)

3.3.4 结果对比与复盘

复盘发现，校准数据集的代表性至关重要。我们最初只用了10张图像，精度仅为89%；增加到100张后，精度稳定在93.8%。此外，将输入类型设为int8后，需要在部署代码中手动将原始图像数据转换为int8格式，并应用相同的缩放因子。

3.4 常见误区与总结复盘

在模型转换环节，开发者经常遇到以下几类问题，需要特别注意：

• 忽略签名信息：使用from_keras_model时，如果模型有多个输入或输出，转换器可能无法正确推断签名。此时应改用SavedModel格式，并显式指定输入输出张量。
• 校准数据集与训练数据分布不一致：如果校准数据来自不同的采集环境（如不同光照条件），量化后的模型精度会显著下降。校准数据集应覆盖实际部署场景中的典型输入。
• 算子不支持：某些高级算子（如tf.nn.depthwise_conv2d的特定配置）在TFLite Micro中可能没有实现。转换前应使用tf.lite.TFLiteConverter的target_spec进行算子兼容性检查，必要时修改模型结构。
• 混淆动态范围量化与全整型量化：动态范围量化仅量化权重，激活值仍为浮点；而TFLite Micro通常需要全整型量化（权重和激活均为int8）。务必设置supported_ops=[TFLITE_BUILTINS_INT8]。

总结而言，模型转换不是简单的“一键导出”，而是需要根据目标硬件资源、精度要求和算子支持情况，精心设计转换策略。在自动化脚本中，建议将转换参数配置为可配置项，并加入转换后模型的精度验证步骤，确保每次生成的.tflite文件都满足部署要求。下一阶段，我们将在此基础上，编写一个完整的Python自动化转换脚本，将本章的转换逻辑固化为可复用的工具链。