4、TensorFlow模型转换基础：Keras模型保存格式、SavedModel与H5格式、TensorFlow Lite转换器基本用法

在图像分类模型的边缘端部署流程中，模型转换是连接训练环境与推理环境的桥梁。无论是从Keras训练脚本中产出的权重文件，还是经过量化感知训练得到的浮点模型，最终都需要通过TensorFlow Lite（TFLite）转换器转化为轻量级的.tflite格式。本章将系统梳理Keras模型保存格式的差异、SavedModel与H5格式的适用场景，以及TFLite转换器的核心参数与调用方式，为后续PTQ（训练后量化）校准奠定基础。

4.1 Keras模型保存格式：H5、SavedModel与.keras

Keras框架在模型持久化方面提供了多种格式，每种格式在结构完整性、跨版本兼容性和部署友好性上各有侧重。理解这些差异是正确选择转换入口的前提。

4.1.1 核心原理：三种格式的存储逻辑

H5格式（.h5）是早期Keras默认的保存方式，基于HDF5二进制文件，将模型架构、权重值和优化器状态打包在单一文件中。SavedModel是TensorFlow原生的序列化格式，以目录形式存储，包含SavedModel.pb协议缓冲文件、variables/权重目录和assets/辅助资源。Keras v3格式（.keras）是TensorFlow 2.13之后推荐的格式，本质上是ZIP压缩包，内部包含JSON配置和权重文件。

4.1.2 判断方法：如何选择保存格式

在图像分类模型PTQ校准场景中，推荐遵循以下选择逻辑：如果模型需要被TFLite转换器直接加载，优先使用SavedModel格式，因为它保留了完整的函数签名和输入输出张量信息，转换时无需额外指定输入形状。如果仅用于实验性权重保存或迁移学习，H5格式足够轻量。若使用TensorFlow 2.13+且不涉及跨版本部署，.keras格式提供了更好的配置可读性。

4.1.3 案例拆解：从训练到保存的完整流程

假设我们训练了一个MobileNetV2图像分类模型，输入尺寸为224×224×3，共10个类别。训练完成后，需要为后续PTQ校准准备模型文件。初始代码如下：

# 训练完成后保存模型
model.save('mobilenetv2_savedmodel', save_format='tf')  # SavedModel目录
model.save('mobilenetv2.h5')  # H5格式
model.save('mobilenetv2.keras')  # Keras v3格式

实际部署中，我们发现SavedModel目录包含约15MB的权重文件和若干辅助文件，而H5单文件约14.5MB。在后续TFLite转换时，从SavedModel加载可以自动识别输入张量形状为[None, 224, 224, 3]，无需手动指定；而从H5加载则需要额外传入输入形状参数。

4.1.4 常见误区与总结

• 误区一：认为H5和SavedModel可以完全互换。实际上，H5丢失了部分计算图信息，某些自定义层或损失函数在加载时可能报错。
• 误区二：忽略版本兼容性。TensorFlow 2.x早期版本无法加载.keras格式，跨版本部署时需确认目标环境。
• 误区三：保存时未指定save_format参数，导致默认行为在不同版本间不一致。

总结：对于PTQ校准任务，SavedModel是最稳妥的中间格式，它保留了完整的推理图结构，且TFLite转换器对其支持最完善。

4.2 TensorFlow Lite转换器基本用法

TFLite转换器（tf.lite.TFLiteConverter）是将训练好的模型转化为轻量级.tflite文件的官方工具。其核心功能包括格式转换、量化优化和算子兼容性处理。

4.2.1 核心原理：转换器的三种入口

转换器提供三种主要加载方式：from_saved_model()从SavedModel目录加载，from_keras_model()从Keras模型实例加载，from_concrete_functions()从具体函数加载。对于图像分类模型，前两种最为常用。转换过程本质上是将TensorFlow计算图解析为TFLite的FlatBuffer格式，并执行算子映射和优化。

import tensorflow as tf

# 方式一：从SavedModel转换
converter = tf.lite.TFLiteConverter.from_saved_model('mobilenetv2_savedmodel')
tflite_model = converter.convert()
with open('model.tflite', 'wb') as f:
    f.write(tflite_model)

# 方式二：从Keras模型转换
model = tf.keras.models.load_model('mobilenetv2.h5')
converter = tf.lite.TFLiteConverter.from_keras_model(model)
tflite_model = converter.convert()

4.2.2 操作流程：转换前的关键配置

在PTQ校准场景中，转换器需要配置优化目标和代表性数据集。基本流程包括：加载模型、设置优化策略、指定代表性数据集生成器、执行转换、保存文件。以下是一个典型的PTQ转换配置：

converter = tf.lite.TFLiteConverter.from_saved_model('mobilenetv2_savedmodel')
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = representative_data_gen  # 校准数据生成器
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.inference_input_type = tf.uint8
converter.inference_output_type = tf.uint8
tflite_quant_model = converter.convert()

其中representative_data_gen需要生成与训练数据分布一致的样本，通常从验证集中选取100~500张图片，经过相同的预处理后以字典形式返回。

4.2.3 案例拆解：MobileNetV2的PTQ转换实战

以ImageNet预训练的MobileNetV2为例，我们执行完整的PTQ转换。初始现象：浮点模型大小为14.5MB，在边缘设备上推理延迟约120ms。目标：通过INT8量化将模型压缩至约3.6MB，并保持Top-1准确率下降不超过2%。

关键输入数据：使用验证集前200张图片作为校准集，预处理方式为resize到224×224、归一化到[0,1]。分析判断：由于MobileNetV2包含深度可分离卷积，对量化敏感度较低，适合INT8量化。实际操作步骤：

1. 加载SavedModel模型，确认输入输出张量名称。
2. 定义代表性数据集生成器，每次返回一个batch的输入张量。
3. 设置优化参数，启用INT8量化。
4. 转换后对比浮点模型与量化模型的输出差异。

结果对比：量化后模型大小降至3.6MB，推理延迟降至45ms，Top-1准确率从71.2%降至69.8%，下降1.4%，在可接受范围内。风险与代价：校准集数量不足可能导致量化尺度估计偏差，需增加至500张图片重新校准。

4.2.4 常见误区与排障

• 误区一：转换时未设置target_spec.supported_ops，导致某些算子（如Softmax）以浮点形式保留，混合精度模型在纯INT8硬件上无法运行。
• 误区二：代表性数据集未经过与训练时完全相同的预处理，例如未执行相同的归一化或通道顺序调整。
• 误区三：忽略转换后的验证。转换成功不代表推理正确，必须使用测试集对比输出。

排障建议：若转换报错，首先检查算子兼容性，使用converter.target_spec.supported_ops添加TFLITE_BUILTINS；若推理结果异常，检查输入输出张量的数据类型和取值范围。

4.3 格式选择与转换策略的工程实践

在实际项目中，模型格式的选择往往取决于下游任务。对于PTQ校准，我们推荐以下工程实践路径：训练阶段使用.keras格式保存最新模型，便于快速迭代；确定部署方案后，导出SavedModel作为转换中间格式；最后通过TFLite转换器生成量化模型。这种分层策略兼顾了开发效率和部署可靠性。