4、模型转换基础：使用TensorFlow Converter将Keras或SavedModel模型转换为TFLite格式，掌握基本参数设置

TFLite Micro的部署链路中，模型转换是第一道关卡。无论你训练好的模型是Keras的.h5文件，还是通过tf.saved_model.save()导出的SavedModel目录，都必须经过TensorFlow Lite Converter的处理，才能变成.tflite格式的扁平缓冲文件。这个转换过程不仅仅是格式的变更，更涉及算子映射、量化策略、输入输出签名等一系列关键决策。如果转换参数设置不当，轻则模型精度下降，重则模型完全无法在微控制器上运行。本章将系统拆解TFLite Converter的核心原理、操作流程、参数调优方法，并通过一个完整的案例演示从Keras模型到TFLite Micro可用模型的转换闭环。

4.1 核心原理：从图模型到FlatBuffer的映射机制

TensorFlow Lite Converter的本质是一个图优化与格式编译器。它接收TensorFlow的GraphDef或ConcreteFunction，将其中的算子逐一映射到TFLite内置的算子集合，并最终序列化为FlatBuffer格式。FlatBuffer是一种高效的内存映射序列化库，不需要解析即可直接访问数据，这正是微控制器上内存受限场景所迫切需要的特性。

转换过程主要经历三个阶段：图输入阶段、图优化阶段和序列化阶段。在图输入阶段，Converter根据你选择的入口函数（Keras模型、SavedModel或ConcreteFunction）提取计算图。图优化阶段会执行常量折叠、算子融合（如将BatchNorm融合进Conv层）、死节点消除等操作。序列化阶段则将优化后的图写入.tflite文件。

理解这个机制对后续参数设置至关重要。例如，当你设置optimizations参数时，实际上是在告诉Converter在优化阶段执行哪些额外的变换；当你指定target_spec.supported_ops时，是在约束算子映射的候选集合。如果模型中包含TFLite不支持的自定义算子，Converter会在映射阶段报错，此时你需要提供自定义算子的实现或修改模型结构。

4.2 操作流程：三种入口与基本参数设置

根据你的模型来源，TFLite Converter提供了三种不同的入口函数。下表对比了它们的适用场景与调用方式：

最基本的转换流程只需要三行代码：

import tensorflow as tf

# 加载Keras模型
model = tf.keras.models.load_model('my_model.h5')

# 创建转换器
converter = tf.lite.TFLiteConverter.from_keras_model(model)

# 执行转换
tflite_model = converter.convert()

# 保存为文件
with open('my_model.tflite', 'wb') as f:
    f.write(tflite_model)

这段代码生成的.tflite文件是float32精度的，模型大小与原始Keras模型相当。对于MCU部署来说，这通常是不够的。你需要进一步设置量化参数。最常用的参数组合如下：

converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_ops = [
    tf.lite.OpsSet.TFLITE_BUILTINS_INT8,
    tf.lite.OpsSet.TFLITE_BUILTINS
]
converter.representative_dataset = representative_data_gen
converter.inference_input_type = tf.int8
converter.inference_output_type = tf.int8
tflite_quant_model = converter.convert()

其中representative_data_gen是一个生成器函数，用于提供校准数据。它的作用是统计激活值的动态范围，从而确定量化参数。下面是一个典型的实现：

def representative_data_gen():
    # 假设输入shape为(1, 32, 32, 3)
    for _ in range(100):
        yield [np.random.rand(1, 32, 32, 3).astype(np.float32)]

4.3 案例拆解：将Keras图像分类模型转换为int8 TFLite模型

我们以一个实际的图像分类任务为例，完整演示从Keras模型到TFLite Micro可用模型的转换过程。假设我们训练了一个简单的CNN模型，用于识别10类灰度图像，输入shape为(1, 28, 28, 1)。

背景与约束：目标MCU是Cortex-M4内核，主频80MHz，RAM 256KB，Flash 1MB。float32模型大小为2.3MB，远超Flash容量；即使勉强烧录，推理延迟也会超过5秒。因此必须进行int8量化，目标是将模型压缩到300KB以内，推理延迟控制在200ms以内。

初始现象：直接使用默认参数转换得到的float32模型，大小2.3MB，无法部署。我们需要进行全整型量化。

操作步骤：

1. 加载训练好的Keras模型，确认输入输出shape。
2. 准备校准数据集：从训练集中随机抽取200张图片，构造representative_data_gen生成器。
3. 设置量化参数：optimizations=[DEFAULT]，supported_ops=[TFLITE_BUILTINS_INT8]，inference_input_type=tf.int8。
4. 执行转换并保存.tflite文件。
5. 使用TFLite Interpreter在PC上验证量化后模型的精度。

关键数据对比：

风险与代价：量化过程中最大的风险是精度损失。如果校准数据集分布与真实推理数据差异较大，量化后的激活值范围估计不准，可能导致精度骤降。此外，某些算子（如softmax）在int8下实现精度较差，需要保留为float32输出。在我们的案例中，输出层使用了inference_output_type=tf.int8，但实际部署时发现softmax输出直接转int8会丢失概率信息，因此最终改为inference_output_type=tf.float32，仅对权重和激活进行int8量化。

复盘经验：转换参数不是一次就能调好的。建议先做默认float32转换，验证模型结构兼容性；再做动态范围量化，快速评估精度损失；最后才做全整型量化。每一步都要用验证集评估精度，不要跳过中间步骤。

4.4 常见误区与总结复盘

在模型转换的实践中，开发者经常陷入以下几个误区，导致转换失败或部署后性能不佳。

误区一：忽略输入输出张量的shape约束。Keras模型在训练时可能接受动态shape（如None维度），但TFLite要求固定shape。转换前必须确保模型输入shape完全确定，否则Converter会报错。解决方法是在Keras层中显式指定input_shape，或使用model.build()固定shape。

误区二：混淆"量化感知训练"与"训练后量化"。本章介绍的Converter转换属于训练后量化（Post-Training Quantization），它不需要重新训练模型，但精度损失通常比量化感知训练（QAT）更大。如果精度损失超过2%，建议使用QAT，即在训练过程中模拟量化误差，然后再用Converter转换。

误区三：认为optimizations=[DEFAULT]会自动完成所有优化。实际上，DEFAULT优化只启用了默认的图优化和权重压缩，并不会自动进行全整型量化。你必须显式设置supported_ops和inference_input/output_type才能获得int8模型。

误区四：忽视代表性数据集的质量。校准数据集应该覆盖推理时可能遇到的各种输入分布。如果只使用几十张图片，量化范围可能偏窄，导致边缘情况下的精度崩溃。建议至少使用100-500张具有代表性的样本。

总结复盘：模型转换是TFLite Micro部署中最容易出错的环节，但也是可控性最强的环节。掌握以下要点可以显著提高成功率：

• 先确认模型结构兼容性，再做量化优化，分步推进。
• 每次修改参数后，都要用验证集评估精度和模型大小。
• 保存转换日志，记录每次实验的参数组合与结果，便于回溯。
• 在MCU上部署前，务必使用TFLite Interpreter在PC上模拟int8推理，确认输出与原始模型一致。