4、TensorFlow模型基础：理解TensorFlow的SavedModel、Frozen Graph、Checkpoint等格式，以及如何导出适合转换的模型

在SNPE模型转换的流程中，TensorFlow模型的输入格式直接决定了转换工具链的选择与转换成功率。SNPE的TensorFlow模型转换器（snpe-tensorflow-to-dlc）主要接受两种形式的输入：一种是包含完整图结构和权重信息的Frozen Graph（冻结图），另一种是经过优化的SavedModel。然而，TensorFlow生态中还存在Checkpoint、GraphDef、Keras H5等多种格式，它们之间的差异与适用场景常常让开发者感到困惑。本章将系统梳理这些格式的本质区别，并给出从训练到导出可转换模型的标准路径。

4.1 核心原理：TensorFlow模型格式的本质差异

TensorFlow的模型保存机制经历了多个版本的演进，理解这些格式的本质差异是正确导出模型的前提。从底层数据结构来看，TensorFlow模型由两部分组成：计算图（Graph）和变量值（Variable Values）。计算图定义了网络的结构和操作序列，而变量值则是训练得到的权重和偏置。不同格式的区别在于这两部分的存储方式和组合方式。

从SNPE转换的角度来看，Frozen Graph是最理想的输入格式。原因在于：冻结过程将所有的Variable节点转换为Constant节点，权重直接嵌入图结构中，使得整个模型成为一个自包含的二进制文件。SNPE的转换器可以直接解析这个文件，无需额外的变量初始化步骤。而SavedModel虽然也包含完整信息，但其变量存储方式需要转换器额外处理，且如果模型包含未冻结的变量或训练专属节点（如Optimizer、LearningRate等），转换就会失败。

4.2 判断方法：如何识别当前模型的格式与可转换性

在实际项目中，我们经常需要处理来自不同来源的TensorFlow模型。以下是一套系统的判断流程，帮助你在转换前快速评估模型的可用性。

1. 检查文件结构：如果模型是一个目录且包含saved_model.pb和variables/子目录，则为SavedModel格式；如果是一个单独的.pb文件，需要进一步判断是否包含权重；如果是多个.ckpt文件，则为Checkpoint格式。
2. 使用Netron可视化：将.pb文件拖入Netron（https://netron.app），如果看到的是完整的网络结构且每个节点的属性中带有权重值，说明是Frozen Graph；如果只有结构没有权重，则是GraphDef。
3. 使用saved_model_cli检查SavedModel：执行saved_model_cli show --dir ./saved_model --all，查看输出中的SignatureDef和Variable信息。如果显示No variables found，说明模型已经被冻结，可以直接转换。
4. 检查训练节点：在Netron中查看是否存在Adam、GradientDescent、Momentum等优化器节点，或者init、save等控制节点。这些节点在推理时不需要，且会导致SNPE转换失败。

4.3 操作流程：从训练产物导出适合SNPE转换的模型

下面我们分两种典型场景，给出从训练产物到可转换模型的完整操作流程。

场景一：从Checkpoint导出Frozen Graph

这是最常见的场景，适用于使用tf.estimator或tf.train.Saver进行训练的模型。核心思路是：加载Checkpoint中的权重，将变量转换为常量，然后输出为单个.pb文件。

import tensorflow as tf
from tensorflow.python.framework import graph_io
from tensorflow.python.tools import freeze_graph

# 1. 定义模型结构（必须与训练时完全一致）
def model_fn(x):
    # 示例：一个简单的全连接网络
    hidden = tf.layers.dense(x, 128, activation=tf.nn.relu, name='hidden')
    output = tf.layers.dense(hidden, 10, name='output')
    return output

# 2. 构建图并加载Checkpoint
with tf.Session() as sess:
    x = tf.placeholder(tf.float32, [None, 784], name='input')
    y = model_fn(x)
    # 定义输出节点名称（用于后续冻结）
    tf.identity(y, name='output')
    
    # 加载Checkpoint
    saver = tf.train.Saver()
    saver.restore(sess, './checkpoints/model.ckpt-1000')
    
    # 3. 冻结图：将变量转为常量
    frozen_graph = tf.graph_util.convert_variables_to_constants(
        sess,
        tf.get_default_graph().as_graph_def(),
        output_node_names=['output']  # 输出节点名称列表
    )
    
    # 4. 保存为Frozen Graph
    graph_io.write_graph(frozen_graph, './export/', 'frozen_model.pb', as_text=False)
print("Frozen Graph已保存至 ./export/frozen_model.pb")

这段代码的关键点在于：output_node_names必须与模型的实际输出节点名称一致，否则冻结后的图会缺少输出层。建议在训练时使用tf.identity为输出节点命名，便于后续定位。

场景二：从SavedModel导出Frozen Graph

如果模型已经保存为SavedModel格式，可以通过以下方式转换为Frozen Graph：

import tensorflow as tf
from tensorflow.python.tools import freeze_graph

# 1. 加载SavedModel
model_dir = './saved_model'
loaded = tf.saved_model.load(model_dir)

# 2. 获取推理函数（SignatureDef）
infer = loaded.signatures['serving_default']

# 3. 使用convert_variables_to_constants_v2冻结
frozen_func = tf.function(lambda x: infer(x))
frozen_graph = frozen_func.get_concrete_function(
    tf.TensorSpec(shape=[None, 784], dtype=tf.float32, name='input')
).graph.as_graph_def()

# 4. 清理训练节点并保存
from tensorflow.python.framework.convert_to_constants import convert_variables_to_constants_v2
frozen_graph = convert_variables_to_constants_v2(frozen_func)
with tf.io.gfile.GFile('./export/frozen_model.pb', 'wb') as f:
    f.write(frozen_graph.SerializeToString())
print("SavedModel已转换为Frozen Graph")

4.4 案例拆解：MobileNet V2从Keras到SNPE的完整转换

下面通过一个实际案例，展示如何将Keras训练的MobileNet V2模型转换为SNPE可接受的Frozen Graph格式。这个案例涵盖了从模型加载、格式转换到验证的完整闭环。

背景与约束：某AIoT项目需要在高通QCS610平台上部署图像分类模型，原始模型使用Keras训练并保存为mobilenet_v2.h5。目标是将模型转换为DLC格式，但SNPE转换器不接受H5文件，需要先转换为Frozen Graph。

初始现象：直接使用snpe-tensorflow-to-dlc转换H5文件，报错Unsupported file format。检查发现SNPE只接受.pb或SavedModel目录。

关键参数与操作步骤：

# 步骤1：加载Keras模型并导出为SavedModel
import tensorflow as tf

model = tf.keras.models.load_model('mobilenet_v2.h5')
# 移除训练相关的层（如Dropout、BatchNorm的训练模式）
model.trainable = False

# 导出为SavedModel
tf.saved_model.save(model, './saved_model_mnv2')

# 步骤2：使用saved_model_cli检查签名
# 命令行执行：saved_model_cli show --dir ./saved_model_mnv2 --all
# 确认SignatureDef中的输入输出名称，例如：
#   inputs: 'input_1:0' shape [None, 224, 224, 3]
#   outputs: 'probs:0' shape [None, 1000]

# 步骤3：转换为Frozen Graph
from tensorflow.python.framework.convert_to_constants import convert_variables_to_constants_v2

loaded = tf.saved_model.load('./saved_model_mnv2')
infer = loaded.signatures['serving_default']
frozen_func = tf.function(lambda x: infer(x))
frozen_func = frozen_func.get_concrete_function(
    tf.TensorSpec(shape=[1, 224, 224, 3], dtype=tf.float32, name='input')
)
frozen_graph = convert_variables_to_constants_v2(frozen_func)

# 保存为.pb文件
with tf.io.gfile.GFile('./export/mnv2_frozen.pb', 'wb') as f:
    f.write(frozen_graph.SerializeToString())

# 步骤4：验证Frozen Graph
# 使用Netron打开mnv2_frozen.pb，确认：
#   - 输入节点名称为'input'，输出节点名称为'StatefulPartitionedCall'或'probs'
#   - 所有权重已变为常量（节点属性中可见具体数值）
#   - 无训练节点（如Adam、Momentum等）

# 步骤5：使用SNPE转换
# snpe-tensorflow-to-dlc --graph mnv2_frozen.pb --input_dim input 1,224,224,3 --out_node probs --dlc mnv2.dlc

结果对比：转换后的DLC模型在SNPE上运行，Top-1准确率与原始Keras模型一致（约71.2%），推理延迟从CPU的45ms降至SNPE的8ms（使用DSP加速）。

风险与代价：在转换过程中，发现Keras的BatchNorm层在冻结后会产生额外的FusedBatchNorm节点，SNPE虽然支持该算子，但需要确保输入数据的归一化方式与训练时一致。此外，由于MobileNet V2包含深度可分离卷积，SNPE的DSP加速需要额外的内存对齐，导致模型加载时间增加约20ms。

复盘经验：（1）Keras模型导出时务必设置model.trainable = False，否则BatchNorm层会保留训练模式；（2）使用saved_model_cli检查签名是避免转换失败的关键步骤；（3）对于包含复杂预处理（如归一化）的模型，建议将预处理操作也冻结到图中，减少运行时开销。

4.5 常见误区与总结复盘

在TensorFlow模型转换的实践中，以下误区最为常见，需要特别注意：

• 误区一：混淆GraphDef和Frozen Graph。GraphDef只包含图结构，不包含权重，直接输入SNPE会报Missing variable values错误。判断方法：用Netron打开.pb文件，如果节点属性中没有权重值，说明是GraphDef。
• 误区二：忽略输出节点名称。在冻结图时，output_node_names参数必须准确。如果名称错误，冻结后的图会缺少输出层，导致转换后的DLC无法推理。建议在训练时使用tf.identity为输出节点命名，并记录名称。
• 误区三：未清理训练节点。SavedModel中可能包含优化器、损失函数等训练节点，这些节点在推理时无用且会导致SNPE转换失败。使用convert_variables_to_constants_v2时，会自动移除部分训练节点，但建议在导出前手动检查。
• 误区四：使用TF 2.x的默认导出方式。TF 2.x的tf.saved_model.save默认保存为SavedModel格式，且包含大量TF Runtime特有的节点。SNPE对TF 2.x的支持有限，推荐使用TF 1.15的compat.v1模式或TF 2.x的compat.v1兼容模式导出。