4、ONNX模型验证：从检查到可视化

模型导出成ONNX格式后，千万别急着往下走。我见过太多人，导出后直接扔给TensorRT，结果报错一堆，回头查才发现ONNX本身就有问题。这一章，我们就来聊聊怎么给ONNX模型做「体检」。

4.1 onnx.checker：模型结构合规性检查

这是最基础的一步。说白了，就是检查你的ONNX文件是不是「格式正确」。比如节点类型是否合法、输入输出是否匹配、版本号对不对。

import onnx

# 加载模型
model = onnx.load("yolov8n.onnx")

# 检查模型结构
try:
    onnx.checker.check_model(model)
    print("模型检查通过 ✅")
except onnx.checker.ValidationError as e:
    print(f"模型检查失败: {e}")

如果检查失败，常见原因有：

• 算子版本不匹配——比如你用了Opset 18的算子，但模型声明的是Opset 12
• 输入输出名称不一致——图结构中引用了不存在的张量名
• 类型约束违反——某个算子要求float32，你传了int64

4.2 onnx.shape_inference：推断并补全张量形状

很多ONNX模型导出时，某些中间张量的形状是未知的（用-1表示）。这会导致后续优化工具无法确定内存布局，影响性能。

from onnx import shape_inference

# 推断形状
inferred_model = shape_inference.infer_shapes(model)

# 保存推断后的模型
onnx.save(inferred_model, "yolov8n_inferred.onnx")

# 对比推断前后的差异
print("原始模型输入:", model.graph.input[0])
print("推断后输入:", inferred_model.graph.input[0])

我在项目中遇到过一个问题：导出的ONNX模型在TensorRT里跑得很慢，后来发现是因为形状没推断出来，TensorRT做了很多保守的内存分配。补上shape_inference后，推理速度提升了30%。

4.3 Netron可视化工具：一眼看清模型结构

Netron是我最常用的模型可视化工具。它支持ONNX、TensorFlow、PyTorch等多种格式。你只需要把模型文件拖进去，就能看到完整的计算图。

Netron能帮你做什么：

• 查看每一层的输入输出形状
• 检查算子类型和参数
• 发现多余的节点（比如没用的Identity层）
• 对比不同版本模型的差异

Netron有两种使用方式：

• 在线版：netron.app，直接拖文件即可
• 本地版：pip install netron，然后运行 netron 你的模型.onnx

我个人更推荐本地版，尤其是处理大模型时，在线版可能会卡顿。

4.4 ONNX模型结构分析：动手拆解计算图

可视化只是第一步。真正要理解模型，你得学会用代码分析ONNX的结构。下面是我常用的几个分析手段。

4.4.1 统计各类型算子数量

import onnx
from collections import Counter

model = onnx.load("yolov8n.onnx")
op_types = [node.op_type for node in model.graph.node]
op_counts = Counter(op_types)

print("算子统计:")
for op, count in op_counts.most_common():
    print(f"  {op}: {count}")

输出示例：

4.4.2 检查输入输出节点

# 查看输入信息
for input_tensor in model.graph.input:
    print(f"输入: {input_tensor.name}")
    print(f"  形状: {[dim.dim_value for dim in input_tensor.type.tensor_type.shape.dim]}")

# 查看输出信息
for output_tensor in model.graph.output:
    print(f"输出: {output_tensor.name}")
    print(f"  形状: {[dim.dim_value for dim in output_tensor.type.tensor_type.shape.dim]}")

4.4.3 定位特定层

# 查找所有卷积层的参数
for i, node in enumerate(model.graph.node):
    if node.op_type == "Conv":
        print(f"节点 {i}: {node.name}")
        # 获取权重和偏置
        weight = model.graph.initializer[node.input[1]]
        print(f"  权重形状: {weight.dims}")
        if len(node.input) > 2:
            bias = model.graph.initializer[node.input[2]]
            print(f"  偏置形状: {bias.dims}")

4.5 本章知识体系

下面这张图总结了ONNX模型验证的完整流程：

4.6 实战建议

总结一下我的工作流：

1. 导出后立即检查——用check_model确保格式正确
2. 补全形状——用shape_inference让TensorRT少走弯路
3. 可视化确认——用Netron看一眼，确认结构符合预期
4. 代码分析——统计算子、检查输入输出，做到心中有数