VIP20

本课程属于：028-ONNX模型部署与推理优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

ONNX模型导出常见报错解决

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · ONNX模型导出概述

课程导入学习目标

ONNX格式介绍 · 模型导出流程 · 常见工具链

ONNX格式介绍

Python环境 · PyTorch/TensorFlow… · ONNX与ONNX Runtime安…

环境准备Python

导出前的模型检查

模型结构验证 · 输入输出定义 · 动态轴设置

导出前的模型检查模型结构验证

PyTorch导出ONNX

torch.onnx.export参… · 示例代码

TensorFlow导出ONNX

tf2onnx转换工具 · Keras模型导出

常见错误分类

语法错误 · 类型错误 · 形状错误

常见错误分类语法错误

算子不支持错误

错误信息解读 · 替代方案 · 自定义算子

算子不支持错误错误信息解读

动态轴问题

动态维度设置 · dynamic_axes参数使用

动态轴问题动态维度设置

输入输出命名问题

名称规范 · 重命名方法

输入输出命名问题名称规范

数据类型不匹配

强制类型转换 · 精度设置

数据类型不匹配强制类型转换

形状推断失败

显式指定输入形状 · 使用符号形状

形状推断失败显式指定输入形状

控制流与循环

if/loop导出问题 · 使用torch.jit或tf.fun…

控制流循环

自定义层导出

注册自定义算子 · 实现forward/function

自定义层导出注册自定义算子

Batch维度处理

固定batch与动态batch · batch_size设置

Batch维度处理

模型包含训练相关层

Dropout · BatchNorm的导出处理

模型包含训练相关…Dropout

模型包含随机操作

随机种子设置 · 导出时禁用随机

模型包含随机操作随机种子设置

模型包含非张量操作

字符串 · 字典等处理

模型包含非张量操…字符串

模型包含可变长度输入

处理序列 · padding

模型包含可变长度…处理序列

模型包含多输入多输出

多输入输出定义 · 顺序

模型包含多输入多…多输入输出定义

模型包含预训练权重

加载权重 · 冻结层

模型包含预训练权…加载权重

模型包含量化层

量化模型导出 · QDQ格式

模型包含量化层量化模型导出

模型包含注意力机制

Transformer导出注意事项

模型包含注意力机…Transformer

模型包含卷积与池化

算子映射 · padding策略

模型包含卷积池化

模型包含归一化层

LayerNorm · InstanceNorm导出

模型包含归一化层LayerNorm

模型包含损失函数

导出时移除损失层

模型包含损失函数导出时移除损失层

模型包含数据预处理

预处理层导出或外部处理

模型包含数据预处…预处理层导出或外…

图像分类模型导出错误解决

案例实战图像分类模型导出…

目标检测模型导出错误解决

案例实战目标检测模型导出…

调试技巧 · 日志分析 · 常见问题速查表

综合提升调试技巧