VIP10
本课程属于：052-模型压缩、ONNX与推理优化 智能金融与金融工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX Runtime导出与图优化实战

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入
目标=ONNX与ONNX Runti… · 学习目标 · 整体课程框架与实战路线
课程导入ONNX
02
ONNX基础概念
目标=计算图 · 算子 · 张量
ONNX基础概念
03
环境搭建
目标=安装ONNX · ONNX Runtime · PyTorch/TensorFlow…
环境搭建ONNX
04
从PyTorch导出ONNX
目标=torch.onnx.expo… · 动态轴 · 输入输出命名与常见报错
PyTorchONNX
05
从TensorFlow/Keras导出ONNX
目标=tf2onnx工具 · SavedModel转换 · 自定义层与算子映射
TensorFlow/K…ONNX
06
导出后的模型验证
目标=ONNX checker · 形状推断 · ONNX Runtime推理对比与数…
导出后的模型验证ONNX
07
ONNX Runtime推理入门
目标=InferenceSessio… · 输入输出绑定 · CPU/GPU执行提供器配置
ONNXRuntime
08
图优化基础
目标=ONNX Runtime图优化… · 常量折叠 · 算子融合与冗余节点消除
图优化基础ONNX
09
量化与压缩
目标=动态量化 · 静态量化 · QDQ格式
量化压缩
10
算子融合实战
目标=Conv-BN-ReLU融合 · MatMul-Add融合 · Gemm优化与性能对比
算子融合实战Conv-BN-ReLU
11
布局与内存优化
目标=NCHW/NHWC转换 · 内存复用 · arena分配与显存优化策略
布局内存优化
12
执行提供器深入
目标=CPU · CUDA · TensorRT
执行提供器深入CPU
13
多线程与并行推理
目标=intra-op · inter-op线程设置 · 批处理与流水线并行
多线程并行推理
14
动态形状与可变输入
目标=动态轴导出 · 形状推理 · 动态batch与序列长度处理
动态形状可变输入
15
自定义算子与扩展
目标=ONNX Runtime自定义… · PyOp · 贡献算子与版本管理
自定义算子扩展
16
模型图修改实战
目标=使用ONNX GraphSur… · onnx.helper进行节点增删改…
模型图修改实战ONNX
17
性能剖析工具
目标=ONNX Runtime pr… · Chrome tracing · 算子耗时分析与瓶颈定位
性能剖析工具ONNX
18
端到端案例一
目标=图像分类模型导出 · 优化 · 量化与ONNX Runtime部署
端到端案例一目标=图像分类模…
19
端到端案例二
目标=目标检测模型导出 · 动态batch优化与TensorRT…
端到端案例二目标=目标检测模…
20
端到端案例三
目标=NLP模型导出 · 动态序列长度处理与量化部署
端到端案例三NLP
21
常见导出错误与解决
目标=不支持的算子 · 类型不匹配 · 形状错误与版本冲突
常见导出错误解决
22
常见优化问题与解决
目标=融合失败 · 量化精度下降 · 内存溢出与推理速度不达标
常见优化问题解决
23
跨平台部署
目标=Windows · Linux · Android
跨平台部署Windows
24
模型版本管理与CI/CD
目标=ONNX模型仓库 · 自动化测试 · 回归验证与持续集成
CI/CD模型版本管理
25
高级图优化技术
目标=图分区 · 子图重写 · 循环优化与条件分支处理
高级图优化技术目标=图分区
26
混合精度与FP16
目标=FP16导出 · 混合精度推理 · 精度与速度权衡
FP16混合精度
27
ONNX Runtime训练与微调
目标=ORT训练API · 梯度图导出与分布式训练简介
ONNXRuntime
28
综合项目实战
目标=从模型训练到ONNX导出 · 图优化 · 量化
综合项目实战ONNX
29
课程总结与进阶路线
目标=核心知识点回顾 · 最佳实践 · 社区资源与后续学习方向
课程总结进阶路线
30
综合考核与答疑
目标=实战任务评审 · 常见问题集中解答与项目经验分享
综合考核答疑