VIP20
本课程属于：007-ONNX模型转换与算子兼容 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX Runtime模型转换与部署全流程实践指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · ONNX Runtime在AI部署中…
课程导入学习目标
02
ONNX与ONNX Runtime基础
ONNX格式设计 · 模型文件结构 · ONNX Runtime核心组件与执…
ONNXRuntime
03
环境搭建与工具链准备
安装ONNX Runtime · Python/C++环境配置 · 常用辅助工具（Netron
环境搭建工具链准备
04
模型转换基础
从PyTorch导出ONNX（tor… · 从TensorFlow/Keras转… · 从其他框架转换
模型转换基础PyTorch
05
ONNX模型检查与调试
使用onnx.checker · onnx.shape_inferen… · 可视化模型结构
ONNX模型检查
06
ONNX算子兼容性分析
算子版本映射 · 自定义算子处理 · 算子缺失与降级策略
ONNX算子兼容性分析
07
动态轴与动态形状处理
设置动态输入维度 · 动态batch · 动态序列长度
动态轴动态形状处理
08
ONNX模型优化入门
图优化 · 常量折叠 · 冗余节点消除
ONNX模型优化入门
09
ONNX Runtime推理API详解
Python InferenceSe… · C++ Ort::Session · 输入输出绑定与内存管理
ONNXRuntime
10
ONNX Runtime配置与调优
线程数设置 · 执行模式（顺序/并行） · 图优化级别
ONNXRuntime
11
CPU部署实战
使用ONNX Runtime在CPU… · 性能评估与优化
CPU部署实战
12
GPU部署实战
CUDA/ TensorRT执行提供… · GPU推理配置 · 性能对比与优化
GPU部署实战
13
量化与精度优化
动态量化 · 静态量化 · 量化感知训练（QAT）在ONNX R…
量化精度优化
14
模型压缩与加速
剪枝 · 蒸馏 · 低秩分解与ONNX Runtime结…
模型压缩加速
15
多语言部署
C++/C#/Java/JavaSc… · 跨平台部署要点
多语言部署C++/C#/Java/…
16
边缘设备部署
在树莓派 · Jetson · 移动端（Android/iOS）上使…
边缘设备部署树莓派
17
服务化部署
使用ONNX Runtime构建RE… · 容器化（Docker）与Kubern…
服务化部署ONNX
18
性能基准测试与调优方法
使用onnxruntime benc… · 分析瓶颈 · 内存与延迟优化
性能基准测试调优方法
19
常见问题与解决方案
模型转换失败 · 推理结果不一致 · 内存泄漏
常见问题解决方案
20
ONNX Runtime扩展
自定义算子实现（C++/CUDA） · 自定义执行提供程序 · 集成第三方库
ONNXRuntime
21
与深度学习框架协同
PyTorch/TensorFlow… · 与框架推理对比
深度学习框架协同PyTorch/Tens…
22
ONNX Runtime在NLP任务中的应用
BERT等Transformer模型… · 动态序列处理 · 优化技巧
ONNXRuntime
23
ONNX Runtime在计算机视觉任务中的应用
目标检测（YOLO） · 分割（UNet）模型转换与部署
ONNXRuntime
24
ONNX Runtime在语音与音频任务中的应用
语音识别 · 语音合成模型转换与实时推理
ONNXRuntime
25
ONNX Runtime在推荐系统中的应用
稀疏特征处理 · 模型转换与在线推理
ONNXRuntime
26
模型版本管理与持续集成
ONNX模型版本控制 · 自动化测试 · CI/CD集成部署流程
模型版本管理持续集成
27
安全性与隐私保护
模型加密 · 混淆 · 安全推理环境
安全性隐私保护
28
综合实战项目一
从PyTorch训练到ONNX部署的…
综合实战项目一PyTorch
29
综合实战项目二
多模型集成部署（检测+跟踪+识别）使…
综合实战项目二多模型集成部署
30
课程总结与进阶路径
知识体系回顾 · 常见误区 · 学习资源推荐
课程总结进阶路径