VIP20

本课程属于：026-ONNX模型转换与边缘推理兼容性 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

1. ONNX模型转换入门：PyTorch模型导出到边缘部署

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程适用人群 · ONNX在边缘部署中的价值与整体学习…

课程导入学习目标

ONNX基础概念

ONNX是什么 · 模型格式结构（graph · node

ONNX基础概念

安装PyTorch · ONNX · onnxruntime

环境准备PyTorch

PyTorch模型导出基础

使用torch.onnx.expor… · 小型CNN） · 理解参数含义

PyTorch模型导出基础

导出参数详解

input_names · output_names · dynamic_axes

导出参数详解input

动态轴与动态输入

处理可变batch size · 可变序列长度 · 配置dynamic_axes实现动态…

动态轴动态输入

模型检查与验证

使用onnx.checker检查模型… · 使用onnxruntime对比PyT…

模型检查验证

常见导出错误与解决

处理不支持的操作 · 类型不匹配 · 维度推断失败等典型问题

常见导出错误解决

自定义算子导出

当模型包含自定义层时 · 如何注册自定义符号函数（symbol…

自定义算子导出当模型包含自定义…

模型简化与优化

使用onnx-simplifier · onnxoptimizer进行图优化 · 常量折叠

模型简化优化

为什么量化对边缘部署重要 · ONNX动态量化与静态量化的概念与区…

量化基础为什么量化对边缘…

PyTorch模型量化导出

使用torch.quantizati… · 或使用onnxruntime量化工具

PyTorch模型量化导出

剪枝与稀疏化

在PyTorch中剪枝后导出ONNX · 以及ONNX稀疏模型的表示与优化

剪枝稀疏化

边缘设备适配

了解常见边缘设备（Jetson · Raspberry Pi · 手机NPU）对ONNX的支持与限制

边缘设备适配Jetson

ONNX Runtime部署

使用onnxruntime在CPU/… · 设置session选项

ONNX Runtime执行提供程序

配置CUDA · TensorRT · OpenVINO等EP

模型转换流程实战

从PyTorch训练好的ResNet… · 并完成验证与优化

模型转换流程实战PyTorch

YOLOv5目标检测模型导出ONNX · 处理NMS等特殊层 · 并部署到边缘设备

案例实战YOLOv5

Transformer/BERT模型… · 处理动态序列长度与注意力掩码

案例实战Transformer/…

语音识别模型（如Wav2Vec2）导… · 处理音频特征与时间维度

案例实战Wav2Vec2

图像分类模型（MobileNet）导… · 并部署到树莓派进行实时推理

案例实战MobileNet

分析ONNX模型推理瓶颈 · 使用profiling工具 · 优化图结构与内存占用

性能调优ONNX

对比PyTorch与ONNX Run… · 分析误差来源 · 调整导出参数或优化方法

精度调优PyTorch

多平台部署

将ONNX转换为TensorRT · CoreML · TFLite等格式

多平台部署ONNX

ONNX模型安全与加密

模型加密 · 混淆 · 权限控制

ONNX模型安全

版本兼容性

PyTorch · ONNX · ONNX Runtime版本对应关系

版本兼容性PyTorch

使用onnxruntime的日志 · 可视化工具（Netron）分析模型结… · 定位问题

调试技巧onnxruntime

自动化流水线

编写脚本实现训练→导出→优化→验证→… · 集成CI/CD

自动化流水线编写脚本实现训练…

常见问题汇总

导出失败 · 推理速度慢 · 精度下降

常见问题汇总导出失败

综合项目实战

从零完成一个PyTorch模型（如语… · 优化并部署到边缘设备 · 输出完整报告

综合项目实战PyTorch