VIP20
本课程属于：028-ONNX模型部署与推理优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX模型性能分析调优案例

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · ONNX模型性能调优的重要性
课程导入学习目标
02
ONNX基础
ONNX格式介绍 · 模型结构解析 · 常用工具
ONNX格式介绍
03
性能分析基础
性能指标（延迟 · 吞吐量 · 内存占用）
性能分析基础性能指标
04
环境搭建
安装ONNX Runtime · 配置GPU/CPU环境 · 验证安装
环境搭建ONNX
05
模型转换与优化
从PyTorch/TensorFlo… · 使用onnx-simplifier简…
模型转换优化
06
ONNX Runtime配置
线程数 · 执行模式 · 图优化选项
ONNXRuntime
07
图优化技术
常量折叠 · 算子融合 · 冗余节点消除
图优化技术常量折叠
08
量化基础
量化原理 · 动态量化与静态量化 · 量化精度影响
量化基础量化原理
09
量化实践
使用ONNX Runtime进行IN… · 校准数据集准备
量化实践ONNX
10
剪枝与稀疏化
结构化剪枝 · 非结构化剪枝 · 稀疏推理
剪枝稀疏化
11
算子优化
常见算子性能瓶颈 · 替换为高效算子（如Conv与GEMM…
算子优化常见算子性能瓶颈
12
内存优化
内存复用 · 减少内存拷贝 · 使用arena
内存优化内存复用
13
多线程与并行
数据并行 · 模型并行 · 线程池调优
多线程并行
14
GPU优化
CUDA核心使用 · Tensor Core利用 · 批处理大小调整
GPU优化
15
CPU优化
指令集（AVX · SSE） · 缓存优化
CPU优化
16
性能分析实战
使用ONNX Runtime Pro…
性能分析实战ONNX
17
案例一
图像分类模型（ResNet）性能调优
案例一ResNet
18
案例二
目标检测模型（YOLO）性能调优
案例二YOLO
19
案例三
自然语言处理模型（BERT）性能调优
案例三BERT
20
案例四
语音识别模型性能调优
案例四语音识别模型性能…
21
案例五
推荐系统模型性能调优
案例五推荐系统模型性能…
22
常见问题与解决
精度下降 · 推理错误 · 性能提升不明显
常见问题解决
23
性能调优策略总结
调优流程 · 优先级 · 权衡
性能调优策略总结调优流程
24
自动化调优工具
AutoML · Optuna · ONNX Runtime自动优化
自动化调优工具AutoML
25
模型部署与性能监控
部署到云端/边缘 · 监控性能指标
模型部署性能监控
26
与深度学习框架集成
在PyTorch/TensorFlo…
深度学习框架集成PyTorch/Tens…
27
高级主题
动态形状处理 · 自定义算子 · 多模型集成
高级主题动态形状处理
28
综合实战
从模型转换到性能调优的完整项目
综合实战从模型转换到性能…
29
性能对比与评估
不同优化策略的效果对比 · 基准测试
性能对比评估
30
课程总结与展望
关键点回顾 · 未来趋势 · 学习资源
课程总结关键点回顾