VIP20
本课程属于：028-ONNX模型部署与推理优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX模型动态形状处理避坑指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 动态形状处理的重要性 · 整体内容框架
课程导入学习目标
02
ONNX基础回顾
ONNX格式 · 计算图 · 节点与张量
ONNX基础回顾
03
动态形状的常见场景
自然语言处理中的变长输入 · 目标检测中的动态批量大小 · 语音识别中的可变长度音频
动态形状的常见场…自然语言处理
04
ONNX动态形状表示
动态维度符号（如batch · seq） · symbolic shape inf…
ONNX动态形状表示
05
动态形状与静态形状的转换
使用onnx.shape_infer… · 动态轴与静态轴的转换方法
动态形状静态形状的转换
06
动态形状处理工具
onnxruntime的dynami… · onnx.helper创建动态维度 · onnxoptimizer优化动态形…
动态形状处理工具onnxruntime
07
动态形状的常见错误
维度不匹配 · 形状推断失败 · 算子不支持动态形状
动态形状的常见错…维度不匹配
08
动态形状的调试技巧
使用onnxruntime的日志 · 可视化计算图 · 逐步检查中间张量形状
动态形状的调试技…onnxruntime
09
动态形状的性能优化
动态形状对推理性能的影响 · 使用固定形状的折中方案 · 动态批处理优化
动态形状的性能优…动态形状对推理性…
10
动态形状与量化
量化模型中的动态形状处理 · 动态量化与静态量化的区别
动态形状量化
11
动态形状与图优化
图优化对动态形状的影响 · 如何保留动态形状信息
动态形状图优化
12
动态形状与自定义算子
自定义算子中处理动态形状 · 注册动态形状的元数据
动态形状自定义算子
13
动态形状与转换工具
从PyTorch导出动态形状模型 · 从TensorFlow导出动态形状模… · 使用onnx-tensorflow转…
动态形状转换工具
14
动态形状与推理引擎
ONNX Runtime的dynam… · TensorRT的dynamic s… · OpenVINO的动态形状处理
动态形状推理引擎
15
动态形状与部署
云服务中的动态形状 · 边缘设备上的动态形状限制 · 模型服务中的动态批处理
动态形状部署
16
案例实战
处理一个NLP模型的动态序列长度（如…
案例实战NLP
17
案例实战
处理一个目标检测模型的动态批量大小（…
案例实战处理一个目标检测…
18
案例实战
处理一个语音识别模型的动态时间维度（…
案例实战处理一个语音识别…
19
案例实战
处理一个多输入动态形状模型（如视觉-…
案例实战处理一个多输入动…
20
常见问题与解决方案
动态形状导致推理失败 · 动态形状导致性能下降 · 动态形状与内存管理
常见问题解决方案
21
动态形状的测试策略
单元测试 · 集成测试 · 压力测试
动态形状的测试策…单元测试
22
动态形状的版本兼容性
不同ONNX版本对动态形状的支持 · 不同runtime的兼容性
动态形状的版本兼…ONNX
23
动态形状与模型压缩
剪枝 · 蒸馏对动态形状的影响
动态形状模型压缩
24
动态形状与模型并行
数据并行中的动态形状 · 模型并行中的动态形状
动态形状模型并行
25
动态形状与自动调优
使用AutoML优化动态形状模型 · 动态形状的自动搜索
动态形状自动调优
26
动态形状与安全
动态形状输入验证 · 防止恶意输入导致资源耗尽
动态形状安全
27
动态形状与可解释性
动态形状对模型解释的影响 · 可视化动态形状变化
动态形状可解释性
28
综合项目
构建一个支持动态形状的完整推理服务
综合项目构建一个支持动态…
29
课程总结
关键要点回顾 · 最佳实践 · 常见陷阱总结
课程总结关键要点回顾
30
进阶学习
动态形状相关论文 · 开源项目 · 社区资源推荐
进阶学习动态形状相关论文