VIP20

本课程属于：032-Edge AI OpenVINO部署优化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

OpenVINO图优化pass对推理速度影响分析

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · OpenVINO整体架构与推理流程概…

课程导入学习目标

模型格式 · IR表示 · 推理引擎工作流程

OpenVINO模型格式

图优化pass概念

什么是图优化pass · pass的类型（如融合 · 消除

图优化pass的作用

减少算子数量 · 降低内存访问 · 提升算子效率

常见图优化pass分类

常量折叠 · 算子融合 · 死代码消除

pass常见图优化

算子融合pass详解

Conv+BN融合 · Conv+ReLU融合 · MatMul+Add融合等典型融合模…

pass算子融合

布局优化pass

NCHW与NHWC转换 · 通道重排 · 内存布局对推理速度的影响

pass布局优化

精度优化pass

FP32转FP16/INT8 · 混合精度策略 · 量化感知训练与后训练量化

pass精度优化

常量折叠pass

静态常量计算提前 · 减少运行时计算 · 对推理延迟的改善

pass常量折叠

死代码消除pass

移除无用节点 · 减少计算图规模 · 降低内存占用

pass死代码消除

图优化pass的调度机制

pass执行顺序 · 依赖关系 · 迭代优化策略

OpenVINO中pass的实现框架

使用ngraph/ov::pass · pass管理器 · 注册与执行流程

自定义pass开发入门

编写一个简单的pass · 注册到pass管理器 · 测试效果

pass对推理速度的影响评估方法

基准测试 · 性能分析工具（如benchmark_… · profiling）

pass对推理速度的影响…

性能分析工具使用

使用OpenVINO benchma… · 使用vtune/perf进行细粒度分…

性能分析工具使用OpenVINO

基于ResNet50的图优化pass… · 对比优化前后推理速度

案例实战ResNet50

基于YOLOv5的图优化pass分析 · 检测模型优化策略与速度提升

案例实战YOLOv5

基于Transformer/BERT… · 注意力机制相关优化

案例实战Transformer/…

pass优化后精度下降的原因与解决方…

常见问题pass

pass优化导致推理速度变慢的排查思… · 缓存失效）

常见问题pass

不同硬件（CPU/GPU/VPU）上…

常见问题CPU/GPU/VPU

动态形状处理 · 多输入/多输出场景下的pass优化

高级优化动态形状处理

与推理引擎其他优化（如内存池 · 线程调度）的协同

高级优化推理引擎其他优化

图优化pass与模型剪枝 · 蒸馏等压缩技术的结合

高级优化pass

从ONNX模型到OpenVINO I… · 应用多个pass并系统评估推理速度

综合实战ONNX

针对自定义模型设计一套pass优化方… · 并量化速度提升

综合实战pass

在边缘设备上部署优化后的模型 · 分析实际推理速度与资源占用

综合实战边缘设备上部署优…

性能调优方法论

如何系统性地分析推理瓶颈 · 选择合适pass · 迭代优化

性能调优方法论如何系统性地分析…

OpenVINO新版本中pass优化… · 与AI加速器适配 · 自动化调优工具

前沿趋势OpenVINO

核心要点回顾 · 学习路径建议 · 实践项目推荐与进一步学习资源

课程总结核心要点回顾