VIP20
本课程属于：032-Edge AI OpenVINO部署优化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

OpenVINO性能计数器解读与瓶颈定位

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · OpenVINO性能分析的价值与适用…
课程导入学习目标
02
OpenVINO基础回顾
推理流程 · 模型优化 · 设备选择对性能的影响
OpenVINO基础回顾
03
性能计数器概念
什么是性能计数器 · 常见术语（FPS · 延迟
性能计数器概念什么是性能计数器
04
性能计数器获取方法
使用benchmark_app · Python API · C++ API获取性能计数器的具体方…
性能计数器获取方…benchmark
05
性能计数器输出解读
逐字段解析latency · execute time · CPU/GPU利用率等关键指标
性能计数器输出解…latency
06
性能计数器与推理阶段映射
将计数器对应到预处理 · 推理 · 后处理等阶段
性能计数器推理阶段映射
07
瓶颈定位方法论
从计数器数据出发 · 系统化定位瓶颈的流程与决策树
瓶颈定位方法论从计数器数据出发
08
CPU推理瓶颈分析
CPU利用率 · 线程数 · NUMA
CPU推理瓶颈分析
09
GPU推理瓶颈分析
GPU利用率 · 占用率 · 内存带宽
GPU推理瓶颈分析
10
集成显卡与独立显卡对比
不同设备上计数器差异及瓶颈特征
集成显卡独立显卡对比
11
VPU/其他硬件加速器瓶颈
针对Intel Movidius · NPU等设备的计数器解读
VPU其他硬件加速器瓶…
12
模型结构对性能的影响
层类型 · 算子融合 · 动态形状在计数器中的体现
模型结构对性能的…层类型
13
输入预处理瓶颈
数据加载 · 图像解码 · 归一化等环节的计数器分析
输入预处理瓶颈数据加载
14
批处理与吞吐量优化
通过计数器调整batch size · 并发数来提升吞吐量
批处理吞吐量优化
15
延迟优化技巧
从计数器识别延迟瓶颈 · 并应用异步推理 · 多请求等策略
延迟优化技巧从计数器识别延迟…
16
多设备与异构执行
使用HETERO · MULTI插件时计数器如何反映设备负…
多设备异构执行
17
性能计数器与Profiling工具结合
使用VTune · Intel Advisor等工具交叉…
Profiling性能计数器
18
案例实战
图像分类模型在CPU上的计数器解读与…
案例实战CPU
19
案例实战
目标检测模型在GPU上的计数器分析与…
案例实战GPU
20
案例实战
语义分割模型在集成显卡上的性能调优
案例实战语义分割模型
21
案例实战
NLP模型（BERT）在OpenVI…
案例实战NLP
22
案例实战
视频流处理场景下多路推理的瓶颈定位
案例实战视频流处理场景下…
23
常见问题
计数器显示高利用率但FPS低的原因排…
常见问题FPS
24
常见问题
延迟波动大 · 如何通过计数器定位抖动来源
常见问题延迟波动大
25
常见问题
多线程设置不当导致的性能下降及计数器…
常见问题多线程设置不当导…
26
常见问题
模型转换后性能变差 · 如何用计数器对比原始框架
常见问题模型转换后性能变…
27
性能调优综合流程
从获取计数器到实施优化再到验证的完整…
性能调优综合流程从获取计数器到实…
28
自动化性能分析
编写脚本批量获取计数器并生成报告
自动化性能分析编写脚本批量获取…
29
性能计数器最佳实践
如何设置实验 · 记录数据 · 避免常见误区
性能计数器最佳实…如何设置实验
30
课程总结与进阶路径
回顾核心要点 · 推荐深入学习资源与实战项目
课程总结进阶路径