首页
›
工业控制与工业互联网
›
032-Edge AI OpenVINO部署优化
›
《OpenVINO Runtime API调用与模型加载实战》
VIP20
本课程属于:032-Edge AI OpenVINO部署优化
工业控制与工业互联网 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
OpenVINO Runtime API调用与模型加载实战
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · OpenVINO工具套件整体架构与R…
课程导入
学习目标
02
环境搭建
安装OpenVINO Runtime · 配置Python/C++开发环境 · 验证安装与版本信息
环境搭建
OpenVINO
03
核心概念
模型 · 设备 · 推理请求
核心概念
模型
04
模型文件格式
了解OpenVINO IR格式(.x… · ONNX · TensorFlow
模型文件格式
OpenVINO
05
模型转换工具
使用Model Optimizer或… · 并处理自定义算子
模型转换工具
Model
06
Core对象初始化
创建ov::Core实例 · 查询可用设备 · 设置全局属性
Core
对象初始化
07
读取模型
使用core.read_model(… · 处理模型路径与错误
读取模型
core.read
08
模型信息查看
获取输入输出名称 · 形状 · 数据类型
模型信息查看
获取输入输出名称
09
设备选择与配置
指定CPU · GPU · NPU等设备
设备选择
配置
10
编译模型
使用core.compile_mod… · 理解编译过程与缓存机制
编译模型
core.compile
11
创建推理请求
使用compiled_model.c… · 理解同步与异步模式
创建推理请求
compiled
12
张量操作
创建输入张量 · 填充数据 · 获取输出张量
张量操作
创建输入张量
13
同步推理
使用infer()方法执行同步推理 · 获取结果并解析输出
同步推理
infer
14
异步推理
使用start_async()和wa… · 理解回调函数与事件管理
异步推理
start
15
多输入多输出模型
处理多输入张量 · 多输出张量 · 正确设置数据映射
多输入多输出模型
处理多输入张量
16
动态形状处理
设置动态输入形状 · 使用reshape方法 · 处理可变尺寸输入
动态形状处理
设置动态输入形状
17
预处理与后处理
使用PrePostProcessor… · 颜色转换 · 布局调整
预处理
后处理
18
性能优化基础
设置性能提示(LATENCY/THR… · 使用CPU线程数 · GPU流数等参数
性能优化基础
LATENCY/THR
19
性能测量
使用benchmark_app工具或… · 评估延迟和吞吐量 · 分析瓶颈
性能测量
benchmark
20
模型缓存
启用模型缓存(cache_dir)加… · 处理缓存失效场景
模型缓存
cache
21
错误处理与调试
捕获异常 · 查看日志 · 使用OV运行时诊断工具定位问题
错误处理
调试
22
案例实战
图像分类模型(如ResNet)的加载 · 预处理 · 推理与结果可视化
案例实战
ResNet
23
案例实战
目标检测模型(如YOLO)的加载 · 输出解析(边界框 · 置信度)与后处理
案例实战
YOLO
24
案例实战
语义分割模型(如UNet)的加载 · 输出掩码处理与可视化
案例实战
UNet
25
案例实战
自然语言处理模型(如BERT)的加载 · tokenization与推理流程
案例实战
BERT
26
常见问题
模型加载失败 · 设备不支持 · 形状不匹配
常见问题
模型加载失败
27
高级特性
使用Auto-Plugin自动选择设… · 使用Hetero插件异构执行 · 使用Multi-Plugin多设备并…
高级特性
Auto-Plugin
28
与OpenCV集成
结合OpenCV进行图像读取 · 显示 · 视频流处理
OpenCV
集成
29
综合项目
构建一个实时推理应用(如摄像头目标检… · 整合模型加载 · 推理
综合项目
构建一个实时推理…
30
课程总结与进阶
回顾核心知识点 · 推荐学习资源 · 探讨OpenVINO在边缘AI与生成…
课程总结
进阶
所属VIP或分类
同VIP:OpenVINO-AUTO设备选择与性能对比指南
同VIP:OpenVINO-CPUVPU混合部署架构设计课程
同VIP:OpenVINO-CPU推理线程数与NUMA调优教程