VIP20

本课程属于：032-Edge AI OpenVINO部署优化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

OpenVINO AUTO设备选择与性能对比指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · AUTO设备选择在OpenVINO中…

课程导入学习目标

OpenVINO基础回顾

推理引擎架构 · Core API · 模型编译与推理流程

OpenVINO基础回顾

设备类型详解

CPU · GPU · NPU

设备类型详解CPU

AUTO模式核心概念

什么是AUTO设备选择 · 自动调度原理 · 设备优先级与回退机制

AUTO模式核心概念

AUTO模式工作流程

从模型加载到推理执行的完整流程 · 设备选择决策如何发生

AUTO模式工作流程

AUTO模式与手动设备指定对比

性能 · 易用性 · 资源利用率

性能评估指标

吞吐量 · 延迟 · 功耗

性能评估指标吞吐量

性能基准测试方法

使用benchmark_app工具进…

性能基准测试方法benchmark

AUTO模式性能调优

通过配置设备列表 · 优先级 · 缓存等参数优化推理性能

AUTO模式性能调优

AUTO模式在异构场景下的表现

多设备协同 · 负载均衡与动态切换策略

AUTO模式与HETERO模式对比

适用场景 · 性能差异 · 配置复杂度与选择建议

AUTO模式与MULTI模式对比

并行执行 · 设备分组 · 故障转移机制的区别

AUTO模式在CPU+GPU组合下的实战

配置示例 · 性能测试与结果分析

AUTO模式在CPU+NPU组合下的实战

NPU特性 · 集成步骤与性能对比

AUTO模式在集成显卡与独立显卡间的选择

驱动影响 · 显存限制与性能权衡

AUTO模式在边缘设备上的应用

资源受限环境下的设备选择策略与优化技…

AUTO模式在云服务器上的应用

多租户 · 虚拟化环境下的设备调度与性能隔离

AUTO模式与模型优化结合

量化 · 剪枝 · 蒸馏等优化对AUTO选择的影响

AUTO模式与动态输入形状

动态shape下的设备选择与性能表现

AUTO模式与多线程/异步推理

并发场景下的设备调度与性能提升方法

AUTO模式常见问题排查

设备不可用 · 性能下降 · 日志分析

AUTO模式常见问题排查

AUTO模式性能瓶颈分析

如何定位设备利用率低 · 传输开销大等问题

AUTO模式性能瓶颈分析

AUTO模式配置参数详解

device_priority · device_list · perf_hint等参数的使用与效果

AUTO模式配置参数详解

AUTO模式与OpenVINO插件扩展

自定义设备插件如何接入AUTO调度

AUTO模式在真实项目中的案例

图像分类 · 目标检测 · 分割等任务的设备选择实践

AUTO模式在自然语言处理模型中的性能对比

Transformer模型在不同设备…

AUTO模式在生成式AI模型中的性能对比

Stable Diffusion等模…

AUTO模式性能对比报告撰写

如何设计实验 · 收集数据 · 可视化结果并得出结论

AUTO模式性能对比报告…

AUTO模式最佳实践总结

设备选择策略 · 配置建议 · 性能优化清单与常见陷阱

AUTO模式最佳实践总结

综合实战项目

从零构建一个使用AUTO模式的推理应… · 完成多设备性能对比并输出优化方案

综合实战项目AUTO