VIP20
本课程属于：030-Intel Edge AI与OpenVINO部署优化 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

4. OpenVINO模型优化：FP16、INT8与性能提示配置

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
OpenVINO基础回顾
模型优化器（Model Optimi… · 支持格式与工作流程
OpenVINO基础回顾
03
模型精度与性能权衡
FP32 · FP16 · INT8的数值表示
模型精度性能权衡
04
FP16优化原理
半精度浮点数的特点 · 硬件支持（CPU/GPU/VPU） · 适用场景与限制
FP16优化原理
05
FP16转换实战
使用Model Optimizer或… · 并验证输出精度与性能
FP16转换实战
06
INT8量化基础
量化原理 · 对称/非对称量化 · 校准数据集（Calibration…
INT8量化基础
07
INT8量化方法
Post-Training Quan…
INT8量化方法
08
OpenVINO PTQ实战
使用Neural Network C…
OpenVINOPTQ
09
校准数据集构建
如何选择代表性样本 · 样本数量 · 预处理对齐
校准数据集构建如何选择代表性样…
10
INT8精度评估
使用Accuracy Checker… · 分析误差来源
INT8精度评估
11
性能基准测试
使用benchmark_app工具测… · 对比FP32/FP16/INT8
性能基准测试benchmark
12
性能提示配置
OpenVINO推理配置项（CPU线… · Streams · 亲和性
性能提示配置OpenVINO
13
CPU性能优化
CPU扩展（CPU Extensio… · 指令集（AVX2/AVX512） · 多线程与批处理策略
CPU性能优化
14
GPU性能优化
GPU插件配置 · 模型缓存 · 输入输出布局优化
GPU性能优化
15
VPU/边缘设备优化
针对Movidius/Myriad… · 功耗与性能平衡
VPU边缘设备优化
16
模型图优化
OpenVINO的图变换（Graph… · 常量折叠 · 层融合
模型图优化OpenVINO
17
动态形状与静态形状
动态输入对性能的影响 · 如何设置静态形状或优化动态形状
动态形状静态形状
18
模型缓存与预编译
使用缓存目录（Cache Dir）减… · 预编译（Precompiled）模型…
模型缓存预编译
19
异步推理与流水线
Async API · 多请求并行 · 推理与预处理重叠
异步推理流水线
20
预处理优化
将预处理（归一化 · 颜色转换）集成到模型中 · 减少运行时开销
预处理优化将预处理
21
常见精度问题排查
量化后精度下降的常见原因（分布偏移 · 异常值 · 层敏感度）及解决方案
常见精度问题排查量化后精度下降的…
22
混合精度策略
部分层保持FP32 · 部分层INT8 · 使用NNCF的混合量化
混合精度策略FP32
23
案例实战一
图像分类模型（如ResNet50）的…
案例实战一ResNet50
24
案例实战二
目标检测模型（如YOLOv5）的IN…
案例实战二YOLOv5
25
案例实战三
语义分割模型（如UNet）的优化与内…
案例实战三UNet
26
性能分析工具
使用OpenVINO Profile… · Intel VTune · Perfetto定位瓶颈
性能分析工具OpenVINO
27
部署环境考量
不同硬件（CPU/GPU/VPU）上… · 模型版本管理
部署环境考量CPU/GPU/VPU
28
与深度学习框架集成
从PyTorch/TensorFlo…
深度学习框架集成PyTorch/Tens…
29
综合实战项目
从给定模型出发 · 完成FP16/INT8优化 · 性能测试
综合实战项目从给定模型出发
30
课程总结与进阶
常见误区 · 最佳实践 · 学习资源
课程总结进阶