VIP20

本课程属于：030-Intel Edge AI与OpenVINO部署优化 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

5. OpenVINO POT量化：校准数据和精度控制方法

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

神经网络量化原理 · 定点与浮点表示 · 对称与非对称量化

量化基础神经网络量化原理

POT工具概述

POT工具功能 · 支持模型格式 · 安装与版本

POT工具概述

校准数据准备

校准数据集的作用 · 选择原则 · 数量要求

校准数据准备校准数据集的作用

默认量化流程

使用POT进行8位量化的标准步骤 · 配置文件编写 · 运行命令与输出产物

默认量化流程POT

量化配置详解

配置文件关键字段 · 精度等级 · 量化算法选择

量化配置详解配置文件关键字段

校准数据加载器

实现自定义DataLoader · 处理图像/文本/其他数据 · 批大小与迭代次数设置

校准数据加载器DataLoader

精度控制指标

评估指标选择（Accuracy · F1 · mAP等）

精度控制指标Accuracy

精度验证流程

量化前后模型精度对比 · 使用AccuracyChecker工… · 结果分析与报告生成

精度验证流程量化前后模型精度…

量化算法进阶

MinMax · Percentile · MSE等算法原理

量化算法进阶MinMax

混合精度量化

层敏感度分析 · 自动混合精度 · 手动指定精度

混合精度量化层敏感度分析

范围与裁剪

激活值范围计算 · 裁剪方法（Clipping） · 影响精度的关键因素

模型转换与优化

从TensorFlow/PyTorc… · 预处理融合 · 布局转换

模型转换优化

实战案例一

图像分类模型量化（如ResNet-5… · 量化 · 精度验证

实战案例一ResNet-5

实战案例二

目标检测模型量化（如YOLO）——处… · 置信度阈值 · mAP评估

实战案例二YOLO

实战案例三

语义分割模型量化（如UNet）——像… · IoU指标 · 边界效果

实战案例三UNet

实战案例四

NLP模型量化（如BERT）——动态… · 注意力层敏感性 · 精度恢复

实战案例四NLP

精度下降诊断

常见精度损失原因 · 定位敏感层 · 可视化激活分布

精度下降诊断常见精度损失原因

精度恢复策略

部分层回退 · 量化感知训练（QAT）结合 · 微调

精度恢复策略部分层回退

性能与精度权衡

不同量化配置下的性能测试 · 延迟与吞吐量 · 选择最佳平衡点

性能精度权衡

POT与NNCF集成

NNCF简介 · POT与NNCF关系 · 何时使用NNCF进行量化感知训练

自动化调优

使用POT的自动压缩模式 · 搜索最佳量化参数 · 贝叶斯优化

自动化调优POT

部署与集成

量化模型导出 · 在OpenVINO Runtime中… · 推理示例

常见问题与解决

校准数据过拟合 · 内存不足 · 量化后输出NaN

常见问题解决

最佳实践总结

项目流程 · 数据管理 · 实验记录

最佳实践总结项目流程

量化感知训练（QAT）与POT结合 · 稀疏性 · 剪枝与量化联合优化

高级主题QAT

工具链扩展

自定义指标 · 自定义量化算法 · 扩展POT插件

工具链扩展自定义指标

从真实项目中总结量化经验 · 失败案例剖析 · 成功要素

案例复盘从真实项目

端到端项目——从原始模型到量化部署 · 包含数据准备 · 量化

综合实战端到端项目

课程总结与展望

核心要点回顾 · 学习路径建议 · OpenVINO量化未来趋势

课程总结核心要点回顾