VIP20

本课程属于：032-Edge AI OpenVINO部署优化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

OpenVINO POT量化校准与精度恢复教程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

深度学习模型量化基础

量化原理 · 定点与浮点表示 · 对称与非对称量化

深度学习模型量化…量化原理

OpenVINO模型优化与IR格式

从TensorFlow/PyTorc… · 模型优化器使用

POT工具概述

POT工具功能 · 支持硬件 · 量化方法（PTQ与QAT）

POT工具概述

环境搭建与依赖安装

安装OpenVINO · 配置POT环境 · 验证安装

环境搭建依赖安装

准备校准数据集

数据集格式要求 · 数据预处理 · 数据加载器实现

准备校准数据集数据集格式要求

默认量化算法（Default Quantization）

算法原理 · 参数配置 · 执行流程

DefaultQuantization

精度感知量化（Accuracy-Aware Quantization）

算法原理 · 迭代优化流程 · 与默认量化的区别

Accuracy-Awa…Quantization

校准与量化参数配置

配置文件详解（model · engine · quantization

校准量化参数配置

POT命令行工具实战

使用pot命令进行量化 · 参数解析 · 日志输出

POT命令行工具实战

POT Python API实战

编写Python脚本调用POT · 自定义数据加载器 · 集成到现有推理流程

量化模型性能评估

使用OpenVINO Benchma… · 对比原始模型与量化模型性能

量化模型性能评估OpenVINO

精度评估与指标计算

使用Accuracy Checker… · 定义精度指标 · 评估量化前后模型精度变化

精度评估指标计算

精度下降原因分析

常见精度损失原因 · 敏感层识别 · 量化噪声影响

精度下降原因分析常见精度损失原因

精度恢复策略概览

混合精度量化 · 敏感层回退 · 量化参数微调

精度恢复策略概览混合精度量化

使用Accuracy-Aware量化恢复精度

设置精度下降阈值 · 自动搜索最优量化配置 · 实战案例

Accuracy-Awa…使用

敏感层分析与处理

基于梯度或激活的敏感层检测 · 手动指定敏感层 · 回退到原始精度

敏感层分析处理

混合精度量化实践

不同层使用不同位宽 · 配置混合精度 · 在POT中实现混合精度

混合精度量化实践不同层使用不同位…

量化模型微调（QAT）与POT结合

介绍QAT流程 · 使用NNCF进行量化感知训练 · 与POT的互补关系

处理特殊层与自定义层

常见不支持层 · 如何绕过或替换 · 自定义层扩展方法

处理特殊层自定义层

多输入/多输出模型量化

处理复杂模型结构 · 动态形状 · 多分支网络的量化注意事项

多输入多输出模型量化

Transformer与注意力模型量化

针对BERT · ViT等模型的量化技巧 · 特殊校准方法

Transformer注意力模型量化

目标检测与分割模型量化实战

以YOLO · Mask R-CNN为例 · 校准数据准备

目标检测分割模型量化实战

自然语言处理模型量化实战

以BERT为例 · 处理序列数据 · 动态输入

自然语言处理模型…BERT

量化模型在边缘设备部署

将量化模型部署到Intel CPU · GPU · VPU等硬件

量化模型边缘设备部署

常见错误与调试技巧

POT运行报错 · 数据加载问题 · 精度异常

常见错误调试技巧

自动化量化与CI/CD集成

将POT量化集成到自动化流水线 · 脚本化批量量化 · 版本管理

CI/CD自动化量化

从FP32到INT8完整流程 · 包括模型转换 · 量化

案例研究FP32

最佳实践与性能优化

量化参数调优 · 校准数据集规模影响 · 多线程与内存优化

最佳实践性能优化

课程总结与进阶方向

回顾核心知识点 · 常见误区 · 学习资源

课程总结进阶方向