VIP20
本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

PTQ量化精度损失分析与校准集修复技巧

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
PTQ量化的背景 · 课程目标 · 学习路径与适用人群
课程导入PTQ
02
量化基础
定点数表示 · 对称/非对称量化 · 量化参数（scale/zero-po…
量化基础定点数表示
03
PTQ流程概览
校准集选择 · 校准方法（MinMax/Percen… · 量化后部署流程
PTQ流程概览
04
精度损失根源分析
量化误差来源（舍入误差 · 截断误差 · 激活分布偏移
精度损失根源分析量化误差来源
05
校准集的作用与重要性
校准集如何影响量化参数估计 · 以及校准集与真实数据分布的关系
校准集的作用重要性
06
校准集常见问题
数据量不足 · 类别不均衡 · 分布偏移
校准集常见问题数据量不足
07
校准集质量评估方法
分布相似度度量（KL散度 · Wasserstein距离） · 代表性指标
校准集质量评估方…KL
08
校准集修复原则
修复目标 · 修复策略（增广 · 筛选
校准集修复原则修复目标
09
数据增广修复技巧
基于几何变换 · 颜色扰动 · Mixup/CutMix等增广方法在…
数据增广修复技巧基于几何变换
10
数据筛选与清洗
异常值检测 · 去重 · 去除低置信度样本
数据筛选清洗
11
重采样与类别平衡
针对类别不均衡的过采样/欠采样方法 · 以及如何保持分布一致性
重采样类别平衡
12
合成数据生成
利用生成模型（GAN/扩散模型）或数… · 以及其适用场景
合成数据生成GAN
13
基于损失分析的校准集迭代
通过量化前后层输出差异定位敏感层 · 针对性补充校准数据
基于损失分析的校…通过量化前后层输…
14
校准方法对比与选择
MinMax · Percentile · MSE
校准方法对比选择
15
校准集大小与批次影响
校准样本数量 · batch size对量化参数稳定性…
校准集大小批次影响
16
激活分布处理技巧
激活值截断 · 平滑 · 归一化
激活分布处理技巧激活值截断
17
权重与激活联合优化
权重范围调整 · 混合精度量化 · 敏感层保护与校准集配合
权重激活联合优化
18
量化误差诊断工具
使用TensorBoard · Per-tensor/Per-cha… · 层间余弦相似度等工具定位问题
量化误差诊断工具TensorBoard
19
案例实战1
图像分类模型（ResNet/Mobi…
案例实战1ResNet/Mobi
20
案例实战2
目标检测模型（YOLO/SSD）的校…
案例实战2YOLO/SSD
21
案例实战3
NLP模型（BERT/Transfo…
案例实战3NLP
22
常见问题1
校准集与验证集不一致导致精度下降 · 如何检测与修复
常见问题1校准集
23
常见问题2
量化后某些层输出异常（NaN/Inf… · 如何通过校准集修复
常见问题2NaN/Inf
24
常见问题3
校准集过大导致校准时间过长 · 如何高效选择代表性样本
常见问题3校准集过大导致校…
25
常见问题4
校准集修复后精度提升不明显 · 如何进一步优化（结合量化感知训练）
常见问题4校准集修复后精度…
26
自动化校准集修复框架
设计自动化pipeline · 集成数据筛选 · 增广
自动化校准集修复…pipeline
27
评估与验证体系
量化模型精度评估指标 · 鲁棒性测试 · 多数据集验证方法
评估验证体系
28
综合项目
从零构建一个PTQ校准集修复系统 · 包含数据准备 · 修复
综合项目PTQ
29
前沿与扩展
自适应校准 · 在线校准 · 量化感知训练与校准集修复的结合
前沿扩展
30
课程总结与进阶路径
核心要点回顾 · 常见误区 · 推荐工具与学习资源
课程总结进阶路径