VIP20
本课程属于：009-TinyML量化感知训练QAT 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

QAT训练数据增强与校准分布对齐教程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 核心概念 · 整体框架
课程导入学习目标
02
量化基础回顾
量化原理 · 对称/非对称量化 · 量化参数（scale/zero-po…
量化基础回顾量化原理
03
QAT基础
量化感知训练的定义 · 与PTQ的区别 · 伪量化节点（fake quant）的…
QAT量化感知训练的定…
04
校准分布概念
什么是校准分布 · 为何需要校准 · 校准集的选择原则
校准分布概念什么是校准分布
05
数据增强基础
常见数据增强方法（翻转 · 裁剪 · 颜色抖动
数据增强基础常见数据增强方法
06
QAT中的数据增强特殊性
增强策略对量化误差的影响 · 增强强度与量化鲁棒性的关系
QAT数据增强特殊性
07
校准分布对齐问题
训练分布与校准分布不一致的原因 · 后果（量化误差增大 · 精度下降）
校准分布对齐问题训练分布
08
分布对齐的核心思想
如何通过数据增强使训练分布覆盖校准分… · 对齐策略概览
分布对齐的核心思…如何通过数据增强…
09
数据增强策略设计
针对QAT的增强策略设计原则 · 增强参数选择 · 随机性与确定性增强
数据增强策略设计QAT
10
增强强度与量化敏感度
不同层对增强的敏感度分析 · 如何调整增强强度以保持量化友好
增强强度量化敏感度
11
校准集构建方法
从训练集/验证集构建校准集 · 采样策略（随机 · 多样性
校准集构建方法从训练集
12
校准分布统计
统计校准集的特征分布（均值 · 方差 · 激活分布）
校准分布统计统计校准集的特征…
13
分布差异度量
KL散度 · JS散度 · 最大均值差异（MMD）等度量方法
分布差异度量KL
14
数据增强与校准对齐的联合优化
在训练过程中动态调整增强策略以最小化…
数据增强校准对齐的联合优…
15
基于生成模型的校准数据增强
使用GAN或扩散模型生成与校准分布相…
基于生成模型的校…GAN
16
基于搜索的增强策略
AutoAugment · RandAugment等自动增强方法…
基于搜索的增强策…AutoAugment
17
基于正则化的对齐方法
在损失函数中加入分布对齐正则项 · 约束训练分布接近校准分布
基于正则化的对齐…损失函数
18
基于批归一化统计的对齐
利用BN统计量调整增强数据 · 使激活分布与校准分布对齐
基于批归一化统计…BN
19
实战案例1
图像分类任务中的QAT数据增强与校准…
实战案例1QAT
20
实战案例2
目标检测任务中的QAT数据增强与校准…
实战案例2QAT
21
实战案例3
语义分割任务中的QAT数据增强与校准…
实战案例3QAT
22
实战案例4
自然语言处理任务中的QAT数据增强与…
实战案例4QAT
23
工具与框架实践
PyTorch · TensorFlow · ONNX Runtime等工具中实现…
工具框架实践
24
评估与验证
如何评估对齐效果 · 量化模型精度 · 消融实验设计
评估验证
25
常见问题与调试
增强过强导致训练不稳定 · 校准集过小 · 分布偏移等问题的排查与解决
常见问题调试
26
高级技巧
混合精度增强 · 课程式增强 · 自适应增强强度调整
高级技巧混合精度增强
27
与知识蒸馏结合
利用教师模型指导QAT训练 · 同时进行数据增强与分布对齐
知识蒸馏结合QAT
28
与剪枝等其他压缩技术结合
联合优化数据增强与校准对齐 · 提升整体压缩效果
剪枝等其他压缩技…联合优化数据增强
29
综合项目实战
从零构建一个完整的QAT训练流程 · 包含数据增强与校准对齐 · 并部署到推理引擎
综合项目实战QAT
30
课程总结与进阶方向
回顾核心要点 · 常见误区 · 未来研究方向（如动态量化
课程总结进阶方向