VIP20
本课程属于：009-TinyML量化感知训练QAT 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

QAT训练学习率调度与冻结BatchNorm实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程整体框架与实战项目预览
课程导入学习目标
02
量化基础
模型量化原理 · 定点与浮点表示 · 对称与非对称量化
量化基础模型量化原理
03
量化感知训练（QAT）概述
QAT与训练后量化（PTQ）的区别 · QAT的流程与优势 · 适用场景
QAT量化感知训练
04
QAT中的伪量化节点
伪量化如何模拟量化误差 · 常见量化算子（Conv · Linear
QAT伪量化节点
05
QAT训练环境搭建
PyTorch环境配置 · 依赖库安装 · 数据集准备与模型选择
QAT训练环境搭建
06
QAT模型准备
如何将预训练模型转换为QAT模型 · 插入伪量化节点 · 配置量化配置（qconfig）
QAT模型准备
07
学习率调度基础
学习率的作用 · 常见调度策略（Step · Cosine
学习率调度基础学习率的作用
08
QAT中的学习率调度策略
为什么QAT需要特殊的学习率调度 · 常用策略（如余弦退火 · 线性衰减）与选择依据
QAT学习率调度策略
09
学习率调度实战
在PyTorch中实现QAT训练的学… · 结合优化器与调度器代码示例
学习率调度实战PyTorch
10
冻结BatchNorm原理
BatchNorm在训练与推理中的行… · 为什么QAT中需要冻结BN · 冻结BN的时机与条件
BatchNorm冻结
11
冻结BatchNorm的实现方法
在PyTorch中冻结BN层（设置r… · 使用eval模式等）的代码实践
BatchNorm冻结
12
QAT训练流程设计
完整训练循环（前向 · 损失计算 · 反向
QAT训练流程设计
13
QAT训练中的超参数调优
学习率 · 批大小 · 量化配置
QAT训练
14
案例实战
基于ResNet-18的CIFAR-… · 模型构建 · QAT配置
案例实战ResNet-18
15
案例实战
基于MobileNetV2的Imag…
案例实战MobileNetV2
16
案例实战
目标检测模型（如YOLOv5）的QA…
案例实战YOLOv5
17
案例实战
自然语言处理模型（如BERT）的QA…
案例实战BERT
18
学习率调度与BN冻结的协同
如何联合调整学习率与BN冻结时机以提…
BN学习率调度
19
QAT训练中的常见问题
训练不稳定 · 精度下降 · 过拟合等问题的诊断与解决方案
QAT训练
20
QAT模型评估与验证
量化模型在验证集上的精度 · 性能（速度 · 内存）评估方法
QAT模型评估
21
QAT模型导出与部署
将QAT模型转换为量化推理格式（如O… · TensorRT · TFLite）的流程与工具
QAT模型导出
22
QAT与硬件适配
不同硬件（CPU · GPU · NPU）对量化模型的支持差异及优化技…
QAT硬件适配
23
QAT训练加速技巧
混合精度训练 · 梯度累积 · 分布式训练在QAT中的应用
QAT训练加速技巧
24
QAT中的正则化与数据增强
如何结合正则化与数据增强提升QAT模…
QAT正则化
25
QAT与其他量化方法的结合
QAT与PTQ · 动态量化 · 混合精度量化的组合策略
QAT其他量化方法的结…
26
QAT训练中的调试与可视化
使用TensorBoard等工具监控… · BN统计量 · 量化误差等
QAT训练
27
QAT训练失败案例分析
典型失败场景（如BN统计量漂移 · 学习率过大）的复盘与修复
QAT训练失败案例分析
28
QAT训练最佳实践总结
从数据 · 模型 · 训练策略到部署的完整经验总结
QAT训练最佳实践总结
29
综合实战项目
从零构建一个QAT训练流水线 · 包含学习率调度与BN冻结 · 并在真实数据集上完成训练与部署
综合实战项目QAT
30
课程总结与进阶方向
回顾核心知识点 · 常见误区 · 未来学习路径（如自动化量化
课程总结进阶方向