VIP20
本课程属于：009-TinyML量化感知训练QAT 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

QAT fake quant节点插入与训练图构建资料

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
QAT（量化感知训练）的定义 · 动机 · 与PTQ的区别
课程导入QAT
02
量化基础
定点数表示 · 对称/非对称量化 · 量化参数（scale
量化基础定点数表示
03
Fake Quant节点原理
伪量化节点的作用 · 前向模拟量化误差 · 反向传播直通估计（STE）
FakeQuant
04
QAT训练流程
预训练模型准备 · 插入fake quant节点 · 微调训练
QAT训练流程
05
Fake Quant节点插入位置
权重 · 激活 · 卷积/全连接层
FakeQuant
06
Fake Quant节点类型
per-tensor vs per-… · 对称 vs 非对称 · 静态 vs 动态量化
FakeQuant
07
训练图构建
计算图修改 · 节点插入工具（如PyTorch的to… · 图优化
训练图构建计算图修改
08
PyTorch QAT实现
torch.quantization… · prepare_qat · convert流程详解
PyTorchQAT
09
TensorFlow QAT实现
tf.quantization.qu… · tf.quantization.ex… · Keras API
TensorFlowQAT
10
Fake Quant节点参数初始化
scale和zero_point的初… · 校准方法
FakeQuant
11
QAT中的BN层处理
BN折叠 · BN统计量更新 · 与fake quant的交互
QATBN
12
QAT训练技巧
学习率调整 · 正则化 · 梯度裁剪
QAT训练技巧
13
QAT中的损失函数
量化误差对损失的影响 · 损失函数设计注意事项
QAT损失函数
14
QAT训练策略
从零训练 · 预训练微调 · 渐进式量化
QAT训练策略
15
Fake Quant节点在推理图中的作用
推理时如何移除或转换 · 真实量化内核
FakeQuant
16
QAT与剪枝、蒸馏的结合
联合训练方法 · 效果评估
QAT剪枝
17
QAT在CPU/GPU/移动端部署
硬件适配 · 算子支持 · 性能对比
QATCPU/GPU
18
QAT常见问题
训练不收敛 · 精度下降 · 梯度消失
QAT常见问题
19
QAT调试技巧
可视化fake quant节点输出 · 监控量化误差 · 对比中间层
QAT调试技巧
20
QAT案例实战
图像分类模型（ResNet）QAT完…
QAT案例实战
21
QAT案例实战
目标检测模型（YOLO）QAT实现与…
QAT案例实战
22
QAT案例实战
NLP模型（BERT）QAT实现与挑…
QAT案例实战
23
QAT工具链
Intel Neural Compr… · NVIDIA TensorRT · ONNX Runtime QAT支持
QAT工具链
24
QAT与自动量化搜索
AutoQAT · 量化配置搜索 · 基于强化学习的量化策略
QAT自动量化搜索
25
QAT评估指标
模型精度 · 推理速度 · 模型大小
QAT评估指标
26
QAT在边缘设备上的部署
TFLite · Core ML · OpenVINO
QAT边缘设备上的部署
27
QAT与硬件协同设计
模拟硬件量化行为 · 硬件感知的量化参数选择
QAT硬件协同设计
28
QAT前沿研究
LSQ（Learned Step S… · QAT with Learnable… · 知识蒸馏辅助QAT
QAT前沿研究
29
综合项目
从零构建一个QAT训练图 · 插入fake quant节点 · 训练并导出量化模型
综合项目QAT
30
课程总结与进阶
QAT最佳实践 · 常见陷阱 · 未来趋势
课程总结进阶