首页
›
工业控制与工业互联网
›
009-TinyML量化感知训练QAT
›
《Edge AI项目QAT训练图构建与精度恢复流程》
VIP20
本课程属于:009-TinyML量化感知训练QAT
工业控制与工业互联网 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
Edge AI项目QAT训练图构建与精度恢复流程
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · QAT在Edge AI中的价值与挑战
课程导入
学习目标
02
量化基础
定点与浮点表示 · 量化参数(scale/zero-po… · 对称与非对称量化
量化基础
定点
03
量化误差来源
权重量化误差 · 激活量化误差 · 梯度量化误差及其对精度的影响
量化误差来源
权重量化误差
04
QAT核心原理
伪量化节点(FakeQuant)的作… · 直通估计器(STE)与梯度近似
QAT
核心原理
05
QAT与PTQ对比
精度恢复能力 · 训练成本 · 适用场景与选择策略
QAT
PTQ
06
Edge AI硬件特性
NPU/DSP/GPU的量化约束 · 支持的数据类型与算子限制
Edge
AI
07
训练图构建基础
从浮点模型到QAT模型的转换流程 · 算子替换与图修改
训练图构建基础
QAT
08
QAT框架选型
PyTorch · TensorFlow · ONNX Runtime
QAT
框架选型
09
构建QAT训练图
使用PyTorch的torch.ao… · qconfig · prepare_qat)
QAT
构建
10
构建QAT训练图
使用TensorFlow的QAT A…
QAT
构建
11
构建QAT训练图
处理自定义算子与不支持的层(如注意力 · 动态形状)的替代方案
QAT
构建
12
QAT训练策略
学习率调整 · 优化器选择 · 批量大小与训练轮次对精度恢复的影响
QAT
训练策略
13
QAT训练技巧
冻结BN层 · 权重正则化 · 梯度裁剪与混合精度训练
QAT
训练技巧
14
精度恢复流程
从预训练模型开始QAT的完整步骤(初… · 微调 · 评估)
精度恢复流程
QAT
15
精度恢复流程
从随机初始化训练QAT模型与从浮点模…
精度恢复流程
QAT
16
精度恢复流程
分阶段QAT(先量化部分层再全量化)…
精度恢复流程
QAT
17
精度恢复流程
使用知识蒸馏辅助QAT · 教师模型与学生模型的协同训练
精度恢复流程
QAT
18
精度恢复流程
损失函数调整与正则化项在QAT中的特…
精度恢复流程
QAT
19
评估与验证
量化模型在验证集上的精度 · 性能(延迟/吞吐)与内存占用评估
评估
验证
20
常见精度问题
激活范围过大 · 离群值 · 敏感层识别与针对性处理
常见精度问题
激活范围过大
21
常见精度问题
量化敏感层分析(逐层敏感性分析)与混…
常见精度问题
量化敏感层分析
22
常见精度问题
训练与推理图不一致(如BN折叠 · 算子融合)导致的精度下降
常见精度问题
BN
23
案例实战
基于MobileNetV3的图像分类…
案例实战
MobileNetV3
24
案例实战
基于YOLOv5的目标检测QAT训练…
案例实战
YOLOv5
25
案例实战
基于BERT的NLP任务QAT训练与…
案例实战
BERT
26
案例实战
语音唤醒词识别模型QAT训练与精度恢…
案例实战
QAT
27
部署与转换
将QAT模型导出为ONNX/TFLi… · 并验证硬件兼容性
部署
转换
28
自动化与工具链
使用NNCF · TensorRT · AIMET等工具简化QAT流程与精度…
自动化
工具链
29
综合项目
从零构建一个Edge AI QAT训… · 包含数据加载 · 训练
综合项目
Edge
30
课程总结与进阶
QAT最新研究趋势(如自动化量化 · 联合训练) · 常见误区与最佳实践
课程总结
进阶
所属VIP或分类
同VIP:FP32模型加入fake-quant进行QAT训练教程
同VIP:QAT-fake-quant节点插入与训练图构建资料
同VIP:QAT伪量化节点插入与训练收敛问题解析