VIP20

本课程属于：009-TinyML量化感知训练QAT 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

TinyML模型QAT训练、BN freeze与收敛调参课程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

TinyML概述 · QAT在边缘部署中的价值 · 课程学习路径与目标

课程导入TinyML

模型量化原理 · 定点与浮点表示 · 对称与非对称量化

量化基础模型量化原理

QAT核心概念

量化感知训练的定义 · 与PTQ的对比 · 伪量化节点

QAT核心概念

QAT训练流程

从预训练模型到QAT的完整流程 · 数据加载 · 损失函数与优化器选择

QAT训练流程

BN层在QAT中的角色

BatchNorm原理 · 训练与推理行为差异 · BN对量化敏感度的影响

BN freeze概念

什么是BN freeze · 为什么QAT中需要冻结BN · 冻结时机与实现方法

BN freeze实操

在PyTorch/TensorFlo… · 冻结后模型行为变化

QAT训练策略

学习率调度 · 权重衰减 · 梯度裁剪

QAT训练策略

收敛性诊断

损失曲线分析 · 验证精度监控 · 梯度范数检查

收敛性诊断损失曲线分析

超参数调优

量化配置（位宽 · 对称性） · BN momentum

超参数调优量化配置

QAT中的正则化

Dropout · 权重衰减 · 标签平滑在量化训练中的效果与调整

模型架构对QAT的影响

不同层类型（卷积 · 全连接 · 深度可分离）的量化敏感性

QAT模型架构对

BN折叠到卷积/全连接 · 融合后的量化误差分析 · 融合实现步骤

基于MobileNetV2的QAT训…

案例实战MobileNetV2

基于TFLite Micro的QAT…

案例实战TFLite

语音唤醒词模型QAT训练与BN fr…

案例实战QAT

图像分类模型在STM32上的QAT部…

案例实战STM32

QAT训练不收敛 · 精度下降严重 · BN冻结后验证精度波动等问题的排查

常见问题QAT

量化后模型输出分布偏移 · 激活值饱和 · 梯度消失或爆炸的应对

常见问题量化后模型输出分…

BN freeze与量化感知训练冲突… · 多数据集适配

工具链实践

PyTorch量化API · TensorFlow Model O… · ONNX QAT工具

工具链实践PyTorch

工具链实践

MCU部署工具（STM32Cube.… · Edge Impulse · TFLite Micro）的QAT支…

工具链实践MCU

混合精度量化 · 通道级量化 · 自适应量化范围

高级技巧混合精度量化

知识蒸馏辅助QAT · 教师-学生框架 · 注意力迁移在量化训练中的应用

高级技巧QAT

BN freeze的变体（部分冻结 · 动态冻结） · 基于梯度信息的冻结策略

量化模型在MCU上的延迟 · 内存占用 · 功耗与精度权衡分析

性能评估MCU

从基线模型到QAT收敛的完整调参日志… · 关键参数影响对比

调参实战QAT

设计一个端到端TinyML QAT流… · 包含BN freeze与调参

综合项目TinyML

QAT在Transformer/At… · 未来趋势与研究方向

综合提升QAT

核心要点回顾 · 常见误区 · 学习资源推荐

课程总结核心要点回顾