VIP20
本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TinyML训练后量化PTQ完整流程教程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
TinyML与PTQ概述 · 学习目标 · 课程结构
课程导入TinyML
02
量化基础
数值表示（定点/浮点） · 量化误差来源 · 对称与非对称量化
量化基础数值表示
03
PTQ原理
训练后量化的定义 · 与QAT对比 · PTQ的优势与局限
PTQ原理
04
校准数据集
校准数据的作用 · 选择原则 · 样本数量与多样性
校准数据集校准数据的作用
05
校准方法
MinMax · Percentile · MSE
校准方法MinMax
06
量化粒度
逐张量 · 逐通道量化 · 粒度选择对精度的影响
量化粒度逐张量
07
量化方案配置
权重与激活的位宽选择（8bit/4b… · 对称/非对称配置 · per-tensor/per-cha…
量化方案配置bit/4b
08
TensorFlow Lite PTQ实战
使用TFLite Converter… · 全整数量化 · float16量化的步骤与代码
TensorFlowLite
09
PyTorch PTQ实战
使用torch.ao.quantiz… · 校准与评估流程
PyTorchPTQ
10
ONNX Runtime PTQ实战
使用onnxruntime.quan… · 动态量化 · QDQ格式导出
ONNXRuntime
11
边缘设备部署
将量化模型部署到MCU（如STM32 · Arduino） · TFLite Micro
边缘设备部署MCU
12
精度评估
量化前后模型精度对比 · 评估指标（accuracy · F1等）
精度评估量化前后模型精度…
13
敏感层分析
识别对量化敏感的层 · 逐层量化误差分析 · 混合精度量化的启发式方法
敏感层分析识别对量化敏感的…
14
优化技巧
批归一化折叠 · 激活函数调整 · 残差连接处理
优化技巧批归一化折叠
15
常见问题与调试
精度下降严重 · 校准数据不匹配 · 算子不支持
常见问题调试
16
案例实战
图像分类模型（MobileNetV2… · 从训练到部署
案例实战MobileNetV2
17
案例实战
目标检测模型（YOLOv5-tiny… · 包括后处理量化适配
案例实战YOLOv5-tiny
18
案例实战
语音唤醒词识别模型（DS-CNN）P… · 处理时序数据
案例实战DS-CNN
19
案例实战
异常检测模型（Autoencoder… · 处理重构误差
案例实战Autoencoder
20
工具链整合
TensorFlow · PyTorch · ONNX之间的模型转换与量化工具链整…
工具链整合TensorFlow
21
硬件加速
利用NPU/GPU/DSP的量化推理 · CMSIS-NN · ARM Neon优化
硬件加速NPU/GPU/DSP
22
量化模型大小与速度
模型压缩率 · 推理延迟 · 内存占用
量化模型大小速度
23
自动化PTQ流程
编写脚本实现自动化校准 · 量化 · 评估
PTQ自动化
24
PTQ与剪枝、蒸馏结合
模型压缩组合策略 · 协同优化方法
PTQ剪枝
25
高级主题
低比特量化（4bit/2bit） · 混合精度量化 · 量化感知训练（QAT）简介与PTQ对…
高级主题bit/2bit
26
安全与鲁棒性
量化对对抗样本鲁棒性的影响 · 量化模型的安全评估
安全鲁棒性
27
项目实战
端到端TinyML项目（如关键词唤醒…
项目实战TinyML
28
性能调优
量化模型推理速度优化 · 内存复用 · 算子融合
性能调优量化模型推理速度…
29
课程总结
PTQ核心要点回顾 · 常见陷阱 · 最佳实践
课程总结PTQ
30
综合考核
设计一个PTQ方案并实现 · 包括模型选择 · 校准
综合考核PTQ