VIP20
本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TFLite INT8 PTQ校准失败与精度下降排查

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
量化基础
线性量化原理 · 零点与缩放因子 · 对称/非对称量化
量化基础线性量化原理
03
PTQ流程概览
从浮点模型到INT8模型的完整转换流… · 校准数据集的作用 · TFLite Converter关键…
PTQ流程概览
04
校准数据集构建
数据量要求 · 数据多样性 · 数据预处理一致性
校准数据集构建数据量要求
05
校准方法详解
MinMax · Percentile · MSE
校准方法详解MinMax
06
TFLite Converter使用
Python API调用 · 代表性数据集生成 · converter.optimiza…
TFLiteConverter
07
校准失败常见类型
校准过程崩溃 · 内存溢出 · 算子不支持
校准失败常见类型校准过程崩溃
08
校准失败排查方法
日志分析 · 异常捕获 · 最小复现
校准失败排查方法日志分析
09
精度下降评估指标
分类任务Top-1/Top-5 · 回归任务MAE/MSE · 检测任务mAP
精度下降评估指标Top-1/Top-5
10
精度对比方法
浮点模型与量化模型输出对比 · 逐层激活分布对比 · 权重分布对比
精度对比方法浮点模型
11
敏感层分析
如何识别对量化敏感的层 · 权重与激活范围分析 · 直方图可视化
敏感层分析如何识别对量化敏…
12
校准数据影响
数据量不足 · 分布偏差 · 类别不均衡
校准数据影响数据量不足
13
算子级量化问题
Conv · MatMul · Add
算子级量化问题Conv
14
混合精度量化
部分层保持浮点 · 部分层INT8 · 如何通过TFLite指定混合精度
混合精度量化部分层保持浮点
15
量化感知训练（QAT）对比
PTQ与QAT的差异 · 何时需要QAT · QAT流程简介
QAT量化感知训练
16
校准参数调优
调整校准算法 · 校准数据量 · 批大小
校准参数调优调整校准算法
17
权重与激活范围裁剪
对极端值处理 · 百分位裁剪 · 范围松弛
权重激活范围裁剪
18
批归一化折叠影响
BN层在量化中的处理 · 折叠后的数值范围变化 · 对精度的影响
批归一化折叠影响BN
19
激活函数量化
ReLU · Sigmoid · Tanh等激活函数的量化边界
激活函数量化ReLU
20
多输入多输出模型
多输入校准数据构造 · 多输出精度评估 · 动态形状处理
多输入多输出模型多输入校准数据构…
21
动态范围量化与INT8全量化
两者区别 · 动态范围量化精度特点 · 何时选择全量化
INT8动态范围量化
22
硬件与运行时差异
不同设备（CPU · GPU · NPU）对INT8支持差异
硬件运行时差异
23
TFLite模型调试工具
使用TFLite Benchmark… · Model Analyzer · 可视化工具（Netron）辅助排查
TFLite模型调试工具
24
案例实战一
图像分类模型（MobileNetV2…
案例实战一MobileNetV2
25
案例实战二
目标检测模型（SSD-MobileN…
案例实战二SSD-MobileN
26
案例实战三
语义分割模型（DeepLabV3）校…
案例实战三DeepLabV3
27
案例实战四
NLP模型（BERT-Tiny）IN…
案例实战四NLP
28
常见问题FAQ
校准时间过长 · 校准后模型变大 · 某些层被跳过
FAQ常见问题
29
综合提升
构建自动化排查流水线 · 精度回归测试 · 持续集成中的量化验证
综合提升构建自动化排查流…
30
课程总结与展望
核心要点回顾 · 学习路径建议 · 未来趋势（INT4
课程总结核心要点回顾