VIP20
本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TFLite PTQ模型端侧数值一致性验证指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程整体框架与学习路径
课程导入学习目标
02
TFLite与PTQ基础
TFLite模型格式 · 量化原理 · PTQ（训练后量化）基本概念与流程
TFLitePTQ
03
数值一致性概念
什么是数值一致性 · 为何端侧验证重要 · 常见不一致现象与影响
数值一致性概念什么是数值一致性
04
环境准备
搭建开发环境 · 安装TFLite工具链 · 准备端侧设备与测试数据
环境准备搭建开发环境
05
模型转换与量化
将TensorFlow模型转换为TF… · 配置PTQ参数 · 量化代表性数据集的选择
模型转换量化
06
量化参数解析
scale · zero_point · min/max
量化参数解析scale
07
端侧推理基础
TFLite解释器使用 · 输入输出张量操作 · 端侧运行流程
端侧推理基础TFLite
08
数值一致性验证方法
输出张量对比 · 余弦相似度 · 最大绝对误差
数值一致性验证方…输出张量对比
09
验证流程设计
设计验证用例 · 输入数据准备 · 参考模型（浮点）与量化模型对比
验证流程设计设计验证用例
10
端侧日志与调试
打印中间层输出 · 使用调试工具 · 定位不一致的层
端侧日志调试
11
常见不一致原因
量化误差累积 · 激活范围估计不准 · 算子实现差异
常见不一致原因量化误差累积
12
算子级验证
逐算子对比输出 · 识别敏感算子 · 使用TFLite delegate的…
算子级验证逐算子对比输出
13
数据预处理一致性
归一化 · 均值方差 · 通道顺序
数据预处理一致性归一化
14
动态范围与全整数量化
动态范围PTQ与全整数量化的差异 · 对一致性的影响
动态范围全整数量化
15
代表性数据集构建
如何选择代表性数据 · 数据量要求 · 覆盖真实分布
代表性数据集构建如何选择代表性数…
16
校准过程详解
校准数据迭代 · 统计激活范围 · 校准方法（min/max
校准过程详解校准数据迭代
17
端侧硬件差异
CPU · GPU · NPU等不同硬件对数值一致性的影响
端侧硬件差异CPU
18
TFLite Delegate与加速
使用XNNPACK · GPU delegate · NNAPI时的一致性验证
TFLiteDelegate
19
自动化验证工具
编写Python脚本批量对比 · 生成报告 · 集成到CI/CD
自动化验证工具Python
20
案例实战一
图像分类模型（MobileNet）的…
案例实战一MobileNet
21
案例实战二
目标检测模型（SSD）的PTQ一致性…
案例实战二SSD
22
案例实战三
语义分割模型（DeepLab）的数值…
案例实战三DeepLab
23
案例实战四
NLP模型（BERT）的PTQ一致性…
案例实战四NLP
24
常见问题与解决方案
输出NaN · 严重偏差 · 特定层不匹配等问题的排查思路
常见问题解决方案
25
精度与性能权衡
量化后精度损失评估 · 如何平衡数值一致性与推理速度
精度性能权衡
26
验证指标阈值设定
如何设定可接受的误差范围 · 行业实践与标准
验证指标阈值设定如何设定可接受的…
27
回归测试与持续监控
建立回归测试集 · 定期验证 · 监控模型更新后的数值一致性
回归测试持续监控
28
高级主题
混合量化 · 量化感知训练（QAT）与PTQ的对比 · 何时需要QAT
高级主题混合量化
29
综合实战项目
从模型转换到端侧部署的完整数值一致性… · 包含文档与报告
综合实战项目从模型转换到端侧…
30
课程总结与进阶
核心要点回顾 · 常见陷阱总结 · 推荐工具与资源
课程总结进阶