首页
›
嵌入式边缘AI与TinyML
›
011-TensorFlow Lite模型量化与端侧压缩
›
《TFLite PTQ量化调参:校准集、输入范围与精度恢复》
VIP20
本课程属于:011-TensorFlow Lite模型量化与端侧压缩
嵌入式边缘AI与TinyML · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
15. TFLite PTQ量化调参:校准集、输入范围与精度恢复
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
了解TFLite PTQ量化的背景 · 目标 · 适用场景
课程导入
TFLite
02
量化基础回顾
掌握线性量化 · 对称/非对称量化 · 量化参数(scale
量化基础回顾
掌握线性量化
03
PTQ量化流程概览
梳理从训练后模型到TFLite量化模… · 明确校准集和输入范围在其中的关键作用
PTQ
量化流程概览
04
校准集的作用与设计原则
理解校准集如何影响量化范围 · 学习选择代表性数据 · 数据量
校准集的作用
设计原则
05
校准集构建实战
使用真实数据集或合成数据构建校准集 · 并演示如何用TensorFlow D…
校准集构建实战
使用真实数据集或…
06
输入范围(min/max)的确定方法
掌握通过校准集统计激活值分布 · 使用百分位/最大值/最小化熵等方法确…
min/max
输入范围
07
校准集大小对精度的影响
实验不同校准样本数量(如100 · 500 · 1000)对量化模型精度的影响
校准集大小对精度…
实验不同校准样本…
08
校准集代表性不足的常见问题
识别校准集偏差导致的量化误差 · 如过拟合校准集 · 分布偏移等
校准集代表性不足…
识别校准集偏差导…
09
输入范围裁剪策略
学习如何通过裁剪异常值(如使用百分位… · 减少精度损失
输入范围裁剪策略
学习如何通过裁剪…
10
量化感知训练(QAT)与PTQ的对比
理解QAT与PTQ的差异 · 明确何时需要从PTQ转向QAT以恢复…
QAT
PTQ
11
TFLite转换器关键参数详解
深入讲解converter的opti… · representative_dat… · target_spec等参数及其对量…
TFLite
转换器关键参数详…
12
默认PTQ量化实践
使用TFLite默认设置进行量化 · 记录基线精度 · 并分析可能出现的精度下降原因
PTQ
默认
13
自定义校准集实现
编写自定义representativ… · 支持从文件夹 · TFDS或内存数据动态生成校准样本
自定义校准集实现
representati…
14
输入范围动态统计
实现运行时统计激活值min/max的… · 并对比静态校准与动态统计的差异
输入范围动态统计
min/max
15
精度评估与对比
使用测试集评估原始浮点模型与量化模型… · mAP) · 并计算精度损失
精度评估
对比
16
逐层分析量化误差
利用TFLite或TensorFlo… · 并分析原因(如激活分布不均)
逐层分析量化误差
TFLite
17
混合量化调参
对敏感层使用更高精度(如float1… · 其他层使用int8 · 实现精度与性能的平衡
混合量化调参
float1
18
输入范围调整实验
手动调整特定层的min/max范围 · 观察精度变化 · 掌握范围调整的调试技巧
输入范围调整实验
min/max
19
校准集增强与数据增强
通过数据增强(如翻转 · 裁剪)扩充校准集 · 提升量化模型的泛化能力
校准集增强
数据增强
20
多校准集融合策略
当数据来源多样时 · 如何融合多个校准集或采用加权采样 · 确保量化范围覆盖全面
多校准集融合策略
当数据来源多样时
21
常见精度下降原因排查
系统梳理校准集不匹配 · 范围过窄 · 量化粒度等常见问题
常见精度下降原因…
系统梳理校准集不…
22
精度恢复技巧
学习使用偏置校正 · 权重均衡(如Data-Free Qu…
精度恢复技巧
学习使用偏置校正
23
TFLite量化模型部署验证
在Android/iOS或嵌入式设备… · 验证实际精度与性能 · 并处理端侧差异
TFLite
量化模型部署验证
24
案例实战
图像分类模型(如MobileNetV… · 从校准集构建到精度恢复
案例实战
MobileNetV
25
案例实战
目标检测模型(如SSD-Mobile… · 处理多输出层和边界框回归的量化挑战
案例实战
SSD-Mobile
26
案例实战
NLP模型(如BERT-Tiny)的… · 处理动态形状和嵌入层量化的特殊性
案例实战
NLP
27
自动化调参工具
介绍或编写简单的自动化脚本 · 网格搜索校准集大小 · 裁剪百分位等超参数
自动化调参工具
介绍或编写简单的…
28
性能与精度权衡
分析量化后模型大小 · 推理速度与精度的关系 · 学习如何根据业务需求选择量化策略
性能
精度权衡
29
综合项目
从零开始对一个自定义模型进行PTQ量… · 完成精度恢复报告 · 并给出部署建议
综合项目
PTQ
30
课程总结与进阶方向
回顾核心知识点 · 总结调参经验 · 并展望量化领域的前沿技术(如
课程总结
进阶方向
所属VIP或分类
同VIP:TensorFlow-Lite量化交付:PTQ、QAT、INT8与Ca
同VIP:TFLite-Float16量化:边缘GPU和移动端部署选择
同VIP:TFLite-Float转Int8量化与部署精度验证