VIP8

本课程属于：107-TinyML量化与模型压缩 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

7. TFLite后训练量化：PTQ流程、校准数据与精度评估

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

什么是量化 · 定点数与浮点数 · 线性量化公式（scale和zero-…

量化基础什么是量化

PTQ与QAT对比

后训练量化（PTQ）与量化感知训练（… · 适用场景 · 精度与成本权衡

TFLite量化概览

TFLite支持的量化类型（动态范围 · 全整型 · float16）

TFLite量化概览

动态范围量化

原理 · 实现方法 · 在TFLite中的启用方式

动态范围量化原理

全整型量化

要求（整型算子 · 无浮点回退） · 转换步骤

全整型量化要求

原理 · 适用硬件 · 精度与模型大小权衡

PTQ完整流程

从训练好的模型到量化TFLite模型… · 校准 · 评估）

PTQ完整流程

安装TensorFlow · TFLite Converter · 依赖库

环境准备TensorFlow

模型转换基础

使用TFLiteConverter将… · 设置优化选项

模型转换基础TFLiteConver…

校准数据概念

什么是校准数据 · 为什么需要 · 校准数据与训练/验证数据的区别

校准数据概念什么是校准数据

校准数据集构建

如何从训练集或验证集选取代表性样本 · 样本数量选择（通常100-1000） · 类别平衡

校准数据集构建如何从训练集或验…

校准数据预处理

与训练时一致的预处理（归一化 · 尺寸 · 通道顺序）

校准数据预处理训练时一致的预处…

校准数据生成器

编写Python生成器或数据集对象 · 用于TFLiteConverter的…

校准数据生成器Python

校准数据采样策略

随机采样 · 均匀采样 · 困难样本挖掘

校准数据采样策略随机采样

校准数据数量影响

不同样本数量对量化精度的影响 · 如何确定最优数量

校准数据数量影响不同样本数量对量…

PTQ转换实战

完整代码示例 · 使用representative_d…

PTQ转换实战

量化参数查看

如何检查量化后的scale和zero… · 模型结构可视化

量化参数查看scale

精度评估方法

使用验证集评估量化前后模型的准确率 · 损失 · 混淆矩阵等指标

精度评估方法使用验证集评估量…

精度对比实验

设计对比实验（原始模型 vs 动态量… · 记录结果并分析

精度对比实验vs

测量模型大小 · 推理延迟（CPU/GPU/EdgeT… · 内存占用

性能评估测量模型大小

常见精度问题

量化后精度下降的原因（激活范围异常 · 离群值 · 敏感层）

常见精度问题量化后精度下降的…

精度优化技巧

调整校准数据 · 使用混合量化 · 量化敏感层分析

精度优化技巧调整校准数据

TFLite中如何指定部分层为浮点 · 适用场景 · 实现方法

混合量化TFLite

量化敏感层分析

如何识别对量化敏感的层（如某些卷积 · 全连接） · 使用工具或手动分析

量化敏感层分析如何识别对量化敏…

图像分类模型（如MobileNet）… · 从转换到精度评估

案例实战MobileNet

目标检测模型（如SSD）的PTQ挑战 · 校准数据构建 · 精度评估要点

案例实战SSD

NLP模型（如BERT）的PTQ实践 · 动态量化与全整型量化选择 · 精度影响

案例实战NLP

常见问题与调试

转换错误 · 校准数据格式错误 · 精度异常

常见问题调试

综合提升与总结

PTQ最佳实践 · 量化模型部署到移动端/嵌入式设备 · 课程总结与进阶学习路径

综合提升PTQ