VIP20

本课程属于：011-TensorFlow Lite模型量化与端侧压缩 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

1. TensorFlow Lite量化入门：Float模型到Int8模型转换

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

什么是模型量化 · 为什么需要量化 · 量化的类型（训练后量化

量化基础什么是模型量化

浮点与定点表示

Float32 · Float16 · Int8

浮点定点表示

线性量化原理

缩放因子（scale）和零点（zer… · 以及量化公式（r = (q - ze…

线性量化原理scale

量化误差来源

舍入误差 · 截断误差 · 溢出误差

量化误差来源舍入误差

TensorFlow Lite简介

TFLite框架架构 · 模型格式（.tflite） · 与TensorFlow的关系

安装TensorFlow · TensorFlow Lite Co… · 以及必要的Python库（numpy

环境搭建TensorFlow

准备Float模型

训练或获取一个简单的Float模型（… · 并保存为SavedModel或H5格…

TensorFlow Lite Converter基础

使用TFLiteConverter将… · 并验证输出

训练后动态范围量化

实现动态范围量化（仅权重量化） · 观察模型大小和精度变化

训练后动态范围量…实现动态范围量化

训练后全整数量化

将权重和激活都量化为Int8 · 需要代表性数据集进行校准

训练后全整数量化Int8

代表性数据集生成

如何从训练集或验证集中选取合适的样本 · 用于校准激活范围

代表性数据集生成如何从训练集或验…

量化参数校准

使用代表性数据集计算每个张量的动态范… · 确定scale和zero_point

量化参数校准使用代表性数据集…

Float32到Int8转换实战

完整代码示例 · 将Float模型转换为Int8 TF… · 并保存

模型大小对比

量化前后模型文件大小 · 内存占用 · 推理速度的对比分析

模型大小对比量化前后模型文件…

精度评估方法

使用测试集评估量化模型的准确率 · 召回率等指标 · 与Float模型对比

精度评估方法使用测试集评估量…

量化模型推理

在Python中加载Int8 TFL… · 使用Interpreter进行推理 · 并处理输入输出

量化模型推理Python

输入输出张量处理

理解量化模型的输入输出张量类型（in… · 以及反量化操作

输入输出张量处理in

量化后精度下降严重 · 如何诊断和缓解（如使用量化感知训练）

常见问题1量化后精度下降严…

代表性数据集选择不当导致校准失败 · 如何改进

常见问题2代表性数据集选择…

某些算子不支持量化 · 如何处理（如自定义算子或替换算子）

常见问题3某些算子不支持量…

量化感知训练（QAT）入门

QAT原理 · 在TensorFlow中实现QAT的…

QAT量化感知训练

在Keras中为模型添加量化感知训练 · 并转换为Int8 TFLite模型

混合量化策略

部分层保持Float · 部分层量化为Int8 · 如何配置和实现

混合量化策略Float

硬件加速与部署

在Android/iOS或Edge… · 利用硬件加速

硬件加速部署

性能优化技巧

减少量化误差 · 优化校准数据集 · 使用更小的模型架构

性能优化技巧减少量化误差

将ResNet50转换为Int8 T… · 评估在ImageNet子集上的精度和…

案例实战1ResNet50

将MobileNetV2用于图像分类 · 量化后部署到树莓派或手机 · 测量实际性能

案例实战2MobileNetV2

从零构建一个图像分类模型 · 完成Float到Int8的完整转换流… · 并输出对比报告

综合项目从零构建一个图像…

课程总结与进阶

回顾核心知识点 · 介绍更多量化工具（如TFLite M… · Post-training quan…

课程总结进阶