VIP20

本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

TensorFlow Lite量化scale zero point参数解析

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 量化在移动端和嵌入式设备中的重要性 · 课程整体框架与学习路径

课程导入学习目标

什么是模型量化 · 量化的类型（训练后量化 · 量化感知训练）

量化基础什么是模型量化

定点数与浮点数

定点数表示原理 · Q格式 · 整数与浮点之间的转换关系

定点数浮点数

线性量化原理

线性映射公式 · scale和zero point的定… · 对称量化与非对称量化的区别

线性量化原理线性映射公式

TensorFlow Lite量化概述

TFLite支持的量化方案 · 量化模型格式 · 量化前后模型大小与推理速度对比

scale参数详解

scale的计算方法 · 从浮点范围推导scale · scale在反量化中的作用

scale参数详解

zero point参数详解

zero point的含义 · 零点偏移的作用 · 非对称量化中zero point的计…

量化参数推导流程

从浮点张量统计min/max · 计算scale和zero point · 量化与反量化公式的完整推导

量化参数推导流程min/max

TensorFlow Lite量化工具

使用TFLite Converter… · 动态范围量化 · 全整数量化的配置方法

量化感知训练

在TensorFlow中模拟量化 · QAT流程 · 如何导出带有量化参数的模型

量化感知训练TensorFlow

量化参数在模型中的存储

TFLite模型文件结构 · 量化参数的存储位置 · 如何解析模型中的scale和zero…

量化参数模型

使用Python解析量化参数

加载TFLite模型 · 遍历张量 · 提取scale和zero point

使用C++解析量化参数

TFLite C++ API · 获取量化参数 · 在移动端部署时读取参数的方法

量化参数与张量形状

多维张量的量化参数 · 逐通道量化与逐张量量化的区别 · 通道维度的处理

量化参数张量形状

逐通道量化详解

为什么需要逐通道量化 · 通道维度的scale和zero po… · 在卷积和全连接层中的应用

逐通道量化详解为什么需要逐通道…

量化误差分析

量化误差的来源 · scale和zero point对误… · 如何评估量化模型的精度损失

量化误差分析量化误差的来源

优化scale和zero point

通过校准数据集优化量化范围 · 最小化量化误差 · 混合精度量化的思路

使用TensorFlow训练一个简单… · 解析其scale和zero poin… · 验证反量化结果

案例实战TensorFlow

量化一个预训练图像分类模型（如Mob… · 分析各层量化参数分布

案例实战Mob

量化一个NLP模型（如BERT小模型… · 处理动态形状和特殊层（如Embedd…

案例实战NLP

在Android端使用TFLite… · 验证参数正确性

案例实战Android

量化后模型精度下降严重 · 如何定位是scale还是zero p…

常见问题量化后模型精度下…

zero point为0时是否等同于…

常见问题zero

如何处理激活函数（如ReLU）后的量…

常见问题ReLU

量化参数在模型转换过程中被修改或丢失 · 如何排查和修复

常见问题量化参数

动态范围量化与全整数量化的scale…

常见问题scale

设计一个自定义量化方案 · 手动计算scale和zero poi… · 并与TFLite自动量化结果对比

综合提升设计一个自定义量…

实现一个反量化工具 · 将TFLite模型的整数输出还原为浮… · 并验证与原始模型输出的一致性

综合提升实现一个反量化工…

研究不同校准方法（如min/max · 百分位 · KL散度）对scale和zero p…

综合提升min/max

回顾核心知识点 · 常见误区 · 量化参数调优的最佳实践

课程总结回顾核心知识点