VIP20

本课程属于：003-TFLite Micro算子注册、裁剪与自定义算子 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

18. TFLite Micro量化算子调试：Scale、Zero Point与整型计算

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

什么是量化 · 为什么需要量化 · 对称与非对称量化

量化基础什么是量化

Scale与Zero Point定义

量化参数的含义 · 公式推导 · 如何从浮点范围计算Scale和Zer…

整型计算原理

量化矩阵乘法 · 卷积 · 加法的整型实现

整型计算原理量化矩阵乘法

TFLite Micro量化模型格式

FlatBuffer结构 · 量化参数存储位置 · 如何读取模型的Scale和Zero…

量化算子类型

常见算子（Conv2D · DepthwiseConv2D · FullyConnected

量化算子类型Conv2D

调试工具准备

使用TensorFlow Lite转… · Netron可视化 · Python脚本提取量化参数

调试工具准备TensorFlow

TFLite Micro编译环境 · 调试器（GDB/OpenOCD） · 日志输出方法

环境搭建TFLite

量化误差来源

量化噪声 · 溢出 · 截断

量化误差来源量化噪声

Scale和Zero Point不匹配问题

模型转换与运行时参数不一致的排查方法

整型溢出调试

int8/int16溢出场景 · 如何通过中间结果检查定位溢出

整型溢出调试int8/int16

算子输出验证

将TFLite Micro输出与TF… · 计算误差指标（MSE · MAE）

算子输出验证TFLite

逐层调试方法

在算子间插入打印或断点 · 逐层比较中间张量的量化值

逐层调试方法算子间插入打印或…

使用单元测试

为量化算子编写测试用例 · 验证Scale和Zero Point…

使用单元测试为量化算子编写测…

常见错误案例

Zero Point偏移 · Scale错误 · 输入输出张量量化参数不一致的典型症状

常见错误案例Zero

以Conv2D为例 · 从模型转换到运行时输出 · 完整调试流程演示

调试实战Conv2D

以Add算子为例 · 处理不同Scale和Zero Poi… · 如何正确对齐

调试实战Add

以DepthwiseConv2D为例 · 排查通道维度上的量化参数错误

调试实战DepthwiseCon…

量化参数动态范围

如何根据激活值范围调整Scale · 减少量化误差

量化参数动态范围Scale

混合量化与部分量化

哪些层保持浮点 · 如何调试混合精度模型

混合量化部分量化

性能与精度权衡

量化参数对推理速度和内存的影响 · 如何优化

性能精度权衡

使用TFLite Micro的调试API

内置的调试工具 · 日志宏 · 错误处理机制

硬件平台差异

不同MCU（ARM Cortex-M · RISC-V）上整型运算的差异和调试…

硬件平台差异MCU

量化模型转换陷阱

转换时设置代表性数据集 · 校准 · 以及转换后参数检查

量化模型转换陷阱转换时设置代表性…

常见问题FAQ

Scale为0 · Zero Point越界 · 输出全零

FAQ常见问题

高级调试技巧

使用模拟器 · 硬件断点 · 内存监视

高级调试技巧使用模拟器

综合实战项目

从零调试一个量化图像分类模型在TFL… · 输出正确结果

综合实战项目TFL

量化算子耗时分析 · 如何通过优化Scale和Zero P…

性能分析量化算子耗时分析

核心知识点回顾 · 调试方法论 · 常见错误清单

课程总结核心知识点回顾

给定一个错误量化模型 · 要求学员独立完成调试并提交报告

课后挑战给定一个错误量化…