VIP20
本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TFLite Converter训练后量化参数配置指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
量化基础
什么是量化 · 为什么需要量化 · 量化类型（训练后量化 vs 量化感知…
量化基础什么是量化
03
TFLite Converter概述
TFLite Converter的作… · 转换流程 · 支持的模型格式（SavedModel
TFLiteConverter
04
训练后量化核心概念
动态范围量化 · 全整数量化 · Float16量化的原理与区别
训练后量化核心概…动态范围量化
05
动态范围量化
原理 · 权重量化与激活动态范围 · 如何通过TFLiteConverte…
动态范围量化原理
06
Float16量化
原理 · 精度与模型大小权衡 · 配置方法（target_spec.s…
Float16量化
07
全整数量化
原理 · 要求（代表性数据集 · 校准）
全整数量化原理
08
代表性数据集设计
如何构建代表性数据集 · 数据量要求 · 数据预处理与采样策略
代表性数据集设计如何构建代表性数…
09
量化参数配置详解
TFLiteConverter关键参… · target_spec · inference_input/ou…
量化参数配置详解TFLiteConver…
10
inference_input_type与inference_output_ty
如何设置输入输出为int8/floa… · 影响与注意事项
inferenceinput
11
target_spec.supported_ops
如何限制算子类型（TFLITE_BU… · TFLITE_BUILTINS） · 与全整数量化的关系
targetspec.support…
12
校准过程
校准数据如何影响量化范围 · 校准迭代次数 · 校准过程中的常见错误
校准过程校准数据如何影响…
13
量化模型精度评估
评估方法（准确率 · 混淆矩阵） · 与原始模型对比
量化模型精度评估评估方法
14
量化模型性能测试
推理延迟 · 模型大小 · 内存占用
量化模型性能测试推理延迟
15
案例实战1
使用动态范围量化转换MobileNe… · 并对比精度与大小
案例实战1MobileNe
16
案例实战2
使用Float16量化转换Effic… · 并测试在CPU/GPU上的性能
案例实战2Float16
17
案例实战3
使用全整数量化转换图像分类模型（如R… · 并配置代表性数据集
案例实战3使用全整数量化转…
18
案例实战4
处理NLP模型（如BERT）的量化 · 注意输入输出类型与动态形状
案例实战4NLP
19
案例实战5
量化自定义模型（含自定义层） · 处理不支持算子与fallback策略
案例实战5量化自定义模型
20
常见问题1
量化后模型精度下降严重 · 如何诊断与缓解（如使用量化感知训练）
常见问题1量化后模型精度下…
21
常见问题2
代表性数据集选择不当导致量化失败 · 如何改进
常见问题2代表性数据集选择…
22
常见问题3
算子不支持量化 · 如何处理（如拆分模型 · 使用混合量化）
常见问题3算子不支持量化
23
常见问题4
量化模型在特定设备上运行错误 · 如何排查（如算子版本 · Delegate）
常见问题4量化模型
24
量化与硬件加速
TFLite Delegate（GP… · NPU · Hexagon）与量化模型的配合
量化硬件加速
25
量化模型部署
在Android/iOS/嵌入式设备… · 最佳实践
量化模型部署Android/iOS
26
量化模型大小优化
权重聚类 · 稀疏性 · 剪枝与量化的结合
量化模型大小优化权重聚类
27
量化感知训练（QAT）简介
与训练后量化的区别 · 何时需要QAT · 基本流程
QAT量化感知训练
28
综合实战
从训练到部署的完整流程 · 包括模型训练 · 量化
综合实战从训练到部署的完…
29
课程总结
关键知识点回顾 · 量化参数选择决策树 · 常见陷阱与最佳实践
课程总结关键知识点回顾
30
进阶与展望
量化前沿技术（如混合精度量化 · 自动化量化工具） · TFLite生态未来
进阶量化前沿技术