首页
›
AI智能与边缘计算工程
›
107-TinyML量化与模型压缩
›
《TFLite量化部署与精度性能平衡》
VIP8
本课程属于:107-TinyML量化与模型压缩
AI智能与边缘计算工程 · 共 8 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
8. TFLite量化部署实战:体积、延迟与准确率三方平衡
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
了解TFLite量化部署的背景 · 目标与核心挑战 · 明确体积
课程导入
TFLite
02
量化基础
掌握量化的基本概念 · 包括定点数 · 浮点数
量化基础
掌握量化的基本概…
03
TFLite量化类型
区分训练后量化(PTQ) · 量化感知训练(QAT)和动态范围量化…
TFLite
量化类型
04
环境搭建
配置TensorFlow · TFLite Converter · Android Studio或Pyt…
环境搭建
TensorFlow
05
模型转换入门
使用TFLite Converter… · 并设置基本量化选项
模型转换入门
TFLite
06
动态范围量化
实现动态范围量化 · 观察模型体积与延迟的变化 · 并评估准确率影响
动态范围量化
实现动态范围量化
07
全整数量化
使用代表性数据集进行校准 · 实现全整数量化 · 处理输入输出张量的量化细节
全整数量化
使用代表性数据集…
08
量化感知训练
在Keras中启用QAT · 训练后转换为TFLite模型 · 比较与PTQ的准确率差异
量化感知训练
Keras
09
量化模型评估
使用TFLite解释器在Python… · 计算准确率 · 延迟和体积
量化模型评估
TFLite
10
体积优化实战
通过量化 · 剪枝 · 权重共享等方法压缩模型体积
体积优化实战
通过量化
11
延迟优化实战
在CPU · GPU和NPU上测试量化模型的推理延… · 分析量化对延迟的影响
延迟优化实战
CPU
12
准确率保持策略
针对量化敏感模型 · 采用混合量化 · 部分层量化或QAT来保持准确率
准确率保持策略
针对量化敏感模型
13
混合量化
使用TFLite的混合量化功能 · 对特定层指定量化精度 · 平衡准确率与性能
混合量化
TFLite
14
量化模型调试
诊断量化后准确率下降的原因 · 使用工具查看每层输出分布 · 定位敏感层
量化模型调试
诊断量化后准确率…
15
模型校准数据集
构建有效的校准数据集 · 确保覆盖真实数据分布 · 提升量化效果
模型校准数据集
构建有效的校准数…
16
TFLite模型优化工具
使用TFLite Model Mak…
TFLite
模型优化工具
17
Android部署实战
将量化TFLite模型集成到Andr… · 使用Java/C++ API进行推理
Android
部署实战
18
iOS部署实战
将量化TFLite模型集成到iOS应… · 使用Swift/Objective-…
iOS
部署实战
19
边缘设备部署
在树莓派 · Jetson等边缘设备上部署量化模型 · 测量实际性能
边缘设备部署
树莓派
20
量化模型与硬件加速
了解TFLite对NPU · GPU等硬件的支持 · 配置委托(Delegate)提升推理…
量化模型
硬件加速
21
多模型对比实验
对同一模型应用不同量化策略 · 制作对比表格 · 分析体积
多模型对比实验
对同一模型应用不…
22
量化模型安全性
讨论量化对模型鲁棒性的影响 · 以及对抗攻击下的表现
量化模型安全性
讨论量化对模型鲁…
23
量化与模型架构
分析不同网络结构(CNN · Transformer)对量化的敏感… · 选择适合量化的架构
量化
模型架构
24
量化工具链进阶
使用TensorFlow Lite… · 使用可视化工具分析模型
量化工具链进阶
TensorFlow
25
常见问题与解决方案
解决量化后输出错误 · 校准失败 · 推理崩溃等常见问题
常见问题
解决方案
26
量化模型版本管理
建立量化模型的版本控制与迭代流程 · 确保可复现性
量化模型版本管理
建立量化模型的版…
27
自动化量化流水线
构建CI/CD流水线 · 自动完成模型转换 · 量化
自动化量化流水线
CI/CD
28
综合实战项目
从零开始 · 对一个真实模型(如MobileNet… · 达到体积
综合实战项目
从零开始
29
性能调优进阶
使用profiling工具分析瓶颈 · 结合模型剪枝 · 蒸馏与量化
性能调优进阶
profiling
30
课程总结与展望
回顾量化部署的关键要点 · 探讨未来趋势(如低比特量化 · 自适应量化)
课程总结
回顾量化部署的关…
所属VIP或分类
同VIP:Edge-AI模型压缩与端侧交付
同VIP:TFLite-Float16端侧量化
同VIP:TFLite-PTQ后训练量化工程