VIP8

本课程属于：107-TinyML量化与模型压缩 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

19. TFLite端侧模型验收：量化前后精度和延迟对比

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

了解端侧模型验收的意义 · 量化前后对比的核心目标 · 以及本课程的整体学习路径

课程导入了解端侧模型验收…

掌握TensorFlow Lite的… · 模型转换流程 · 以及端侧部署的常见工作流

TFLiteTensorFlow

理解模型量化的概念 · 常见量化类型（如动态范围 · 全整型

量化基础理解模型量化的概…

深入讲解量化参数（scale · zero-point） · 量化误差来源

量化原理scale

TFLite转换工具

学习使用TFLite Convert… · 并配置量化选项（如代表性数据集）

TFLite转换工具

量化后模型格式

了解.tflite文件结构 · 量化模型与原始模型的差异 · 以及如何检查量化信息

量化后模型格式tflite

精度评估方法

掌握分类 · 检测等任务中常用的精度指标（如Top… · mAP）

精度评估方法掌握分类

延迟评估方法

学习端侧延迟测量的标准方法 · 包括预热 · 多次推理取均值

延迟评估方法学习端侧延迟测量…

端侧性能工具

介绍TFLite Benchmark… · Android Profiler等工… · 用于测量延迟和资源占用

端侧性能工具TFLite

量化前后精度对比实验

设计并执行一个完整的对比实验 · 记录量化前后模型在验证集上的精度变化

量化前后精度对比…设计并执行一个完…

量化前后延迟对比实验

在真实端侧设备上测量量化前后模型的推… · 并分析性能提升

量化前后延迟对比…真实端侧设备上测…

模型大小对比

比较量化前后模型文件大小 · 理解量化对存储和内存占用的影响

模型大小对比比较量化前后模型…

量化误差分析

定位精度下降的原因 · 如激活值分布 · 敏感层识别

量化误差分析定位精度下降的原…

混合量化与部分量化

学习如何对特定层进行量化或保持浮点 · 以平衡精度和性能

混合量化部分量化

量化感知训练（QAT）

介绍QAT的原理和流程 · 以及如何用QAT提升量化模型的精度

QAT量化感知训练

后训练量化（PTQ）进阶

掌握PTQ中的校准方法 · 代表性数据集选择 · 以及优化技巧

PTQ后训练量化

端侧部署实战

在Android/iOS或嵌入式设备… · 并集成精度和延迟测试代码

端侧部署实战Android/iOS

图像分类模型（如MobileNet）… · 完整演示从转换到验收的流程

案例实战MobileNet

目标检测模型（如SSD）的量化前后对… · 处理检测框精度和延迟的权衡

案例实战SSD

NLP模型（如BERT小型化）的量化… · 理解序列任务中的量化挑战

案例实战NLP

验收标准制定

根据业务需求制定量化模型的验收标准 · 包括精度损失容忍度和延迟上限

验收标准制定根据业务需求制定…

自动化验收流程

构建自动化脚本 · 批量运行精度和延迟测试 · 生成对比报告

自动化验收流程构建自动化脚本

常见问题与调试

解决量化后模型崩溃 · 输出错误 · 精度骤降等常见问题

常见问题调试

硬件适配与优化

了解不同端侧硬件（CPU · GPU · DSP

硬件适配优化

量化模型的可解释性

通过可视化激活分布 · 权重分布等 · 帮助理解量化对模型的影响

量化模型的可解释…通过可视化激活分…

与原始模型对比的统计检验

学习使用统计方法（如配对t检验）判断…

原始模型对比的统…学习使用统计方法

性能与精度的权衡决策

掌握如何根据实际应用场景选择最优的量… · 并给出决策框架

性能精度的权衡决策

综合实战项目

从给定模型出发 · 完成量化 · 评估

综合实战项目从给定模型出发

课程总结与进阶

回顾核心知识点 · 总结量化验收的最佳实践 · 并推荐进一步学习资源

课程总结进阶

结课测试与答疑

通过综合测试检验学习效果 · 并针对常见疑问进行解答和讨论

结课测试答疑