VIP20
本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Edge AI端侧模型PTQ精度评估案例

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
边缘AI基础
端侧设备类型 · 算力约束 · 典型应用场景（如手机
AI边缘
03
模型量化基础
量化原理 · 定点与浮点表示 · 对称/非对称量化
模型量化基础量化原理
04
PTQ核心概念
训练后量化（PTQ）的定义 · 与QAT的区别 · PTQ的优势与局限性
PTQ核心概念
05
PTQ主流方法
MinMax · Percentile · MSE
PTQ主流方法
06
校准数据集
校准数据的选择 · 数量 · 代表性要求
校准数据集校准数据的选择
07
精度评估指标
分类任务（Top-1/Top-5） · 检测任务（mAP） · 分割任务（mIoU）等常用指标
精度评估指标Top-1/Top-5
08
精度评估流程
从原始模型到量化模型的完整评估流程 · 包括预处理 · 推理
精度评估流程从原始模型到量化…
09
端侧推理框架
TensorRT · TFLite · ONNX Runtime
端侧推理框架TensorRT
10
硬件特性对精度的影响
不同NPU/DSP/GPU的量化规则 · 支持范围 · 算子融合对精度的影响
硬件特性对精度的…NPU/DSP/GPU
11
PTQ精度损失原因分析
权重/激活分布 · 离群点 · 敏感层
PTQ精度损失原因分析
12
敏感层分析
如何识别对量化敏感的层 · 使用逐层精度对比 · 梯度分析等方法
敏感层分析如何识别对量化敏…
13
混合精度量化
对敏感层保留高精度 · 其他层低比特 · 实现精度与性能平衡
混合精度量化对敏感层保留高精…
14
PTQ调优技巧
调整校准方法 · 校准数据 · 量化粒度
PTQ调优技巧
15
案例实战
图像分类模型（如MobileNet）…
案例实战MobileNet
16
案例实战
目标检测模型（如YOLOv5）在端侧…
案例实战YOLOv5
17
案例实战
语义分割模型（如DeepLabV3）…
案例实战DeepLabV3
18
案例实战
NLP模型（如BERT-Tiny）在…
案例实战NLP
19
工具链使用
使用PyTorch · TensorFlow · ONNX等框架的量化工具进行PTQ并…
工具链使用PyTorch
20
自动化评估脚本
编写Python脚本批量评估多个量化… · 生成对比报告
自动化评估脚本Python
21
精度与性能权衡
如何根据实际需求选择量化比特数 · 校准方法 · 平衡精度与推理速度
精度性能权衡
22
常见问题与解决方案
量化后精度骤降 · 校准数据过拟合 · 算子不支持等问题的排查与修复
常见问题解决方案
23
精度回归测试
建立持续集成中的精度回归测试机制 · 确保模型更新后精度稳定
精度回归测试建立持续集成
24
端侧部署与验证
将量化模型部署到真实设备 · 进行端到端精度验证与调试
端侧部署验证
25
案例复盘
从实际项目中总结PTQ精度评估的经验… · 形成最佳实践
案例复盘PTQ
26
前沿技术
自适应量化 · 数据-free量化 · 量化感知搜索等最新PTQ研究方向
前沿技术自适应量化
27
综合实战项目
给定一个端侧AI任务 · 从模型选择 · PTQ量化
综合实战项目AI
28
课程总结
核心知识点回顾 · 常见误区 · 学习路径建议
课程总结核心知识点回顾
29
考核与认证
基于案例的实操考核 · 评估学员对PTQ精度评估流程的掌握程…
考核认证
30
扩展学习
推荐书籍 · 论文 · 开源项目
扩展学习推荐书籍