VIP20
本课程属于：028-RK3588RK3568RK3566与瑞芯微NPU边缘AI部署 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

5. RKNN量化校准：数据集选择和精度损失评估

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
RKNN量化校准的背景 · 学习目标 · 课程整体框架与适用人群
课程导入RKNN
02
量化基础
模型量化原理 · 定点与浮点表示 · 对称与非对称量化
量化基础模型量化原理
03
RKNN量化流程
从PyTorch/TensorFlo…
RKNN量化流程
04
校准数据集的作用
为什么需要校准数据集 · 校准数据如何影响量化scale和ze…
校准数据集的作用为什么需要校准数…
05
校准数据集选择原则
代表性 · 多样性 · 数量
校准数据集选择原…代表性
06
校准数据集构建方法
从训练集/验证集/测试集中选取 · 数据增强 · 采样策略
校准数据集构建方…从训练集
07
校准数据预处理
与模型训练时一致的预处理（归一化 · 尺寸 · 通道顺序）对量化精度的影响
校准数据预处理模型训练时一致的…
08
校准数据数量实验
不同校准样本数量（如100 · 500 · 1000）对量化精度的影响及最佳实践
校准数据数量实验不同校准样本数量
09
校准算法详解
MinMax · Percentile · KL散度
校准算法详解MinMax
10
RKNN校准参数配置
在RKNN-Toolkit中如何设置… · 校准算法 · 迭代次数等
RKNN校准参数配置
11
精度损失评估指标
分类任务（Top-1/Top-5） · 检测任务（mAP） · 分割任务（mIoU）等
精度损失评估指标Top-1/Top-5
12
精度对比方法
量化前后模型输出对比 · 逐层误差分析 · 特征图相似度（余弦相似度
精度对比方法量化前后模型输出…
13
精度损失原因分析
激活值分布 · 离群点 · 敏感层识别
精度损失原因分析激活值分布
14
敏感层分析与处理
如何定位对量化敏感的层 · 并采用混合精度或跳过量化策略
敏感层分析处理
15
混合精度量化
在RKNN中如何对特定层使用更高精度…
混合精度量化RKNN
16
量化感知训练（QAT）简介
QAT原理 · 与后训练量化（PTQ）的区别 · 在RKNN中的应用
QAT量化感知训练
17
校准数据集与过拟合
校准数据过多或过少可能带来的问题 · 如何避免校准集过拟合
校准数据集过拟合
18
实战案例1
基于ResNet50的图像分类模型R…
实战案例1ResNet50
19
实战案例2
基于YOLOv5的目标检测模型RKN…
实战案例2YOLOv5
20
实战案例3
基于UNet的语义分割模型RKNN量…
实战案例3UNet
21
常见问题1
校准数据集与训练集分布不一致导致精度…
常见问题1校准数据集
22
常见问题2
量化后模型输出NaN或异常值的可能原…
常见问题2NaN
23
常见问题3
校准过程耗时过长或内存不足的优化策略
常见问题3校准过程耗时过长…
24
精度损失评估工具
使用RKNN-Toolkit的精度分… · 可视化工具 · 日志解读
精度损失评估工具RKNN-Toolkit
25
校准数据集自动化生成
利用数据合成 · 生成对抗网络（GAN）或搜索方法自动…
校准数据集自动化…利用数据合成
26
多场景适配
针对不同硬件（RK3566/RK35…
多场景适配RK3566/RK35
27
量化精度与推理速度的权衡
如何根据实际需求选择合适的量化配置
量化精度推理速度的权衡
28
综合项目
从零开始为一个自定义模型设计完整的量…
综合项目从零开始为一个自…
29
课程总结
核心要点回顾 · 常见误区 · 最佳实践清单
课程总结核心要点回顾
30
进阶与展望
量化技术前沿（如 · AWQ） · RKNN未来特性
进阶