所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

瑞芯微NPU RKNN模型量化与精度优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
RKNN工具链概述 · NPU架构简介 · 量化与精度优化的学习路径
课程导入RKNN
02
环境搭建
RKNN-Toolkit2安装 · 依赖配置 · 开发板与模拟器环境准备
环境搭建RKNN-Toolkit…
03
模型转换基础
ONNX/PyTorch/Tenso…
模型转换基础ONNX/PyTorch…
04
量化原理入门
定点与浮点 · 对称/非对称量化 · 量化尺度与零点
量化原理入门定点
05
RKNN量化流程
默认量化配置 · 量化数据集准备 · 量化日志解读
RKNN量化流程
06
精度评估方法
使用RKNN评估工具 · 对比原始模型与量化模型输出 · 计算相似度指标
精度评估方法RKNN
07
量化误差来源
权重/激活分布 · 离群点 · 量化粒度
量化误差来源权重
08
数据预处理对量化影响
归一化 · 均值/方差 · 输入格式与量化校准数据一致性
数据预处理对量化…归一化
09
校准数据集构建
选择代表性样本 · 样本数量 · 类别平衡
校准数据集构建选择代表性样本
10
混合量化策略
部分层跳过量化 · 敏感层保留浮点 · 混合精度配置
混合量化策略部分层跳过量化
11
量化感知训练（QAT）
原理 · 在PyTorch中模拟量化 · 导出QAT模型转RKNN
QAT量化感知训练
12
训练后量化（PTQ）优化
权重均衡 · 偏置校正 · 激活裁剪
PTQ训练后量化
13
RKNN量化参数详解
量化算法（normal/kl/aci… · 粒度（per-tensor/per-… · 优化选项
RKNN量化参数详解
14
精度调优实战
以YOLOv5为例 · 分析量化后mAP下降并逐步优化
精度调优实战YOLOv5
15
精度调优实战
以分类模型（ResNet/Mobil… · 提升Top-1准确率
精度调优实战ResNet/Mobil
16
精度调优实战
以语义分割模型（DeepLab/UN… · 处理边界与细节损失
精度调优实战DeepLab/UN
17
精度调优实战
以OCR/检测模型为例 · 处理文本检测与识别精度问题
精度调优实战OCR
18
RKNN模型推理部署
在RK3588/RK3566等平台部… · NPU加速与CPU混合调度
RKNN模型推理部署
19
性能与精度权衡
量化对推理速度 · 内存占用 · 功耗的影响及平衡策略
性能精度权衡
20
常见问题排查
量化后输出NaN/Inf · 精度骤降 · 模型转换失败等错误处理
常见问题排查NaN/Inf
21
工具链高级功能
RKNN-Toolkit2的debu… · dump tensor · 逐层分析
工具链高级功能RKNN-Toolkit…
22
自定义算子与量化
自定义OP的注册 · 量化支持 · 精度验证
自定义算子量化
23
多模型与动态输入
动态shape处理 · 多batch量化 · 多模型并发优化
多模型动态输入
24
模型剪枝与量化结合
结构化剪枝 · 稀疏化与量化联合优化流程
模型剪枝量化结合
25
蒸馏与量化结合
知识蒸馏提升小模型量化精度 · 蒸馏训练技巧
蒸馏量化结合
26
RKNN模型加密与保护
模型加密 · 防破解 · 安全部署
RKNN模型加密
27
案例实战
从PyTorch到RKNN的完整流程…
案例实战PyTorch
28
案例实战
从ONNX到RKNN的完整流程（目标…
案例实战ONNX
29
案例实战
从TensorFlow到RKNN的完…
案例实战TensorFlow
30
综合项目与展望
端侧AI项目全流程 · 量化精度优化最佳实践 · 未来趋势与进阶学习建议
综合项目AI