VIP20

本课程属于：033-Edge AI RKNN模型转换 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

RKNN模型转换中NPU子图分配策略指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

了解RKNN模型转换的整体流程 · NPU子图分配的核心作用 · 课程目标与学习路径

课程导入RKNN

RKNN基础与NPU架构

掌握RKNN工具链的基本组成 · NPU硬件特性（如算子支持 · 内存层次）及其对子图划分的影响

模型转换流程概览

梳理从ONNX/PyTorch/Te… · 明确子图分配在其中的位置

模型转换流程概览ONNX/PyTorch…

子图分配核心概念

理解子图（Subgraph） · 算子融合 · 算子支持度

子图分配核心概念Subgraph

算子支持度分析

学习如何查询和判断算子是否支持NPU… · 以及不支持算子的处理策略

算子支持度分析NPU

子图划分策略基础

掌握子图划分的基本规则（如连续支持算… · 不支持算子切分）与常见划分模式

子图划分策略基础掌握子图划分的基…

RKNN工具链子图分配机制

深入RKNN-Toolkit2中子图… · 包括图优化 · 算子匹配与分组算法

RKNN工具链子图分配机…

手动干预子图分配

学习通过配置文件 · API参数或模型修改来手动控制子图划… · 优化NPU利用率

手动干预子图分配学习通过配置文件

子图分配性能评估

掌握如何通过性能分析工具（如RKNN… · 识别性能瓶颈

子图分配性能评估RKNN

常见子图分配问题

分析子图过多 · 算子回退 · 内存拷贝频繁等典型问题及其成因

常见子图分配问题分析子图过多

子图分配优化技巧

学习减少子图切换 · 增加算子融合 · 调整数据布局等实用优化方法

子图分配优化技巧学习减少子图切换

图像分类模型转换 · 演示完整转换过程 · 分析子图分配结果并优化

案例实战图像分类模型转换

目标检测模型转换：以YOLOv5为例 · 处理复杂网络结构中的子图分配挑战

案例实战YOLOv5

语义分割模型转换 · 应对高分辨率输入和密集预测的子图策略

案例实战语义分割模型转换

Transformer模型转换 · 处理注意力机制算子的子图分配

案例实战Transformer

自定义算子与子图分配

学习如何编写自定义算子并影响子图划分 · 以及注册NPU支持算子

自定义算子子图分配

多输入多输出模型的子图策略

处理多分支 · 多输出模型的子图分配 · 确保数据流高效

多输入多输出模型…处理多分支

动态形状与子图分配

理解动态输入对子图划分的影响 · 以及RKNN中的处理方式

动态形状子图分配

量化与子图分配协同

掌握量化参数对子图划分的影响 · 以及量化感知的子图优化

量化子图分配协同

内存规划与子图分配

学习NPU内存分配策略 · 减少子图间数据拷贝 · 提升整体效率

内存规划子图分配

调试子图分配问题

使用日志 · 可视化工具（如Netron）和调试A…

调试子图分配问题使用日志

性能调优实战

结合子图分配策略 · 对模型进行端到端性能调优 · 达到最佳NPU利用率

性能调优实战结合子图分配策略

RKNN版本差异与子图分配

了解不同RKNN工具链版本对子图分配…

RKNN版本差异

与TensorRT/OpenVINO子图策略对比

对比主流推理框架的子图分配思路 · 借鉴先进经验

TensorRT/Ope…子图策略对比

子图分配与模型部署

将子图优化后的模型部署到实际设备 · 验证稳定性和实时性

子图分配模型部署

常见错误与解决方案

汇总子图分配中的常见报错（如算子不支… · 内存溢出）及解决步骤

常见错误解决方案

多核NPU子图并行 · 提升吞吐量

高级主题NPU

从零优化一个复杂模型：综合运用所学 · 完成一个完整模型的子图分配优化并输出…

综合项目从零优化一个复杂…

课程总结与知识图谱

回顾核心知识点 · 构建子图分配策略的知识体系 · 强化记忆

课程总结知识图谱

考核与实战演练

通过模拟项目或测试题 · 检验学员对子图分配策略的掌握程度 · 并提供反馈

考核实战演练