所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。

← 返回上一级

← 返回所属目录咨询 / 购买

RK3588 NPU模型部署与内存优化

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · RK3588 NPU整体介绍

课程导入学习目标

RK3588 NPU硬件架构

NPU算力 · 核心数量 · 内存带宽

RKNN-Toolkit2工具链

安装配置 · 版本选择 · 模型转换流程（PyTorch/Ten…

RKNN-Toolkit…工具链

模型转换实战

以YOLOv5为例 · 完成从ONNX到RKNN的转换 · 处理算子兼容性问题

模型转换实战YOLOv5

RKNN模型量化

量化原理（INT8/FP16） · 量化方法（训练后量化 · 量化感知训练）

RKNN模型量化

RKNN模型推理API

C/Python API使用 · 输入输出格式 · 内存管理接口（rknn_init/r…

NPU内存管理基础

NPU内存分配机制 · 内存池 · 零拷贝

NPU内存管理基础

模型部署内存优化策略

权重内存压缩 · 激活内存复用 · 中间张量生命周期管理

模型部署内存优化…权重内存压缩

多模型并发部署

多NPU核心调度 · 多模型内存隔离 · 共享内存池设计

多模型并发部署NPU

RKNN模型性能分析

使用RKNN Toolkit性能分析… · Profiling指标解读 · 瓶颈定位

RKNN模型性能分析

内存优化实战

通过调整RKNN配置（如force_… · quantized_dtype）降低…

内存优化实战RKNN

模型剪枝与稀疏化

结构化剪枝 · 非结构化剪枝 · 稀疏矩阵存储对NPU内存的影响

模型剪枝稀疏化

知识蒸馏与轻量化模型

MobileNet · EfficientNet等轻量网络在…

知识蒸馏轻量化模型

RKNN模型加密与保护

模型加密方法 · 内存安全 · 防逆向

RKNN模型加密

嵌入式Linux内存优化

CMA · ION · DMA-BUF

RK3588 NPU驱动与内核

RKNPU驱动架构 · 内存分配器 · mmap机制

实时视频流处理内存优化

多路视频解码 · NPU推理 · 显示链路中的内存复用与零拷贝

实时视频流处理内…多路视频解码

目标检测模型部署案例

YOLOv8在RK3588上的完整部… · 包括内存优化前后对比

目标检测模型部署…YOLOv8

语义分割模型部署案例

DeepLabV3+在RK3588上… · 处理高分辨率输入的内存优化

语义分割模型部署…DeepLabV3+

Transformer模型部署

ViT · Swin Transformer在R… · 量化与内存优化

Transformer模型部署

大模型（LLM）在RK3588上的部署

模型分片 · 内存映射 · KV Cache优化

内存泄漏检测与调试

使用valgrind · AddressSanitizer · RKNN日志定位内存问题

内存泄漏检测调试

多线程与异步推理

线程池 · 异步队列 · 双缓冲机制减少内存峰值

多线程异步推理

内存优化工具与脚本

编写Python脚本分析RKNN模型… · 自动优化配置

内存优化工具脚本

常见问题与解决方案

转换失败 · 精度下降 · 内存溢出

常见问题解决方案

性能与内存的权衡

如何根据应用场景平衡推理速度 · 精度和内存占用

性能内存的权衡

综合实战项目

构建一个端到端的智能安防系统 · 包含多模型部署 · 内存优化

综合实战项目构建一个端到端的…

使用NPU的DMA · 张量内存布局（NHWC/NCHW） · 算子融合减少内存访问

进阶优化NPU

RK3588 NPU生态与未来

RKNN-Toolkit2新特性 · 社区资源 · 与瑞芯微官方支持

课程总结与考核

回顾核心知识点 · 综合测试 · 项目答辩

课程总结考核