所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。

← 返回上一级

← 返回所属目录咨询 / 购买

瑞芯微RK3588模型部署与NPU内存优化

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · RK3588平台概述与NPU能力总览

课程导入学习目标

RK3588开发板准备 · 交叉编译工具链 · NPU驱动与RKNN Toolkit…

环境搭建RK3588

NPU硬件架构

RK3588 NPU算力 · 核心数 · 内存带宽

NPU硬件架构

模型转换基础

ONNX · PyTorch · TensorFlow模型导出为RKN…

模型转换基础ONNX

RKNN-Toolkit2使用

模型转换 · 量化 · 预编译

RKNN-Toolkit…使用

模型量化原理

FP16 · INT8 · 混合量化对精度和性能的影响

模型量化原理FP16

RKNN模型文件解析

rknn文件结构 · 权重布局 · 算子映射与NPU可执行单元

RKNN模型文件解析

NPU内存模型

NPU内部SRAM · DDR带宽 · 内存对齐

NPU内存模型

内存优化基础

减少内存峰值 · 复用中间张量 · 避免不必要拷贝的通用策略

内存优化基础减少内存峰值

模型部署流程

从训练到板端推理的完整pipelin… · 包括预处理 · 后处理与NPU交互

模型部署流程pipelin

RKNN C API编程

初始化 · 加载模型 · 设置输入输出

Python推理接口

RKNN Python API在板端… · 与C API的对比和适用场景

Python推理接口

输入输出内存管理

零拷贝 · 共享内存 · DMA传输

输入输出内存管理零拷贝

内存分配优化

使用RKNN内存池 · 自定义分配策略 · 减少碎片化与对齐问题

内存分配优化RKNN

模型内存占用分析

使用工具查看模型各层内存占用 · 定位内存瓶颈

模型内存占用分析使用工具查看模型…

算子内存优化

针对卷积 · 全连接 · 注意力等算子的内存复用与融合技巧

算子内存优化针对卷积

多模型并发部署

多模型共享NPU时的内存规划 · 时间片调度与资源竞争处理

多模型并发部署NPU

动态形状与内存

动态输入尺寸对内存分配的影响 · 以及固定形状优化内存的方法

动态形状内存

量化后内存优化

INT8量化对权重和激活内存的压缩效… · 以及进一步优化策略

量化后内存优化INT8

YOLOv5目标检测模型在RK358…

案例实战YOLOv5

ResNet50图像分类模型部署 · 并对比不同量化策略下的内存与精度

案例实战ResNet50

Transformer模型（如BER…

案例实战Transformer

视频流实时推理场景下的内存复用与帧缓…

案例实战视频流实时推理场…

性能调优工具

使用RKNN Profiler · perf · valgrind等工具分析内存和性能…

性能调优工具RKNN

常见问题与解决

模型转换失败 · 精度下降 · 内存溢出

常见问题解决

内存优化高级技巧

算子融合 · 通道重排 · 权重剪枝与知识蒸馏对内存的影响

内存优化高级技巧算子融合

多线程与异步推理

多线程流水线 · 异步推理与内存预取提升吞吐量

多线程异步推理

系统级内存优化

与Linux内存管理 · CMA · ION等机制结合

系统级内存优化Linux

从零构建一个完整的RK3588 NP… · 包含内存优化全流程

综合项目RK3588

课程总结与进阶

回顾核心知识点 · 展望RK3588后续平台与NPU技术…

课程总结进阶