1. 课程导学与环境准备：NPU与AI芯片概述、YOLO系列模型简介、嵌入式Linux开发板选型

各位同学，欢迎来到《NPU加速YOLO模型量化与嵌入式Linux部署实战》的第一章。

说实话，做AI嵌入式部署这些年，我踩过的坑比写过的代码还多。记得2018年我第一次把YOLOv3往ARM板子上移植，那叫一个惨——模型跑起来只有0.5帧，风扇呼呼转，板子烫得能煎鸡蛋。后来才明白，没有NPU加速，纯CPU跑目标检测就是个笑话。

所以这一章，咱们先把地基打牢。我会带着你搞清楚NPU到底是什么东西，YOLO家族有哪些成员适合上板子，以及市面上主流的开发板该怎么选。嗯，这些东西看似基础，但决定了你后面能不能顺利把模型跑起来。

1.1 NPU与AI芯片概述

先问个问题：为什么服务器上跑得好好的模型，一到嵌入式设备上就卡成PPT？

原因很简单——架构不同。CPU擅长逻辑控制和复杂分支，GPU擅长大规模并行浮点运算，但它们都不是为神经网络量身定做的。NPU（Neural Processing Unit）就不一样了，它专门为卷积、池化、激活函数这些算子做了硬件优化。

目前主流的AI芯片方案，我大致分了这么几类：

方案类型	代表芯片	算力（INT8）	典型功耗	我的评价
GPU方案	Jetson Orin NX	100 TOPS	10-25W	生态好，但贵，功耗偏高
NPU方案	瑞芯微RK3588	6 TOPS	3-8W	性价比之王，适合量产
TPU方案	算能BM1684	17.6 TOPS	5-12W	算力强，工具链成熟
FPGA方案	Xilinx Zynq	可定制	5-15W	灵活但开发周期长

我个人习惯把NPU分成两类：集成式NPU和独立式NPU。RK3588属于前者，NPU和CPU、GPU做在一个SoC里，成本低、体积小；BM1684属于后者，独立芯片通过PCIe或USB与主控连接，算力更强但占用空间大。

1.2 YOLO系列模型简介

YOLO（You Only Look Once）系列，做视觉的同学应该都不陌生。从2016年的YOLOv1到现在，已经迭代了十几个版本。但咱们做嵌入式部署，不是版本越新越好。

为什么？因为新版本往往意味着更大的模型体积和更高的计算量。你想想看，YOLOv8的模型参数量是YOLOv5的1.5倍，在服务器上跑没问题，但放到RK3588上，帧率直接腰斩。

我根据实际部署经验，把适合嵌入式的YOLO版本整理了一下：

模型版本	参数量	输入尺寸	RK3588帧率（INT8）	推荐场景
YOLOv5s	7.2M	640x640	~45 FPS	通用目标检测
YOLOv5n	1.9M	640x640	~80 FPS	轻量级/实时场景
YOLOv8n	3.2M	640x640	~55 FPS	精度优先的轻量场景
YOLOX-Nano	0.9M	416x416	~100 FPS	极致速度场景

这里有个经验：YOLOv5s是嵌入式部署的“黄金标准”。它的精度和速度平衡得最好，而且瑞芯微和算能的工具链对YOLOv5的支持最完善。我在三个量产项目里都用的YOLOv5s，一次都没翻车。

1.3 嵌入式Linux开发板选型

选开发板这件事，我见过太多人走弯路了。有人贪便宜买了全志的板子，结果NPU工具链文档全是英文，社区也没人维护；有人一步到位买了Jetson Orin，结果项目量产时发现成本压不下来。

咱们这门课聚焦两个主流平台：瑞芯微RK3588和算能BM1684。为什么选它们？

• RK3588：国产SoC里NPU生态最好的，RKNN工具链迭代快，社区活跃，适合中小型项目量产。
• BM1684：算能的老牌芯片，算力强，SDK稳定，适合对算力要求高的场景，比如多路视频分析。

我把两个平台的开发板参数做了个对比：

对比项	RK3588（如友善NanoPC-T6）	BM1684（如算能SE5）
NPU算力	6 TOPS (INT8)	17.6 TOPS (INT8)
CPU	4xA76 + 4xA55	8xA53
内存	8-16GB LPDDR4X	6GB LPDDR4
工具链	RKNN Toolkit 2.x	BMNNSDK 3.x
模型支持	PyTorch/ONNX/TF	Caffe/ONNX/PyTorch
参考价格	¥800-1500	¥1500-2500
典型功耗	5-8W	8-12W

我个人建议：初学者先入手RK3588。原因有三：一是价格便宜，折腾坏了不心疼；二是RKNN工具链的文档中文资料多，遇到问题好查；三是社区活跃，GitHub上有很多现成的YOLO部署示例。

1.4 交叉编译环境搭建

交叉编译，说白了就是在你的电脑上编译出能在开发板上运行的程序。为什么不能直接在板子上编译？因为板子的CPU性能太弱了，编译一个OpenCV就要半小时，你受得了吗？

咱们以RK3588为例，搭建交叉编译环境的步骤：

1. 安装交叉编译工具链：RK3588是ARMv8架构，需要aarch64-linux-gnu-gcc。
2. 配置环境变量：把工具链路径加到PATH里。
3. 编译依赖库：比如OpenCV、FFmpeg、Protobuf，都要用交叉编译器重新编译。
4. 编写CMake工具链文件：告诉CMake用哪个编译器、链接器。

这里给一个我常用的CMake工具链文件模板：

# toolchain_rk3588.cmake
set(CMAKE_SYSTEM_NAME Linux)
set(CMAKE_SYSTEM_PROCESSOR aarch64)

set(TOOLCHAIN_PATH /opt/rk3588/gcc-arm-10.3-2021.07-x86_64-aarch64-none-linux-gnu)

set(CMAKE_C_COMPILER ${TOOLCHAIN_PATH}/bin/aarch64-none-linux-gnu-gcc)
set(CMAKE_CXX_COMPILER ${TOOLCHAIN_PATH}/bin/aarch64-none-linux-gnu-g++)

set(CMAKE_FIND_ROOT_PATH ${TOOLCHAIN_PATH}/aarch64-none-linux-gnu)
set(CMAKE_FIND_ROOT_PATH_MODE_PROGRAM NEVER)
set(CMAKE_FIND_ROOT_PATH_MODE_LIBRARY ONLY)
set(CMAKE_FIND_ROOT_PATH_MODE_INCLUDE ONLY)

1.5 SDK与工具链安装

SDK安装这块，不同厂商的套路不太一样。我分别说一下RK3588和BM1684的安装要点。

瑞芯微RKNN Toolkit安装

RKNN Toolkit是瑞芯微的模型转换和推理工具链。安装步骤：

1. 从瑞芯微官网下载RKNN Toolkit 2.x的Python wheel包。
2. 在宿主机上安装：pip install rknn_toolkit2-*.whl
3. 验证安装：python -c "from rknn.api import RKNN; print('OK')"
4. 在板子上安装RKNN Runtime：通过adb或scp把runtime库推送到板子的/usr/lib目录。

算能BMNNSDK安装

算能的SDK安装相对复杂一些，因为它依赖Docker环境：

1. 安装Docker和nvidia-docker（如果要用GPU加速编译）。
2. 拉取算能提供的SDK镜像：docker pull sophgo/bmnnsdk:latest
3. 启动容器并挂载工作目录。
4. 在容器内编译模型转换工具和运行时库。

说实话，算能的SDK第一次用的时候我折腾了一整天。后来发现，关键是要把板子的系统版本和SDK版本对齐。BM1684的SDK 3.x只支持Linux内核5.10以上的系统，如果你板子刷的是老版本固件，SDK根本跑不起来。

1.6 本章知识体系总览

为了让你对本章内容有个整体印象，我画了一张结构图：

这张图把本章的四个核心模块串起来了。你可以看到，从NPU芯片选型到YOLO模型选择，再到开发板对比和环境搭建，是一条完整的链路。任何一个环节出问题，后面的部署都会卡住。