端侧部署硬件选型：常见MCU、MPU、NPU平台对比，重点介绍RK系列芯片
在TinyML工作流中，当模型完成训练、量化与转换后，面临的第一个现实问题便是“部署到哪里”。端侧硬件的选型直接决定了模型的推理速度、功耗预算、内存占用以及最终的产品成本。本章将系统梳理MCU、MPU与NPU三类平台的本质差异，并深入剖析瑞芯微RK系列芯片（以RK3566与RK3588为核心）的算力规格、内存架构与外设资源，帮助你在“性能-功耗-成本”三角约束下做出合理的工程决策。
核心原理：MCU、MPU与NPU的本质差异
理解三类平台的差异，需要从计算架构与存储体系两个维度切入。MCU（Microcontroller Unit）将CPU核心、Flash存储、SRAM以及各类外设集成在单一芯片上，采用冯·诺依曼或哈佛结构，运行裸机程序或RTOS。其优势在于极低的功耗（毫瓦级）、确定性的实时响应和低廉的成本，但受限于时钟频率（通常低于500MHz）和内存容量（KB级），只能运行经过高度优化的轻量级模型（如MobileNetV1的1/8通道版本）。
MPU（Microprocessor Unit）则仅集成CPU核心与内存控制器，需要外接DDR内存与eMMC/NAND存储。它运行完整的Linux或Android系统，拥有GB级内存和GHz级主频，能够承载更复杂的模型与多线程任务。但代价是功耗上升至瓦级，启动时间从毫秒级变为秒级，且系统复杂度显著增加。
NPU（Neural Processing Unit）并非独立的芯片类别，而是集成在SoC中的专用加速器。它通过脉动阵列或SIMD架构，对卷积、矩阵乘等算子进行硬件级并行计算。以INT8精度为例，NPU的能效比（TOPS/W）通常是CPU的10-50倍。RKNN（Rockchip Neural Network）工具链正是针对瑞芯微NPU的模型转换与优化工具，它将训练好的模型（如ONNX、TensorFlow、PyTorch格式）转换为RKNN格式，并生成可在NPU上高效运行的推理代码。
判断方法：根据模型复杂度与功耗预算选型
选型决策应遵循“先算力后功耗，再内存与外设”的流程。具体步骤如下：
- 估算模型算力需求：使用工具（如Netron、AI Benchmark）统计模型的乘加运算次数（MACs）。例如，MobileNetV2的224×224输入约需300M MACs，而YOLOv5s约需16G MACs。将MACs乘以2得到FLOPs，再除以目标帧率（如30FPS），即可得到所需算力（TOPS）。
- 评估内存带宽瓶颈：NPU的峰值算力只有在数据供给充足时才能发挥。计算所需内存带宽 = 模型权重大小 + 特征图大小 × 帧率。例如，一个10MB的模型在30FPS下至少需要300MB/s带宽，而RK3566的LPDDR4带宽约为4.2GB/s，通常不会成为瓶颈。
- 匹配功耗预算：电池供电设备通常限制在1W以内，此时只能选择MCU或带低功耗模式的MPU（如RK3566在待机时功耗可降至0.5W）。插电设备可放宽至5-15W，RK3588在此区间表现优异。
- 检查外设接口：确认摄像头接口（MIPI-CSI）、显示接口（MIPI-DSI/HDMI）、通信接口（UART/SPI/I2C/USB）是否满足产品需求。RK系列芯片在接口丰富度上具有明显优势。
| 对比维度 | MCU (STM32H7) | MPU (RK3566) | MPU+NPU (RK3588) |
|---|---|---|---|
| CPU核心 | Cortex-M7 @ 480MHz | 4×Cortex-A55 @ 2.0GHz | 4×A76 + 4×A55 @ 2.4GHz |
| NPU算力 | 无 | 0.8 TOPS (INT8) | 6 TOPS (INT8) |
| 内存 | 1MB SRAM | 1-8GB LPDDR4 | 2-32GB LPDDR4X/5 |
| 存储 | 2MB Flash | eMMC 5.1 | eMMC 5.1 / NVMe |
| 典型功耗 | 0.1-0.3W | 2-5W | 5-15W |
| 操作系统 | 裸机/RTOS | Linux (Buildroot/Yocto) | Linux / Android 12 |
| 推理框架 | TFLite Micro / CMSIS-NN | RKNN-Toolkit2 + RKNN Runtime | RKNN-Toolkit2 + RKNN Runtime |
RK3566与RK3588深度解析
瑞芯微RK系列在端侧AI市场占据重要地位，其核心优势在于NPU工具链的成熟度与生态完整性。RK3566定位中低端，适合智能家居、边缘网关等场景；RK3588定位高端，适用于智能安防、边缘计算服务器等对算力要求较高的设备。
RK3566：性价比之选
RK3566采用22nm工艺，集成四核Cortex-A55 CPU与0.8 TOPS NPU。其NPU支持INT8/INT16混合精度计算，并内置2MB的SRAM作为中间缓冲区，可减少DDR访问次数。在内存方面，支持LPDDR4/LPDDR4X，最高频率1600MHz，带宽4.2GB/s。外设资源包括：1个MIPI-CSI（4通道）、1个MIPI-DSI（4通道）、1个HDMI 2.0、4个UART、2个SPI、6个I2C、2个USB 2.0和1个USB 3.0。对于大多数视觉类TinyML应用（如人脸检测、口罩识别），RK3566的NPU可运行YOLOv5s的INT8量化版本，帧率可达15-20FPS。
RK3588：旗舰性能
RK3588采用8nm工艺，CPU为4×Cortex-A76（2.4GHz）+ 4×Cortex-A55（1.8GHz）的big.LITTLE架构，NPU算力提升至6 TOPS，并支持三核独立工作。内存支持LPDDR4X（4266MHz）与LPDDR5（6400MHz），带宽最高可达51.2GB/s，为大规模特征图传输提供了充足带宽。外设资源极为丰富：2个MIPI-CSI（每个4通道）、2个MIPI-DSI、HDMI 2.1、PCIe 3.0、双千兆以太网、8路UART、3个SPI、9个I2C、4个USB 3.0。在RKNN工具链的优化下，RK3588可运行YOLOv7-tiny的INT8版本，帧率超过60FPS，满足实时视频分析需求。
案例拆解：智能摄像头的人脸识别部署
某安防公司需要开发一款智能门禁摄像头，要求在1W功耗预算内实现人脸检测与识别，识别准确率不低于95%，帧率不低于10FPS。初始方案采用STM32H7 + 外部NPU（如K210），但发现K210的0.8 TOPS算力在运行MobileFaceNet时帧率仅6FPS，且双芯片通信延迟导致整体响应时间超过500ms。
经过重新评估，团队选择RK3566作为主控。关键决策依据如下：
- 算力匹配：MobileFaceNet的INT8版本约需0.4 TOPS，RK3566的0.8 TOPS留有50%余量，可同时运行图像预处理任务。
- 内存带宽：输入分辨率640×480，特征图峰值约2MB，所需带宽约200MB/s，远低于4.2GB/s上限。
- 功耗控制：通过DVFS（动态电压频率调节）将CPU频率限制在1.2GHz，NPU频率限制在400MHz，实测整板功耗0.8W。
实际部署中，使用RKNN-Toolkit2将PyTorch训练的模型转换为RKNN格式，并开启混合量化（部分层保留INT16）。在RK3566上运行，人脸检测（RetinaFace）耗时45ms，识别（MobileFaceNet）耗时28ms，总帧率约13FPS，满足需求。相比原方案，功耗降低20%，成本降低15%。
常见误区与总结复盘
在硬件选型中，工程师常陷入以下误区：
- 忽略内存带宽：只关注TOPS，却未考虑DDR带宽是否匹配。当模型层数深、特征图大时，带宽不足会导致NPU空转。
- 外设接口遗漏：未提前确认摄像头接口数量与协议，导致后期需要额外转接芯片，增加成本与功耗。
- 散热设计缺失：RK3588在满负荷运行时功耗可达15W，若未设计散热片或风扇，芯片会因过热降频，实际性能下降30%以上。
- 工具链适配不足：部分自定义算子（如动态ROI Align）在RKNN中不支持，需手动实现或改用CPU计算，影响整体性能。
总结而言，端侧硬件选型应遵循“模型驱动”原则：先用Netron分析模型结构，用AI Benchmark估算算力，再结合功耗与成本约束，在RK3566与RK3588之间做出选择。对于大多数TinyML场景，RK3566已足够；若需处理多路视频流或大模型，则RK3588是更稳妥的选择。下一阶段，我们将深入RKNN工具链的模型转换与量化细节，敬请期待。