3. 嵌入式平台选型

做嵌入式YOLO,第一关就是选芯片。

我见过不少团队,算法调得再好,结果板子跑不动,帧率上不去,功耗还压不住。说白了,选型就是一场算力与功耗的博弈。你想想看,一块Jetson Orin NX算力高达100 TOPS,但功耗可能飙到25W;而K210只有0.8 TOPS,功耗却不到1W。这中间的取舍,直接决定了你的产品能不能落地。

这一章,我就把市面上主流的四款芯片——Jetson、RK3588、K210、树莓派——掰开揉碎讲清楚。我会结合自己的项目经验,告诉你什么场景该选谁,以及为什么。

3.1 四款芯片的核心参数对比

先看一张硬核对比表。这些数字我反复核对过,都是实际跑YOLO时最关键的指标。

芯片平台 AI算力 (INT8) 典型功耗 能效比 (TOPS/W) 内存 典型价格
Jetson Orin NX 100 TOPS 15W - 25W 4.0 - 6.7 8GB/16GB LPDDR5 约 ¥4000+
RK3588 6 TOPS (NPU) 5W - 10W 0.6 - 1.2 8GB/16GB LPDDR4X 约 ¥800 - ¥1500
K210 0.8 TOPS 0.3W - 0.8W 1.0 - 2.7 8MB SRAM 约 ¥50 - ¥100
树莓派4B 0.1 TOPS (CPU/GPU) 3W - 7W 0.01 - 0.03 2GB/4GB/8GB LPDDR4 约 ¥300 - ¥600

我的经验之谈: 能效比这个数字最骗不了人。Jetson Orin NX虽然功耗高,但每瓦能给你4-6.7 TOPS的算力,这在高端边缘设备里是天花板。而K210虽然算力低,但0.3W就能跑0.8 TOPS,做电池供电的传感器节点非常合适。

3.2 各平台深度解析

3.2.1 NVIDIA Jetson 系列

Jetson是嵌入式AI的标杆。我最早接触的是Jetson TX2,那时候跑YOLOv3还得费劲优化。现在Orin NX直接干到100 TOPS,YOLOv8s能跑到60 FPS以上。

优势:

  • CUDA生态无敌,TensorRT优化一条龙
  • 支持所有主流YOLO版本,从v3到v8到v9
  • 多路摄像头输入,适合复杂视觉系统

劣势:

  • 价格贵,功耗高,不适合电池设备
  • 散热压力大,25W模式需要主动散热

避坑指南: 我曾经在一个无人机项目里选了Jetson Xavier NX,结果飞了10分钟就过热降频。后来换成Orin NX,把功耗模式调到15W,才勉强稳住。如果你做移动设备,一定要算好散热余量。

3.2.2 Rockchip RK3588

RK3588是国产芯片里的一匹黑马。它的NPU有6 TOPS算力,虽然比不上Jetson,但胜在性价比极高。我最近一个智能摄像头项目就用的它,跑YOLOv5s能到30 FPS,功耗才8W。

优势:

  • 价格只有Jetson的1/4,量产后成本优势明显
  • 6 TOPS NPU + 4核Cortex-A76 + 4核Cortex-A55,异构计算灵活
  • 支持RKNN工具链,模型转换比较成熟

劣势:

  • NPU只支持INT8,精度损失需要校准
  • 生态不如NVIDIA,部分算子需要手动实现

注意: RK3588的NPU对YOLO的Focus层支持不太好。我踩过这个坑,后来把Focus层改成了普通的Conv+BN,才顺利跑起来。如果你用YOLOv5,记得检查一下算子兼容性。

3.2.3 Kendryte K210

K210是个很有意思的芯片。它只有0.8 TOPS,但功耗低到令人发指。我做过一个智能门锁项目,用K210跑YOLOv2-tiny,电池供电能撑半年。

优势:

  • 超低功耗,适合电池供电场景
  • 内置硬件FPU和FFT加速器,图像预处理快
  • 价格极低,适合大规模部署

劣势:

  • 算力有限,只能跑轻量级YOLO(如YOLOv2-tiny、YOLO-Nano)
  • 内存只有8MB,模型大小受限
  • 开发工具链比较原始,调试不方便

3.2.4 树莓派4B

树莓派其实不算AI芯片,但很多人拿它做原型验证。它的GPU只有0.1 TOPS,跑YOLO基本靠CPU硬算。我试过在树莓派4B上跑YOLOv3-tiny,帧率只有2-3 FPS,基本不可用。

优势:

  • 社区资源丰富,上手简单
  • GPIO接口多,适合做外设控制

劣势:

  • 没有专用NPU,AI算力聊胜于无
  • 跑YOLO只能做演示,无法实际部署

我的建议: 树莓派适合做控制中枢或数据采集,别指望它跑实时YOLO。如果你预算有限又想玩AI,不如加个USB加速棒,比如Google Coral,能到4 TOPS。

3.3 算力与功耗的权衡策略

选型不是看参数表那么简单。我总结了一个决策框架,帮你快速定位。

嵌入式AI芯片选型决策树 项目需求 电池供电? 市电供电? K210 (0.3W) RK3588 (5-10W) Jetson Orin NX 树莓派4B 决策说明: • 电池供电 + 超低功耗 → K210(适合传感器、门锁、标签) • 电池供电 + 中等算力 → RK3588(适合无人机、手持设备) • 市电供电 + 高性能 → Jetson Orin NX(适合机器人、边缘服务器) • 原型验证/控制中枢 → 树莓派4B(不适合跑YOLO)

3.4 实战选型建议

说了这么多,我直接给你几个具体方案。

3.4.1 方案一:高性能边缘计算

芯片: Jetson Orin NX 16GB

场景: 自动驾驶、工业质检、安防监控

YOLO配置: YOLOv8m,640x640输入,INT8量化,目标50 FPS

功耗预算: 25W,需要主动散热

3.4.2 方案二:中等算力性价比方案

芯片: RK3588

场景: 智能摄像头、边缘网关、服务机器人

YOLO配置: YOLOv5s,320x320输入,RKNN量化,目标30 FPS

功耗预算: 8W,被动散热即可

3.4.3 方案三:超低功耗传感器节点

芯片: K210

场景: 智能门锁、人体检测、手势识别

YOLO配置: YOLOv2-tiny,224x224输入,目标10 FPS

功耗预算: 0.5W,电池供电半年以上

我的经验: 如果你刚开始做嵌入式YOLO,我建议从RK3588入手。它价格适中,性能够用,踩坑成本低。等把整个流水线跑通了,再根据实际需求升级到Jetson或者降级到K210。

3.5 本章小结

选型没有的好坏,只有合不合适。记住三个核心原则:

  • 算力够用就行——别为了跑YOLOv8硬上Jetson,YOLOv5s在很多场景下已经足够
  • 功耗是硬约束——电池设备优先考虑K210或RK3588,市电设备才考虑Jetson
  • 生态决定开发效率——NVIDIA的TensorRT最成熟,RKNN次之,K210最折腾