2. 硬件平台选型

做边缘端部署,第一步就是选硬件。这事说白了,没有「最好」的板子,只有「最合适」的方案。我这些年经手过不下十种边缘设备,踩过的坑能写满一本笔记本。今天咱们就把 Jetson、RK3588、Intel NUC 这三条主流路线掰开揉碎聊清楚。

三款主流平台的核心定位

先给个总览。这三款芯片代表了三种不同的设计哲学:

维度 NVIDIA Jetson (Orin NX/AGX) Rockchip RK3588 Intel NUC (12/13代)
算力类型 GPU 主导,Tensor Core 加速 NPU + GPU 异构 CPU 主导,可加 Intel Movidius
AI 算力 40~275 TOPS (INT8) 6 TOPS (NPU) + 1 TOPS (GPU) 无原生 AI 单元,依赖扩展卡
典型功耗 15~60W 5~15W 28~65W
价格区间 ¥3000~15000 ¥800~2500 ¥2500~8000
开发难度 中等(CUDA 生态成熟) 较高(NPU 工具链不完善) 低(标准 x86 环境)
工业相机兼容 需 USB/PCIe 转接 原生 MIPI-CSI + USB3.0 USB3.0 / GigE 直连

我的建议: 如果项目以深度学习推理为主,优先考虑 Jetson;如果既要跑视觉又要做控制,RK3588 性价比极高;如果只是做图像采集和简单处理,Intel NUC 最省心。

Jetson 系列:深度学习推理的王者

Jetson 是我用得最多的平台。它的优势很明显——CUDA 生态太强了。你想想看,PyTorch 模型训练完,用 TensorRT 一转换,直接部署到 Jetson 上,几乎不用改代码。

但有个坑我必须提一下。我记得第一次用 Jetson Xavier NX 接工业相机,发现 USB 带宽不够。后来查资料才知道,Jetson 的 USB 控制器和 PCIe 通道是共享带宽的。如果你同时接两个 500 万像素的相机跑 30fps,很容易丢帧。

避坑指南: 我曾经在一个质检项目里,用 Jetson Orin NX 接了 4 路 GigE 相机。结果发现 Jetson 的网卡只有 1Gbps,4 路同时传输时带宽直接打满。最后只能降帧率或者加 USB 转千兆网卡。选型时一定要算好 I/O 带宽。

Jetson 的算力分级也很清晰:

  • Jetson Nano (4GB):适合入门,跑轻量模型(MobileNet、YOLOv5s)
  • Jetson TX2 NX:老平台,现在不推荐新项目用
  • Jetson Orin NX (16GB):甜点级,100 TOPS,能跑 YOLOv8m 实时
  • Jetson AGX Orin (64GB):旗舰级,275 TOPS,适合多模型级联

RK3588:国产性价比之王

RK3588 这两年火得不行。8 核 CPU + Mali-G610 GPU + 6 TOPS NPU,价格才 Jetson Orin NX 的三分之一。我去年帮一个客户做智能相机方案,就是用 RK3588 做的。

说实话,RK3588 的 NPU 算力只有 6 TOPS,但实际用起来并没有那么不堪。因为它的 NPU 是专门为卷积优化的,跑 YOLOv5s 能到 30fps 以上。而且它原生支持 4 路 MIPI-CSI 相机输入,这对多目视觉项目来说太友好了。

不过,RK3588 的软件生态确实不如 Jetson。它的 NPU 工具链(RKNN)还在快速迭代中,我遇到过模型转换后精度掉 2~3 个点的情况。如果你对精度要求极高,建议先在 GPU 上验证,再转 NPU。

小技巧: RK3588 的 NPU 支持 INT8 量化,但量化校准数据集一定要覆盖实际场景。我有个项目因为校准集只有白天数据,晚上部署时检测率直接掉了 15%。

Intel NUC:通用计算的稳定之选

Intel NUC 本质上就是一台迷你 PC。它的优势在于兼容性——任何能在 Windows/Linux 上跑的 SDK,NUC 都能跑。工业相机厂商的 SDK 基本都是先支持 x86 平台。

但 NUC 没有原生 AI 加速单元。如果你要跑深度学习,要么用 CPU 硬扛(效率极低),要么加 Intel Movidius 神经计算棒,要么插一张 MXM 显卡。我试过用 NUC 11 + 外接 GPU 跑 YOLOv8,效果还行,但功耗和体积都上去了。

NUC 最适合的场景是:

  • 图像采集 + 预处理(去畸变、色彩校正)
  • 传统视觉算法(OpenCV 特征匹配、标定)
  • 作为上位机,协调多个边缘设备

算力评估:别只看 TOPS

很多人选型时只看 TOPS 数值,这是个误区。TOPS 只是理论峰值,实际能用到多少取决于:

  1. 模型结构:卷积层多的模型在 NPU 上效率高,全连接层多的模型在 GPU 上效率高
  2. 数据带宽:模型再快,输入图像传不进去也是白搭
  3. 内存带宽:Jetson Orin NX 的 102GB/s 内存带宽,比 RK3588 的 64GB/s 高出一截

我一般用这个公式做粗略估算:

实际帧率 = 模型推理时间 + 预处理时间 + 后处理时间 + 传输延迟
其中:
- 模型推理时间 ≈ 模型计算量 (GFLOPs) / 实际算力 (GFLOPs)
- 实际算力 ≈ 理论 TOPS × 利用率系数 (0.3~0.7)

经验数据: 在 Jetson Orin NX 上跑 YOLOv8s (INT8),实际帧率约 60fps;在 RK3588 NPU 上跑同样的模型,约 30fps;在 NUC i7 上纯 CPU 跑,只有 8fps。选型时心里要有数。

选型决策流程

我画了一张流程图,帮你理清思路:

边缘计算硬件选型决策流程 项目需求分析 是否需要深度学习推理? 否 是 传统视觉为主 选 Intel NUC 兼容性好,开发快 深度学习为主 预算是否充足? 预算有限 预算充足 选 RK3588 性价比高,多路相机 选 Jetson Orin 生态好,算力强 确定硬件方案

我的最终建议

如果你现在要开始一个边缘视觉项目,我建议这样选:

  • 学生/个人开发者:先买一块 RK3588 开发板(约 ¥1000),把流程跑通。等有预算了再上 Jetson。
  • 工业项目(高可靠性):直接上 Jetson Orin NX,别省那点钱。工业现场出一次问题,省下的钱全赔进去。
  • 多相机 + 复杂预处理:考虑 RK3588 或 NUC。Jetson 的 I/O 带宽是硬伤。
  • 纯图像采集 + 上位机:Intel NUC 最省心,驱动兼容性最好。

最后说一句: 选型不是一锤子买卖。我习惯先买一块最便宜的开发板做原型验证,确认算法能跑、接口能通,再根据实际瓶颈升级硬件。这样既省钱又稳妥。