2. 硬件平台选型

做工业缺陷检测,选硬件这事儿,我见过太多人栽跟头了。有人一上来就买最贵的,结果算法跑不起来;有人图便宜,结果产线节拍死活跟不上。说白了,选硬件就是找平衡——算力、功耗、成本、生态,哪个都不能瘸腿。

这一章,我把市面上主流的几类边缘计算硬件掰开揉碎讲清楚。你读完至少能回答三个问题:我的项目该用哪类芯片?算力到底怎么算?选型时最容易踩哪些坑?

2.1 四大主流硬件平台速览

目前工业缺陷检测边缘端,能打的就这四类。我按使用场景排了个序,你对照着看:

平台 代表型号 核心优势 典型功耗 适合场景
NVIDIA Jetson Orin NX / Xavier NX CUDA生态成熟,模型移植快 15W-40W 高精度检测、多模型串联
Rockchip RK3588 RK3588 / RK3588S NPU算力够用,成本低 8W-15W 中等精度、成本敏感项目
Intel NUC NUC 12/13 Pro x86兼容性好,OpenVINO加持 28W-65W 已有x86代码、快速原型
TPU加速卡 Google Coral / Hailo-8 极致能效比,即插即用 2W-10W 轻量模型、低功耗产线
我的建议: 如果你团队里CUDA熟手多,无脑选Jetson。如果老板卡预算,RK3588是性价比之王。别问我怎么知道的——我去年帮一家电子厂做AOI项目,就是用RK3588把单台成本压到了Jetson方案的60%。

2.2 算力评估:别只看TOPS

很多厂商喜欢拿TOPS(每秒万亿次操作)说事。但说实话,TOPS这玩意儿水分挺大。为什么?因为TOPS测的是理论峰值,实际跑模型时,内存带宽、算子兼容性、数据搬运开销,哪个都能把TOPS打回原形。

我个人习惯用「有效算力」这个概念。怎么算?三步走:

  1. 看内存带宽 — 带宽不够,算力再高也是白搭。比如Jetson Orin NX的带宽是102GB/s,RK3588是64GB/s,差了一倍。
  2. 看算子覆盖率 — 你的模型里有没有平台不支持的算子?有的话就得拆成CPU跑,速度直接掉一个数量级。
  3. 看实际帧率 — 拿你的模型在目标板上跑一遍,测FPS。这是最实在的。

算力评估公式(我自己的经验值):

有效算力 ≈ 理论TOPS × 带宽利用率 × 算子兼容系数

其中带宽利用率通常只有40%-60%,算子兼容系数在0.3-0.9之间。

2.3 选型策略:从需求倒推硬件

别先看硬件再想算法。反过来,先定需求再选硬件。我一般按这个流程走:

  1. 定模型 — 用YOLOv8还是ResNet?模型大小多少?
  2. 定帧率 — 产线节拍要求多少FPS?
  3. 定精度 — mAP要多少?能不能接受INT8量化?
  4. 定功耗 — 现场有没有散热条件?
  5. 定成本 — 单台硬件预算上限是多少?

举个例子。我去年做的一个PCB焊点检测项目:模型用YOLOv8s,要求30FPS,mAP≥0.95,现场有风扇散热,单台预算3000元以内。算下来,Jetson Orin NX超预算,Intel NUC功耗太高,最后选了RK3588,INT8量化后跑到32FPS,mAP 0.94,勉强达标。

避坑指南: 我曾经在一个项目中,只看TOPS选了某款NPU板子,结果模型里有个自定义算子不支持,硬生生拖了两个月才搞定。所以,选型前一定先做算子兼容性检查,别等板子到手了才发现跑不了。

2.4 硬件平台对比:一张图看懂

下面这张图是我自己整理的选型决策树。你照着走,基本不会跑偏:

边缘计算硬件选型决策树 开始选型 高精度 + 高帧率 中等精度 + 成本敏感 Jetson Orin NX RK3588 CUDA生态,模型移植快 NPU算力够用,成本低 功耗15-40W 功耗8-15W 适合:高精度检测 适合:中等精度项目 选型核心:先定模型和帧率 再反推硬件,别搞反了

2.5 实战选型清单

最后,给你一份我每次选型都会对照的清单。打印出来,贴在工位上:

  • 模型兼容性 — 目标硬件是否支持你的模型框架?TensorRT、RKNN、OpenVINO?
  • 内存容量 — 模型+预处理+后处理,峰值内存占用多少?留30%余量。
  • 散热方案 — 被动散热还是主动散热?现场环境温度多少?
  • 接口数量 — 需要接几个相机?USB、GMSL、MIPI?
  • 供货周期 — 芯片缺货吗?交期多久?我见过项目等芯片等了半年。
  • 开发工具链 — 有没有成熟的SDK?社区活跃吗?遇到问题有人问吗?
一个小技巧: 选型时别只看单板价格。把开发周期、调试成本、维护成本都算进去。有时候贵一点的平台,开发快一个月,反而更省钱。