2. 硬件平台选型
做工业缺陷检测,选硬件这事儿,我见过太多人栽跟头了。有人一上来就买最贵的,结果算法跑不起来;有人图便宜,结果产线节拍死活跟不上。说白了,选硬件就是找平衡——算力、功耗、成本、生态,哪个都不能瘸腿。
这一章,我把市面上主流的几类边缘计算硬件掰开揉碎讲清楚。你读完至少能回答三个问题:我的项目该用哪类芯片?算力到底怎么算?选型时最容易踩哪些坑?
2.1 四大主流硬件平台速览
目前工业缺陷检测边缘端,能打的就这四类。我按使用场景排了个序,你对照着看:
| 平台 | 代表型号 | 核心优势 | 典型功耗 | 适合场景 |
|---|---|---|---|---|
| NVIDIA Jetson | Orin NX / Xavier NX | CUDA生态成熟,模型移植快 | 15W-40W | 高精度检测、多模型串联 |
| Rockchip RK3588 | RK3588 / RK3588S | NPU算力够用,成本低 | 8W-15W | 中等精度、成本敏感项目 |
| Intel NUC | NUC 12/13 Pro | x86兼容性好,OpenVINO加持 | 28W-65W | 已有x86代码、快速原型 |
| TPU加速卡 | Google Coral / Hailo-8 | 极致能效比,即插即用 | 2W-10W | 轻量模型、低功耗产线 |
我的建议: 如果你团队里CUDA熟手多,无脑选Jetson。如果老板卡预算,RK3588是性价比之王。别问我怎么知道的——我去年帮一家电子厂做AOI项目,就是用RK3588把单台成本压到了Jetson方案的60%。
2.2 算力评估:别只看TOPS
很多厂商喜欢拿TOPS(每秒万亿次操作)说事。但说实话,TOPS这玩意儿水分挺大。为什么?因为TOPS测的是理论峰值,实际跑模型时,内存带宽、算子兼容性、数据搬运开销,哪个都能把TOPS打回原形。
我个人习惯用「有效算力」这个概念。怎么算?三步走:
- 看内存带宽 — 带宽不够,算力再高也是白搭。比如Jetson Orin NX的带宽是102GB/s,RK3588是64GB/s,差了一倍。
- 看算子覆盖率 — 你的模型里有没有平台不支持的算子?有的话就得拆成CPU跑,速度直接掉一个数量级。
- 看实际帧率 — 拿你的模型在目标板上跑一遍,测FPS。这是最实在的。
算力评估公式(我自己的经验值):
有效算力 ≈ 理论TOPS × 带宽利用率 × 算子兼容系数
其中带宽利用率通常只有40%-60%,算子兼容系数在0.3-0.9之间。
2.3 选型策略:从需求倒推硬件
别先看硬件再想算法。反过来,先定需求再选硬件。我一般按这个流程走:
- 定模型 — 用YOLOv8还是ResNet?模型大小多少?
- 定帧率 — 产线节拍要求多少FPS?
- 定精度 — mAP要多少?能不能接受INT8量化?
- 定功耗 — 现场有没有散热条件?
- 定成本 — 单台硬件预算上限是多少?
举个例子。我去年做的一个PCB焊点检测项目:模型用YOLOv8s,要求30FPS,mAP≥0.95,现场有风扇散热,单台预算3000元以内。算下来,Jetson Orin NX超预算,Intel NUC功耗太高,最后选了RK3588,INT8量化后跑到32FPS,mAP 0.94,勉强达标。
避坑指南: 我曾经在一个项目中,只看TOPS选了某款NPU板子,结果模型里有个自定义算子不支持,硬生生拖了两个月才搞定。所以,选型前一定先做算子兼容性检查,别等板子到手了才发现跑不了。
2.4 硬件平台对比:一张图看懂
下面这张图是我自己整理的选型决策树。你照着走,基本不会跑偏:
2.5 实战选型清单
最后,给你一份我每次选型都会对照的清单。打印出来,贴在工位上:
- 模型兼容性 — 目标硬件是否支持你的模型框架?TensorRT、RKNN、OpenVINO?
- 内存容量 — 模型+预处理+后处理,峰值内存占用多少?留30%余量。
- 散热方案 — 被动散热还是主动散热?现场环境温度多少?
- 接口数量 — 需要接几个相机?USB、GMSL、MIPI?
- 供货周期 — 芯片缺货吗?交期多久?我见过项目等芯片等了半年。
- 开发工具链 — 有没有成熟的SDK?社区活跃吗?遇到问题有人问吗?
一个小技巧: 选型时别只看单板价格。把开发周期、调试成本、维护成本都算进去。有时候贵一点的平台,开发快一个月,反而更省钱。