硬件平台选型：CPU、GPU、NPU、FPGA的架构对比与选型策略
做硬件部署这么多年，我经常被问到同一个问题：“到底该用CPU、GPU、NPU还是FPGA？”
说实话，没有标准答案。每个平台都有自己的脾气。选对了，事半功倍；选错了，后面全是坑。今天我就把这几类芯片的底牌翻出来，结合我踩过的坑，跟你聊聊怎么选。
一、四大计算平台的架构基因
先看一张我整理的对比图，把核心差异说清楚。
二、CPU：老黄牛，什么都能干
CPU的核心优势是通用性。它把大量晶体管花在控制逻辑和缓存上，换来的是对复杂分支、乱序执行、虚拟内存等场景的完美支持。
适用场景：
- 数据预处理（图像解码、文本清洗）
- 控制逻辑（调度、同步、异常处理）
- 小批量推理（延迟敏感，如语音唤醒）
- 传统算法（排序、搜索、图算法）
我记得有个项目，客户非要用GPU做语音端点检测。结果呢？每次启动GPU上下文就要几十毫秒，而CPU上跑一个轻量模型只要2毫秒。后来我建议他们用CPU做前端检测，GPU只做后端大模型推理，延迟直接降了一个数量级。
我的习惯：CPU永远作为“兜底”平台。任何算法先在CPU上跑通，再考虑加速。这样调试成本最低。
三、GPU：大力出奇迹
GPU的设计哲学很简单：堆核心。一个GPU有几千个CUDA核心，虽然每个核心很弱，但人多力量大。矩阵乘法这种计算，GPU能把CPU按在地上摩擦。
但GPU有个致命弱点——延迟。数据要从CPU内存搬到GPU显存，PCIe带宽再高也有延迟。我做过一个实验：单张图片推理，GPU比CPU还慢。为什么？数据传输时间比计算时间还长。
避坑指南：我曾经在一个视频分析项目里，每帧都单独调用GPU推理。结果帧率上不去，GPU利用率只有30%。后来改成批量处理，一次送16帧，利用率直接拉到95%。记住：GPU喜欢大活儿，不喜欢碎活儿。
| 对比维度 | CPU | GPU |
|---|---|---|
| 核心数 | 4-64 | 1024-8192 |
| 内存带宽 | ~50 GB/s | ~900 GB/s |
| 单精度算力 | ~1 TFLOPS | ~30 TFLOPS |
| 延迟（单次推理） | 1-5 ms | 5-20 ms（含传输） |
| 功耗 | 65-150 W | 200-450 W |
四、NPU：专为AI而生
NPU是这几年最火的。说白了，它就是一颗专门跑神经网络的芯片。架构上采用脉动阵列（Systolic Array），数据像流水一样在计算单元间流动，省去了反复取指令的开销。
我测试过某款NPU，跑MobileNet的能效比是GPU的5倍。但有个问题：它只认自己的算子库。你写个自定义激活函数？对不起，不支持。
NPU选型要点：
- 算子覆盖度：是否支持你的网络层
- 量化支持：INT8/INT4精度是否够用
- 内存大小：能否放下整个模型
- 工具链成熟度：有没有坑等着你
我记得有个边缘计算项目，选了某款NPU。模型在PC上精度95%，部署到NPU上只剩88%。查了两天，发现是量化策略不对。后来换了对称量化，精度回到94%。所以啊，NPU不是插上就能用的，量化校准是个技术活。
五、FPGA：硬件界的乐高
FPGA最吸引人的是可重构和低延迟。你可以把算法直接映射成硬件电路，没有指令取指、译码的开销。延迟是纳秒级的，而且完全确定。
但FPGA的代价是开发效率。写Verilog比写Python慢太多了。我见过一个团队，用GPU两周搞定的模型，FPGA上折腾了三个月还没调通。
我的建议：FPGA适合三种场景——
- 延迟要求极苛刻（<1ms）
- 算法还在快速迭代，需要硬件可升级
- 功耗预算极低（<10W）
其他情况，优先考虑GPU或NPU。
六、选型决策框架
说了这么多，到底怎么选？我总结了一个四步决策法：
七、实战案例：智能摄像头部署
最后分享一个真实案例。去年做智能摄像头项目，需求是：
- 实时检测行人（延迟<100ms）
- 功耗<15W
- 支持OTA模型更新
一开始团队选了GPU（Jetson Nano）。功耗达标，但延迟在80-120ms之间波动，偶尔掉帧。后来换成NPU（算能BM1684），延迟稳定在30ms，功耗只有8W。但问题来了——客户要求支持自定义检测头，NPU的算子库不支持。最后方案是：CPU做图像采集和预处理，NPU跑主干网络，FPGA做自定义后处理。虽然开发周期长了三周，但性能和灵活性都满足了。
教训：选型不是选最好的，而是选最合适的。我见过太多人迷信GPU，结果功耗压不住；也有人迷信NPU，结果算法迭代被卡死。记住：没有银弹。