硬件平台总览：主流边缘AI芯片对比与选型考量
做边缘端模型移植，第一步不是看框架，也不是调算子，而是选硬件。我见过太多团队，模型在PC上跑得飞起，一上板子就卡成PPT——说白了，就是硬件选型阶段没想清楚。
这一章，我把市面上最主流的四类边缘AI芯片拉出来遛一遛：Jetson系列、RK3588、K210、树莓派。它们代表了三种不同的设计哲学，也对应着完全不同的应用场景。
四款芯片的核心定位
先给个总览表格，方便你快速建立认知。
| 芯片平台 | 算力（INT8） | 典型功耗 | 核心架构 | 典型场景 |
|---|---|---|---|---|
| NVIDIA Jetson（Orin NX） | 100 TOPS | 15W-25W | GPU + DLA + CPU | 自动驾驶、机器人、高端边缘服务器 |
| Rockchip RK3588 | 6 TOPS（NPU） | 5W-10W | CPU + GPU + NPU | 智能安防、边缘盒子、工业视觉 |
| Kendryte K210 | 0.8 TOPS | 0.3W-1W | RISC-V + KPU | 低功耗传感器、语音唤醒、简单视觉 |
| 树莓派 5（BCM2712） | 0.5 TOPS（GPU） | 5W-12W | CPU + GPU（无专用NPU） | 原型验证、教育、轻量推理 |
关键认知：算力数字不是唯一指标。Jetson的100 TOPS和K210的0.8 TOPS，差了125倍，但K210在某些场景下反而更合适——因为它的功耗只有Jetson的1/50。
NVIDIA Jetson系列：生态为王
Jetson是我个人用得最多的平台。从TX2到Orin，一路跟过来。它的最大优势不是算力，而是生态。
你想想看，PyTorch、TensorFlow、ONNX，所有主流框架在Jetson上都有官方支持。TensorRT一跑，模型直接起飞。我在一个自动驾驶项目中，用TensorRT把YOLOv8的推理延迟从45ms压到了12ms——几乎零精度损失。
但Jetson也有坑。功耗和散热是硬伤。Orin NX满载25W，散热没做好，降频后性能直接腰斩。我曾经在夏天调试一台边缘盒子，机箱温度飙到75度，模型推理速度从30fps掉到8fps。后来加了主动散热才稳住。
我的习惯：选Jetson时，先算散热预算。散热成本往往比芯片本身还高。另外，Jetson的BSP（板级支持包）更新频繁，建议锁定L4T版本，不要追新。
Rockchip RK3588：国产性价比之王
RK3588是这两年国产芯片里的一匹黑马。6 TOPS的NPU算力，虽然比不上Jetson，但胜在便宜、功耗低、接口丰富。
它的NPU架构是自研的，支持INT8/INT16量化。我建议优先用RKNN Toolkit做模型转换。这个工具链虽然不如TensorRT成熟，但迭代很快。我在一个工业缺陷检测项目里，把MobileNetV3-SSD跑在RK3588上，功耗只有4.5W，帧率稳定在35fps。
要注意的是，RK3588的NPU对某些算子支持有限。比如GroupNorm、Mish激活函数，直接跑会报错。我的做法是：在模型设计阶段就避开这些算子，或者用等效算子替换。
避坑指南：我曾经在RK3588上跑一个带有自定义C++算子的模型，RKNN Toolkit死活不支持。最后只能把那个算子拆成多个基础算子，折腾了两天。所以，选RK3588之前，先确认你的模型算子是否在支持列表里。
Kendryte K210：极致低功耗
K210是个很有意思的芯片。RISC-V双核 + KPU（神经网络处理器），功耗低到离谱——跑模型时不到1W。适合做电池供电的传感器节点、语音唤醒、简单的人脸检测。
但它的算力天花板很明显。0.8 TOPS，只能跑轻量模型。比如MobileNetV1、Tiny YOLO。我试过在K210上跑YOLOv5n，量化后勉强能到15fps，但精度掉了3个点。
K210的开发体验也比较原始。没有Linux，只能跑裸机或FreeRTOS。调试全靠串口打印。我建议用它做原型验证，量产前再评估是否要升级到RK3588。
一句话总结：K210适合做“感知+决策”一体化的超低功耗节点。如果你需要跑复杂的检测模型，别选它。
树莓派：原型验证利器
树莓派5的算力其实很弱。0.5 TOPS的GPU算力，跑个MobileNetV2都费劲。但它的价值不在算力，而在生态和易用性。
我经常用树莓派做两件事：
- 快速原型验证：在PC上训练好模型，转成TFLite，直接扔到树莓派上跑。看看推理速度、内存占用，心里有个底。
- 数据采集：接上摄像头，跑个简单的采集脚本，一天能攒几万张图片。
树莓派没有专用NPU，所以推理效率很低。我建议不要把它当成正式部署平台。除非你的模型非常小，或者对帧率没要求。
我的经验：树莓派5的PCIe 2.0接口可以外接M.2加速卡。我试过接一个Google Coral TPU，推理速度提升了10倍。但这样成本就上去了，不如直接上RK3588。
选型考量：五个维度
选芯片不是看参数表，而是看场景。我总结了一个五维评估框架：
- 算力需求：你的模型需要多少TOPS？留30%余量。
- 功耗预算：电池供电还是市电？散热条件如何？
- 生态成熟度：工具链是否完善？社区是否活跃？
- 成本约束：单板成本、开发成本、量产成本。
- 接口需求：需要几个USB？几个MIPI？是否支持CAN？
举个例子。一个智能门锁项目：需要人脸识别，功耗要低于2W，成本控制在200元以内。K210算力够用，功耗0.8W，成本50元——完美匹配。如果选Jetson，功耗和成本都超标。
再比如一个园区安防盒子：需要跑YOLOv8做多目标检测，功耗不限，成本3000元以内。RK3588算力6 TOPS，功耗8W，成本800元——性价比最优。Jetson Orin NX虽然更强，但成本翻倍。
知识结构图
下面这张图，把四款芯片的定位和选型逻辑串起来了。
我的选型清单
最后，分享一个我每次选型都会过的清单：
- 模型复杂度：参数量、计算量、内存占用。用Netron看一眼模型结构，心里就有数。
- 量化支持：芯片是否支持INT8/INT4量化？量化后精度损失能否接受？
- 工具链成熟度：是否有官方模型转换工具？社区是否有踩坑记录？
- 散热方案：被动散热还是主动散热？环境温度范围是多少？
- 量产可行性：芯片供货周期？是否有替代方案？
重要提醒：不要只看芯片参数。我见过一个团队选了Jetson Orin，结果发现模型里有个算子TensorRT不支持，最后只能改模型结构，项目延期两个月。选型阶段，花一天时间做算子兼容性验证，能省后面两个月的麻烦。