2. 边缘设备选型
做MobileViT部署，第一步就是选硬件。这事儿我踩过不少坑，今天跟你聊聊三款主流平台——Jetson Nano、RK3588、树莓派4B。说白了，选错平台，后面优化到哭都来不及。
三款平台的核心参数对比
先看一张表，心里有个底：
| 参数 | Jetson Nano (4GB) | RK3588 | 树莓派4B (4GB) |
|---|---|---|---|
| CPU | 4核 Cortex-A57 | 4核 A76 + 4核 A55 | 4核 Cortex-A72 |
| GPU/NPU | 128核 Maxwell GPU | 6 TOPS NPU + Mali-G610 GPU | VideoCore VI GPU |
| 内存 | 4GB LPDDR4 | 8/16GB LPDDR4X | 4/8GB LPDDR4 |
| AI算力 | 472 GFLOPS (FP16) | 6 TOPS (INT8) | ≈ 0.1 TOPS (INT8) |
| 功耗 | 5W - 10W | 8W - 15W | 3W - 7W |
| 价格 | 约 800 - 1200 元 | 约 600 - 1500 元 | 约 300 - 600 元 |
嗯，光看数字可能有点抽象。我一个个说。
Jetson Nano：NVIDIA生态的守门员
我个人习惯把Jetson Nano叫做「入门级AI开发板的天花板」。为什么？因为它有完整的CUDA生态。你想想看，你在PC上训练的模型，只要用PyTorch或者TensorRT，基本能无缝迁移过来。
但有个坑——显存只有4GB。MobileViT-S的模型大概30MB左右，跑起来倒没问题。可一旦你加了预处理、后处理，或者想跑个batch size大于1，内存立马吃紧。我曾经在项目里试过同时跑两个模型，结果直接OOM，系统卡死。
算力方面，472 GFLOPS对于MobileViT来说够用。实测下来，MobileViT-S在FP16下推理速度大约在30-40 FPS。嗯，这个帧率做实时视频分析有点勉强，但做图片分类绰绰有余。
RK3588：国产芯片的性价比之王
RK3588是我最近半年用得最多的平台。说实话，一开始我有点瞧不上它——毕竟不是CUDA生态。但用下来发现，这芯片的NPU真有两把刷子。
6 TOPS的INT8算力，换算成FP16大概在1.5 TOPS左右。比Jetson Nano强了3倍多。而且价格还便宜一截。我有个客户做边缘视频分析，原来用Jetson Nano要上4台，换成RK3588后2台就搞定了。
但要注意，RK3588的NPU只支持INT8量化。这意味着你的MobileViT模型必须做量化校准。我刚开始做的时候，直接拿训练好的FP32模型去跑，结果NPU根本不干活，全跑到CPU上去了，速度慢得令人发指。
树莓派4B：别指望它跑AI
树莓派4B，嗯，怎么说呢。它是个好玩具，但不是个好AI平台。VideoCore VI GPU基本不支持通用计算，你只能用CPU硬扛。
我试过在树莓派4B上跑MobileViT-S，CPU推理速度大概在2-3 FPS。什么概念？看视频就像幻灯片。做个门禁人脸识别还行，做实时监控？想都别想。
不过树莓派有个好处——生态极其丰富。GPIO、摄像头接口、各种传感器模块，拿来当数据采集端非常合适。我一般用它做「边缘数据采集 + 云端推理」的方案。
算力与内存需求分析
MobileViT对算力和内存的要求，其实比纯Transformer模型低很多。我整理了一个参考表：
| 模型版本 | 参数量 | 模型大小 | 推理内存 (FP16) | 推理内存 (INT8) | 最低算力要求 |
|---|---|---|---|---|---|
| MobileViT-XXS | 1.3M | 5 MB | ~200 MB | ~100 MB | 50 GFLOPS |
| MobileViT-XS | 2.3M | 9 MB | ~350 MB | ~180 MB | 100 GFLOPS |
| MobileViT-S | 5.6M | 22 MB | ~600 MB | ~300 MB | 200 GFLOPS |
你看，就算是最小的XXS版本，也需要50 GFLOPS。树莓派4B的CPU算力大概在10-20 GFLOPS，所以跑起来很吃力。而Jetson Nano和RK3588都在门槛之上。
NPU/GPU/CPU 异构计算基础
说白了，异构计算就是「让合适的硬件干合适的活」。我画了一张图，帮你理解这三者的分工：
在实际部署中，我一般这样分配任务：
- CPU：负责图像解码、Resize、归一化、颜色空间转换。这些操作逻辑复杂但计算量不大，CPU跑正合适。
- GPU/NPU：负责模型推理。MobileViT的卷积层和Transformer层都是计算密集型，交给专用硬件。
- CPU：负责后处理，比如Softmax、TopK、NMS。这些操作通常需要条件判断，GPU反而不擅长。
选型决策树
最后，给你一个简单的决策逻辑：
- 预算 < 500元 → 树莓派4B（只能做原型验证，别指望量产）
- 预算 500-1000元，需要CUDA生态 → Jetson Nano（适合学习和原型）
- 预算 500-1000元，追求性价比 → RK3588（适合量产，但需要做量化）
- 需要高帧率（> 60 FPS） → 上Jetson Orin或RK3588集群
嗯，选型这事儿没有的对错。我见过有人用树莓派跑MobileViT做离线分析，也见过用RK3588做实时视频流。关键看你的应用场景和团队技术栈。我个人建议：新手先从Jetson Nano入手，等摸透了再考虑迁移到RK3588降成本。