一、项目全景与硬件选型：从概念到落地
各位同学，欢迎来到《边缘AI图像识别项目嵌入式Linux部署实战》的第一章。
说实话，我见过太多人一上来就买开发板、跑模型，结果做到一半发现算力不够，或者接口对不上，整个项目推倒重来。这种坑，我自己就踩过不止一次。
所以这一章，我们先不急着敲代码。先把项目全景看清楚，把硬件选型搞明白。你想想看，方向错了，跑得再快也没用。
1.1 边缘AI到底是什么？
边缘AI，说白了就是把人工智能推理计算从云端搬到离数据源最近的地方。摄像头、传感器、嵌入式设备，这些地方就是“边缘”。
为什么要这么做？三个核心原因：
- 低延迟：图像识别如果还要上传云端再等结果，很多场景根本来不及。比如工业质检，传送带一秒过好几个产品，云端来回几百毫秒，黄花菜都凉了。
- 隐私安全：医疗影像、安防监控这些数据，客户根本不愿意上传到公网。本地处理，数据不出设备，这是硬需求。
- 带宽成本：一路1080p视频流每小时大概几个GB，几十上百路同时传，带宽费用你算算？边缘处理完只传结果，省太多了。
核心认知：边缘AI不是把云端模型简单“塞”进嵌入式设备，而是要在功耗、算力、成本、实时性之间找到平衡点。这个平衡点，就是选型的核心依据。
1.2 项目目标：我们要做什么？
这门课贯穿始终的项目，是一个边缘AI图像识别系统。具体来说：
- 输入：USB摄像头或CSI摄像头实时视频流
- 处理：在嵌入式Linux设备上运行深度学习推理（目标检测/分类）
- 输出：识别结果叠加显示、数据上报、本地告警
- 部署：模型优化、交叉编译、系统集成、远程运维
整个项目会覆盖从硬件选型、系统搭建、模型转换、推理引擎部署，到性能调优、产品化落地的完整链路。30章走下来，你就能独立把一个边缘AI项目从零做到可交付状态。
1.3 主流硬件平台对比
目前市面上做边缘AI图像识别的嵌入式平台，主流就三个阵营。我一个个说。
1.3.1 树莓派（Raspberry Pi 4/5）
树莓派大家都很熟了。生态好，资料多，社区活跃。但说实话，它本来就不是为AI推理设计的。
- CPU：BCM2711/Cortex-A72，四核，1.8GHz
- GPU：VideoCore VI，OpenGL ES 3.0，但AI加速能力很弱
- NPU：无。只能靠CPU或GPU做推理，效率低
- 内存：2GB/4GB/8GB LPDDR4
- 功耗：约5-15W
- 价格：约300-600元
注意：树莓派跑轻量级模型（如MobileNet）勉强可以，但帧率通常只有个位数。做原型验证可以，量产部署不推荐。我曾经有个学生非要用树莓派做实时口罩检测，结果跑起来只有2帧，根本没法用。
1.3.2 NVIDIA Jetson Nano
Jetson Nano是NVIDIA面向边缘AI推出的入门级平台。它最大的优势是那块128核Maxwell架构的GPU，以及完整的CUDA生态。
- CPU：四核Cortex-A57，1.43GHz
- GPU：128核Maxwell，支持CUDA
- NPU：无专用NPU，靠GPU做推理
- 内存：4GB LPDDR4
- 功耗：约5-10W（可调模式）
- 价格：约800-1200元
Jetson Nano能跑很多主流模型，比如YOLOv4-tiny能做到20-30FPS。生态方面，NVIDIA提供了JetPack SDK，包含TensorRT、DeepStream等工具链，开发体验不错。
但有个问题——A57核心有点老了，单核性能偏弱。而且4GB内存在跑大模型时容易爆。
1.3.3 Rockchip RK3588
RK3588是瑞芯微2022年推出的旗舰级SoC，也是目前国产边缘AI芯片里综合实力最强的之一。
- CPU：4×Cortex-A76 + 4×Cortex-A55，big.LITTLE架构
- GPU：Mali-G610 MP4，支持OpenGL ES 3.2、Vulkan 1.2
- NPU：6 TOPS算力（INT8），支持TensorFlow、PyTorch、ONNX模型转换
- 内存：8GB/16GB/32GB LPDDR4X
- 功耗：约8-15W
- 价格：板卡约800-2000元
RK3588的NPU是亮点。6 TOPS的INT8算力，跑YOLOv5s可以到30FPS以上。而且CPU性能强，A76大核跑Linux应用很流畅。接口也丰富，支持双HDMI、MIPI CSI、PCIe、USB3.0等。
不过，RK3588的软件生态还在完善中。NPU的RKNN工具链虽然能用，但跟NVIDIA的TensorRT比，成熟度还有差距。我在项目里遇到过模型转换报错、算子不支持的情况，需要一些调试经验。
1.4 硬件选型对比表
我把三个平台的关键参数整理成了一张表，方便你对比：
| 维度 | 树莓派4B | Jetson Nano | RK3588 |
|---|---|---|---|
| CPU | Cortex-A72 四核 | Cortex-A57 四核 | A76×4 + A55×4 |
| AI算力 | 无NPU，CPU推理 | GPU 472 GFLOPS | NPU 6 TOPS |
| 内存 | 2-8GB LPDDR4 | 4GB LPDDR4 | 8-32GB LPDDR4X |
| 视频编码 | H.264 1080p | H.264/H.265 4K | H.264/H.265 8K |
| 接口丰富度 | 丰富 | 中等 | 非常丰富 |
| 软件生态 | 极好 | 好 | 中等 |
| 功耗 | 5-15W | 5-10W | 8-15W |
| 价格 | 低 | 中 | 中高 |
| 适合场景 | 原型验证、教学 | 中小规模部署 | 高性能边缘AI |
1.5 选型决策：我该怎么选？
这个问题没有标准答案，但我可以给你一个决策框架：
- 先看算力需求：你的模型多大？目标帧率多少？如果只是做分类，MobileNet级别，树莓派也能凑合。如果要跑YOLOv5/v8做实时检测，至少Jetson Nano或RK3588起步。
- 再看接口需求：需要接几路摄像头？需要HDMI输出？需要PCIe扩展？RK3588接口最全，Jetson Nano次之，树莓派虽然接口多但性能受限。
- 然后看软件生态：团队熟悉CUDA吗？用NVIDIA的TensorRT会顺手很多。如果团队有Linux底层能力，RK3588的性价比更高。
- 最后看成本：量产的话，BOM成本、开发周期、维护成本都要算进去。Jetson Nano单价高但开发快，RK3588单价低但需要更多底层适配。
我的建议：如果你是个人学习或小团队做产品原型，直接上RK3588。性能强、接口全、成本可控。这门课后面的章节也会以RK3588为主平台讲解。如果你团队有NVIDIA生态依赖，Jetson系列也是好选择。树莓派嘛……用来做入门学习可以，真干活还是算了。
1.6 知识体系总览
下面这张图，把本章的核心逻辑串起来了。你可以看到从边缘AI概念出发，到项目目标，再到三个硬件平台的对比，最后落到选型决策。整个课程也是沿着这个脉络展开的。
1.7 本章小结
这一章我们走完了项目的第一公里。你知道了边缘AI的核心价值，明确了课程项目的目标，也看清楚了三个主流硬件平台的优劣势。
我个人建议，如果你手头还没有开发板，直接买RK3588的板子，比如友善的NanoPC-T6或者瑞芯微的官方EVB。别在树莓派上浪费时间了——我当年就是舍不得花钱，先用树莓派折腾了两个月，最后发现根本跑不动，又换平台，白白浪费了时间。