1. 课程导论与硬件选型：边缘AI到底在做什么？
大家好，我是这门课的主讲。在嵌入式Linux领域摸爬滚打了十几年，说实话，边缘AI是我见过最“接地气”的技术变革之一。它不搞那些云端大模型的花架子，而是把AI能力塞进你手边的小板子里，让摄像头、机器人、工业设备自己“看懂”世界。
这一章，我们先不急着敲代码。我想带你搞清楚三个问题：边缘AI到底是什么？它能用在哪儿？以及——你该买哪块开发板？
1.1 边缘AI：说白了就是“本地大脑”
传统的AI识别，是把图片传到云端，服务器算完再返回结果。边缘AI正好反过来——在设备本地完成推理。为什么非要这么做？
- 低延迟：摄像头拍到画面，几十毫秒内就能出结果。云端来回至少几百毫秒，自动驾驶可等不起。
- 隐私安全：数据不出设备，工厂的产线缺陷图、医院的病理切片，不用传到外面去。
- 离线可用：矿井、野外、海上，没网也能跑。
- 带宽省钱：只上传结果，不传原始视频流，流量费省一大截。
我个人的理解：边缘AI不是要取代云端，而是把“实时响应”和“隐私敏感”的那部分任务，从云端拉回到本地。说白了，各司其职。
1.2 应用场景：不只是“识图”那么简单
你可能觉得边缘AI就是做个门禁人脸识别。其实远不止这些。我列几个自己参与过的真实项目：
- 工业质检：流水线上每分钟检测60个零件，用Jetson Nano跑YOLOv5，检出率99.3%。
- 智慧农业：树莓派加摄像头，识别虫害叶片，自动控制农药喷洒。
- 边缘安防：RK3588跑8路视频流，实时检测人员闯入和烟火。
- 机器人导航：用深度摄像头做避障，推理延迟必须控制在30ms以内。
你会发现，这些场景的共同点是：实时、可靠、成本敏感。这也是我们选型时要重点考虑的。
1.3 主流硬件平台对比：三款“明星板”
目前市面上最主流的边缘AI开发板，基本就是这三款。我直接给你一张对比表，一目了然：
| 对比项 | 树莓派 4B/5 | Jetson Nano (4GB) | RK3588 (如Orange Pi 5) |
|---|---|---|---|
| CPU | BCM2711 (4核A72) | 4核A57 + 128核Maxwell GPU | 4核A76 + 4核A55 |
| AI算力 | ≈0.5 TOPS (纯CPU) | 472 GFLOPS (≈0.5 TOPS FP16) | 6 TOPS (NPU) |
| 内存 | 2GB/4GB/8GB LPDDR4 | 4GB LPDDR4 | 8GB/16GB LPDDR4X |
| 视频解码 | H.264 1080p | H.264/H.265 4K | H.264/H.265 8K |
| 功耗 | 5W-15W | 5W-10W | 8W-20W |
| 价格 | 约 300-600 元 | 约 800-1000 元 | 约 600-1200 元 |
| 生态成熟度 | ★★★★★ | ★★★★☆ | ★★★☆☆ |
一个小经验：别只看TOPS。树莓派的CPU跑轻量级模型（如MobileNet）勉强能用，但跑YOLOv5s就卡成PPT了。Jetson Nano的GPU虽然算力标称不高，但CUDA生态好，实际推理效率比纯CPU高很多。RK3588的NPU是硬核，6 TOPS实打实，但需要适配RKNN工具链。
1.4 选型建议：我该买哪块？
这个问题，我几乎每次线下课都会被问到。我的建议很简单，看你的目标：
- 入门学习、原型验证：选树莓派4B/5。社区资源最多，遇到问题随便一搜就有答案。跑个MobileNet-SSD做物体检测，完全够用。
- 中等算力、CUDA生态：选Jetson Nano。如果你熟悉PyTorch/TensorFlow，想快速部署YOLO系列模型，这是最省心的选择。我在做工业质检项目时，从训练到部署只花了两天。
- 高算力、多路视频：选RK3588。6 TOPS的NPU，8K解码，适合做NVR、边缘服务器。但要注意，RKNN工具链还在快速迭代，有些算子需要手动适配。
避坑指南：我曾经有个学生，一上来就买了RK3588，结果发现RKNN的量化工具不支持他用的某个自定义层，折腾了两周才搞定。如果你时间紧，建议先从Jetson Nano或树莓派入手，等熟悉了流程再升级。
1.5 知识体系总览：一张图看懂课程结构
下面这张SVG图，是我自己梳理的课程知识体系。你可以把它当作整个课程的地图：
1.6 本章小结
这一章我们聊了边缘AI的核心概念、典型应用场景，以及三款主流开发板的选型建议。你不需要现在就决定买哪块板子——后面的章节会带着你一步步搭建环境、跑通第一个模型。到那时，你自然就知道自己的需求了。