📚 课程目录第1章边缘AI概述

1. 边缘AI概述：从概念到落地

各位同学，咱们直接进入正题。边缘AI，说白了就是把人工智能的推理能力，从云端数据中心搬到离数据源最近的地方——摄像头、传感器、工业设备上。为什么要这么干？我刚开始接触这个领域时也有同样的疑问。

你想想看，一个1080P的摄像头，每秒产生几十兆的视频流。如果全部上传到云端做分析，带宽成本先不说，光是网络延迟就够受的。工业质检场景里，一个零件从传送带上经过，你只有几十毫秒的时间判断它是否合格。等数据传到云端再回来，零件早就过去了。

核心观点：边缘AI不是要取代云端AI，而是把实时性要求高、数据量大的推理任务下沉到边缘侧，云端负责训练和复杂模型管理。

其实边缘计算这个概念十年前就有了，但真正和AI深度结合，是最近三四年的事。原因有三点：

芯片算力上来了：以前ARM Cortex-A系列跑个MobileNet都费劲，现在NPU（神经网络处理器）直接把算力干到6TOPS甚至100TOPS以上。
模型轻量化成熟了：量化、剪枝、蒸馏这些技术，让原本需要GPU跑的模型，现在能在几瓦功耗的芯片上跑起来。
场景需求倒逼：智能安防要实时告警，工业质检要毫秒级响应，自动驾驶更不用说——这些场景等不起云端往返。

我记得2019年做第一个边缘AI项目时，用的是树莓派加Intel神经计算棒。那时候模型量化还是个玄学，经常跑着跑着精度就崩了。现在好多了，工具链成熟了一大截。

目前国内边缘AI芯片市场，我个人重点关注三个方向：瑞芯微RK3588、算能系列、地平线征程系列。下面这张表是我在实际项目中的选型参考：

芯片平台	NPU算力	典型功耗	工具链成熟度	我的推荐场景
RK3588	6 TOPS	5-8W	★★★★☆	智能安防、边缘盒子、工业视觉
算能BM1684X	32 TOPS	15-25W	★★★★☆	高算力边缘服务器、多路视频分析
地平线J5	128 TOPS	35-50W	★★★☆☆	自动驾驶、高阶辅助驾驶

选型小建议：别只看TOPS。我踩过坑——有些芯片标称算力很高，但实际跑自己的模型时，因为算子支持不全，有效算力可能打三折。选型时一定要拿自己的模型去跑一遍benchmark。

说两个我亲手做过的项目，你感受一下边缘AI到底在解决什么问题。

传统安防摄像头只负责录像，事后调取。边缘AI摄像头能在前端直接做目标检测、人脸识别、行为分析。我做过一个工地安全帽检测项目，摄像头端跑YOLOv5s量化模型，检测到未戴安全帽的工人，200毫秒内就在本地触发语音告警。如果走云端，延迟至少2-3秒，工人早就走过去了。

工业场景更苛刻。一个电子元器件表面缺陷检测，产线节拍要求每个零件检测时间不超过50毫秒。云端方案根本不可能。我们用RK3588跑了一个轻量级分类网络，配合高帧率工业相机，硬是把单次推理压到了15毫秒以内。

避坑提醒：我曾经在一个工业项目中，忽略了NPU驱动对设备树的依赖。板子启动后NPU设备根本没注册上，排查了两天才发现是设备树里NPU的reg地址和实际硬件对不上。所以后面课程里设备树配置这块，我会重点讲。

下面这张图是我总结的边缘AI系统典型架构，从硬件层到应用层，每个环节都缺一不可。后面的课程会逐一深入。

从这张图你能看到，边缘AI系统是个分层结构。硬件层提供算力基础，内核层和驱动层负责让NPU正常工作，算法层做模型适配，应用层解决实际问题。后面29章的内容，基本就是沿着这个架构从上到下、再从下到上走一遍。

学习路线建议：如果你刚开始接触边缘AI，我建议先搞懂驱动层和设备树。很多同学一上来就调模型，结果NPU根本跑不起来，回头才发现是设备树配置错了。基础打牢，后面才快。

这一章我们聊了边缘AI为什么火、主流芯片怎么选、实际场景怎么用。核心就三句话：