📚 课程目录第1章嵌入式AI概述

一、嵌入式AI概述：边缘计算与嵌入式AI的关系、YOLO系列模型在嵌入式端的演进、课程目标与学习路径

很多刚入行的朋友会问我：「边缘计算和嵌入式AI是不是一回事？」

嗯，这个问题其实挺有代表性的。我个人的理解是：边缘计算是一种架构思想，而嵌入式AI是这种思想在硬件上的具体落地。

边缘计算的核心逻辑很简单——数据不再需要全部上传到云端处理，而是在靠近数据源头的「边缘」设备上就地完成。你想想看，一个自动驾驶系统如果每帧图像都要先传到云端再等结果回来，车早就撞上了。所以边缘计算解决的是实时性、带宽、隐私这三个痛点。

而嵌入式AI，说白了就是把神经网络模型塞进那些资源受限的嵌入式设备里——比如摄像头、无人机、工业控制器、智能音箱。这些设备通常只有几百MHz的CPU、几MB的内存，连个像样的GPU都没有。让YOLO在这种环境下跑起来，就是咱们这门课要干的事。

核心关系一句话总结：

边缘计算是「在哪算」的问题，嵌入式AI是「怎么算得动」的问题。两者相辅相成，缺一不可。

我在项目中遇到过不少团队，他们花了大价钱买了边缘计算盒子，结果模型部署上去帧率只有个位数。为什么？因为只考虑了「边缘」这个位置，没考虑「嵌入式」这个约束。模型太大、算子不支持、内存爆了——这些都是血泪教训。

YOLO这个系列，我几乎是看着它一路「瘦身」过来的。咱们快速过一下关键节点：

版本	核心特点	嵌入式友好度	我的评价
YOLOv1-v3	开创性工作，DarkNet骨干	★☆☆☆☆	纯研究原型，基本没法上嵌入式
YOLOv4/v5	CSPNet、Mish激活、数据增强	★★★☆☆	开始有人做剪枝量化，但精度掉得厉害
YOLOv6/v7	重参数化、E-ELAN结构	★★★★☆	部署友好度明显提升，我曾在RK3588上跑过
YOLOv8/v9/v10	Anchor-Free、解耦头、Task-Specific	★★★★★	原生支持导出ONNX/TFLite，部署体验最好
YOLO-NAS	神经架构搜索、Post-Training Quantization	★★★★★	搜索出来的结构天生适合量化，精度损失极小

这里有个趋势很明显：YOLO越来越「为部署而生」。早期的YOLO，研究者只关心mAP，模型多大、推理多慢没人管。但从v5开始，尤其是v8之后，官方直接提供了导出脚本，ONNX、TensorRT、OpenVINO、TFLite一键生成。这背后反映的是整个行业对「落地」的迫切需求。

一个小建议：

如果你刚接触嵌入式部署，我建议直接从YOLOv8或YOLO-NAS入手。别去折腾v3/v4了，那些版本在嵌入式上的坑太多，我曾经为了在树莓派上跑v3改了一周的C++代码，最后帧率才2FPS——不值得。

做嵌入式部署，本质上是在做一道权衡题。你想想看：

我个人的经验是，嵌入式部署有三个硬约束，必须同时满足：

这三个约束就像三条绳子，你拉紧一条，另外两条就会松。咱们这门课，就是教你怎么在三条绳子之间找到那个最优平衡点。

避坑指南：

我曾经接手过一个项目，团队为了追求极致速度，把模型从FP32量化到INT4，结果精度从85%掉到52%，业务方直接拒收。后来我们花了三周重新调量化策略，才把精度拉回到78%。所以记住：速度不是唯一指标，精度底线必须守住。

下面这张图是我亲手画的，它概括了咱们这门课30章的整体结构。你可以把它当作一张「藏宝图」，每学完一章就回来看看，知道自己走到了哪里。

这门课不是零基础入门课，我假设你已经具备以下能力：

如果你暂时没有嵌入式设备，也不用慌。我建议你先在PC上用ONNX Runtime或OpenVINO跑通流程，把优化方法学会，后面再迁移到目标硬件上。方法是一样的，只是性能数据不同。

学习建议：

每章学完后，一定要动手跑一遍代码。只看不练，你永远不知道量化后精度会掉多少，也不知道算子融合能提速多少。我见过太多「理论满分、实战翻车」的工程师了——别做那种人。

30章学完，我希望你能带走三样东西：