1. 课程导学与边缘计算概述
各位同学,欢迎来到《YOLOv11模型压缩与边缘端部署实战》的第一章。
我是这门课的主讲。在AI部署这个领域摸爬滚打了七八年,踩过的坑比走过的路还多。今天咱们先不急着敲代码,把地基打牢。
这一章,我会带你搞清楚三件事:YOLOv11到底强在哪、边缘计算是个什么概念、以及我们这门课要带你走到哪。
1.1 YOLOv11:不止是快了一点
YOLO系列,做视觉的应该都不陌生。从v1到v11,我几乎每个版本都跟过。说实话,v11给我的感觉是——它终于把“精度”和“速度”这对冤家撮合到一起了。
YOLOv11的核心改进,我总结为三点:
- 更高效的Backbone:引入了新的C2f模块变体,特征提取更充分,计算量却没怎么涨。
- 解耦头升级:分类和回归分支各自优化,收敛更快,小目标检测能力明显提升。
- 动态标签分配:训练时自动匹配正负样本,省去了手动调参的麻烦。
我个人习惯:拿到一个新模型,先看它的计算图和参数量。YOLOv11-nano版本只有2.6M参数,在Jetson Orin上能跑到200+FPS。这个底子,做边缘部署非常舒服。
你可能会问:“v10也挺好啊,为什么非要升v11?”
嗯,我举个例子。之前我在一个智慧园区项目里用v8做行人检测,一到黄昏光线差的时候,漏检率就飙到15%。换成v11之后,同样的场景,漏检率降到了5%以下。这就是动态标签分配带来的红利——它对光照变化、遮挡这些复杂场景更鲁棒。
1.2 边缘计算:为什么非它不可?
边缘计算,说白了就是把计算搬到数据产生的地方,而不是把数据传回云端。
为什么要这么做?三个字:快、省、稳。
| 对比维度 | 云端推理 | 边缘推理 |
|---|---|---|
| 延迟 | 50-200ms(含网络传输) | 5-30ms(本地处理) |
| 带宽成本 | 高(视频流持续上传) | 低(只传结果或告警) |
| 隐私安全 | 数据需上传,有泄露风险 | 数据本地处理,更安全 |
| 离线能力 | 依赖网络,断网即停 | 完全离线运行 |
我在做一个工厂质检项目时,客户要求检测结果必须在100ms内反馈。云端方案来回传输就要80ms,留给推理的时间只剩20ms,根本跑不动。最后换成边缘方案,Jetson本地推理只用了15ms,整个流程控制在50ms以内。这就是边缘计算不可替代的地方。
我曾经踩过的坑:一开始图省事,直接把云端训练好的模型丢到边缘设备上跑。结果发现显存爆了,推理速度慢得像幻灯片。后来才明白——边缘部署不是简单的“搬模型”,而是“重新设计”。压缩、量化、剪枝,一步都不能少。
1.3 典型边缘设备:选对工具,事半功倍
市面上的边缘设备很多,但真正适合跑YOLOv11的,我重点推荐这三类:
1.3.1 NVIDIA Jetson 系列
Jetson是当前生态最成熟的边缘AI平台。从Orin NX到AGX,覆盖了从低功耗到高性能的全场景。
- 优势:CUDA/TensorRT深度优化,模型转换工具链完善,社区资源丰富。
- 适合场景:自动驾驶、机器人、智慧安防。
- 我常用的配置:Jetson Orin NX 16GB,跑YOLOv11s量化版,1080P视频流能做到30FPS。
1.3.2 Rockchip RK3588 系列
国产芯片的扛把子。RK3588的NPU算力达到6TOPS,关键是成本低、功耗低。
- 优势:性价比极高,国产化替代首选,支持RKNN工具链。
- 适合场景:智慧零售、工业视觉、边缘盒子。
- 注意:RKNN工具链对模型算子有一定限制,需要做适配。我在一个智慧门禁项目里,花了两天时间才把YOLOv11的某些算子替换掉。
1.3.3 手机端(高通/联发科)
手机端的AI推理,这几年进步飞快。高通Snapdragon的Hexagon DSP、联发科的APU,都能跑轻量级模型。
- 优势:普及率高,无需额外硬件,适合C端应用。
- 适合场景:移动端AR、实时美颜、文档扫描。
- 挑战:功耗和散热限制严格,模型必须极致轻量化。
我的建议:如果你是初学者,先从Jetson入手。它的工具链最友好,遇到问题网上基本都能找到答案。等熟悉了部署流程,再挑战RK3588或手机端。
1.4 课程目标与学习路径
这门课的目标很明确:让你能独立完成一个YOLOv11模型从训练到边缘端部署的全流程。
具体来说,学完这门课,你应该能做到:
- 掌握模型压缩技术:剪枝、量化、蒸馏,知道什么时候用哪种。
- 熟练使用部署工具链:TensorRT、ONNX Runtime、RKNN、NCNN,至少精通一个。
- 解决实际部署问题:精度损失、算子兼容、内存优化,遇到问题知道怎么排查。
- 完成一个完整项目:从数据集准备到边缘设备上跑通,全程自己搞定。
下面是这门课的知识体系框架,我画了一张图,方便你理解各个模块之间的关系:
学习路径上,我建议你按顺序来。先打好基础,再学压缩技术,然后熟悉工具链,最后上手部署。不要一上来就想着在手机上跑模型——我见过太多人跳过压缩步骤,结果模型在设备上跑不起来,又回头重新学。
最后说一句:这门课不是让你背概念,而是让你真正能动手。每一章我都会给出可运行的代码和配置,你跟着做一遍,比看十遍都管用。