1. 课程导论：YOLO模型部署痛点、剪枝与量化核心概念、课程目标与学习路径
1.1 为什么YOLO模型部署这么难？
先聊聊我自己的经历。几年前，我在一个智慧安防项目里，把YOLOv5模型跑在Jetson Nano上。模型在服务器上mAP有0.75，一上边缘设备，帧率直接掉到个位数。客户当场就急了。
这不是个例。YOLO系列模型在学术榜单上刷分很爽，但真正落地时，你会遇到三个硬骨头：
- 计算资源不够——边缘设备算力有限，GPU显存小，CPU跑不动
- 内存带宽瓶颈——模型参数多，推理时频繁读写内存，延迟飙升
- 功耗与散热限制——嵌入式设备不能上大风扇，功耗墙卡死性能
核心矛盾：YOLO追求高精度，用了大量冗余参数。部署时，这些冗余就成了累赘。
说白了，你训练了一个“胖子”模型，但部署环境只容得下“瘦子”。怎么办？剪枝和量化就是给模型“减肥”的两把手术刀。
1.2 剪枝与量化：模型优化的两大法宝
1.2.1 剪枝——去掉不重要的连接
剪枝的原理很简单：神经网络里很多权重接近0，去掉它们对精度影响很小。我习惯把剪枝分成两类：
| 剪枝类型 | 粒度 | 压缩效果 | 硬件友好度 |
|---|---|---|---|
| 非结构化剪枝 | 单个权重 | 高（稀疏度高） | 低（需要稀疏计算库） |
| 结构化剪枝 | 通道/卷积核 | 中等 | 高（直接减少计算量） |
我的经验：实际项目中，我优先用结构化剪枝。虽然压缩率不如非结构化，但剪完就能直接跑，不用改推理框架。非结构化剪枝在手机上还得依赖TensorFlow Lite的稀疏算子，兼容性是个坑。
1.2.2 量化——用更少的比特表示参数
量化，就是把模型参数从32位浮点数（FP32）压缩到8位整数（INT8）。你想想看，参数体积直接缩到1/4，推理速度能快2-4倍。
量化主要有两种方式：
- 训练后量化（PTQ）——模型训练完，直接转INT8。简单快速，但精度可能掉1-3%
- 量化感知训练（QAT）——训练时模拟量化误差，让模型学会适应低精度。精度损失小，但训练时间长
注意：量化不是万能的。我曾经在YOLOv8的检测头上做量化，结果mAP掉了5个点。后来发现是某些激活值分布太宽，量化步长太大。解决办法是逐通道量化，或者对敏感层保留FP16。
1.3 课程目标：你能学到什么？
这门课不是讲理论，是讲实战。30章内容，我带你走完从剪枝到量化的完整流程。具体来说：
- 掌握结构化剪枝——学会用L1范数、BN层gamma值、梯度等指标筛选通道
- 搞定量化部署——PTQ和QAT两种方法，手把手调参
- 组合优化策略——先剪枝再量化，还是先量化再剪枝？我会给出最佳实践
- 适配主流硬件——NVIDIA Jetson、手机端NPU、Intel CPU，不同平台怎么调
一句话总结：学完这门课，你能把一个300MB的YOLO模型，压缩到30MB以内，推理速度提升5倍以上，精度损失控制在1%以内。
1.4 学习路径：我建议你这样走
课程分四个阶段，每个阶段都有代码和案例：
| 阶段 | 章节 | 核心内容 | 产出 |
|---|---|---|---|
| 基础篇 | 1-5 | 模型结构分析、剪枝原理、量化原理 | 能看懂剪枝代码 |
| 剪枝实战 | 6-15 | 通道剪枝、层剪枝、稀疏训练、微调 | 剪掉50%参数不掉点 |
| 量化实战 | 16-25 | PTQ、QAT、校准数据集、混合精度 | INT8模型部署上线 |
| 综合部署 | 26-30 | TensorRT、ONNX Runtime、OpenVINO | 多平台推理优化 |
我的建议：别跳着学。剪枝和量化是耦合的——剪枝后的稀疏模型，量化时精度损失更小。我见过有人直接量化没剪枝的模型，结果精度崩了，回头还得补剪枝。按顺序来，最省时间。
1.5 知识体系总览
下面这张图，把整个课程的知识结构串起来了。你可以把它当作学习地图：
1.6 你需要准备什么？
工欲善其事，必先利其器。我建议你准备好这些：
- 硬件：一张NVIDIA GPU（GTX 1060以上，显存≥8GB），或者用Google Colab也行
- 软件：PyTorch 1.10+、CUDA 11.x、TensorRT 8.x（后面章节会教安装）
- 数据集：COCO 2017（YOLO标准数据集），或者你自己的业务数据
避坑提醒：别在CPU上跑剪枝实验。我曾经用i7-12700剪枝YOLOv5s，一个epoch跑了40分钟，心态直接崩了。至少用个T4或者V100，省下的时间够你调两轮参数。