VIP20
本课程属于：026-YOLOv11模型剪枝量化压缩 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

YOLOv11非结构化剪枝精度恢复技巧

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
剪枝基础
什么是非结构化剪枝？为什么剪枝后精度…
剪枝基础什么是非结构化剪…
02
环境准备
安装PyTorch · Ultralytics · torch-pruning库
环境准备PyTorch
03
模型加载
加载YOLOv11预训练权重 · 查看模型结构 · 统计各层参数数量
模型加载YOLOv11
04
稀疏化训练
在YOLOv11的loss中加入L1… · 设置稀疏因子 · 训练50个epoch
稀疏化训练YOLOv11
05
BN层分析
绘制BN层gamma值分布直方图 · 观察稀疏化效果 · 确定剪枝阈值
BN层分析
06
全局剪枝
基于gamma阈值对全模型进行非结构… · 生成mask矩阵
全局剪枝gamma
07
局部剪枝
按层设置不同剪枝率 · 对敏感层保留更多参数 · 对冗余层加大剪枝力度
局部剪枝按层设置不同剪枝…
08
剪枝后评估
在验证集上测试剪枝后模型的mAP · Recall · Precision
剪枝后评估mAP
09
精度损失分析
分析哪些层/哪些类别掉点最严重 · 定位精度瓶颈
精度损失分析分析哪些层
10
知识蒸馏基础
什么是知识蒸馏？软标签与硬标签的区别 · 温度参数T的作用
知识蒸馏基础什么是知识蒸馏？…
11
蒸馏训练
以原始模型为教师 · 剪枝模型为学生 · 进行logit-level蒸馏训练
蒸馏训练以原始模型为教师
12
特征层蒸馏
在YOLOv11的Neck和Head… · 恢复空间信息
特征层蒸馏YOLOv11
13
蒸馏超参调优
调整蒸馏损失权重alpha · 温度T · 特征层匹配策略
蒸馏超参调优alpha
14
渐进式剪枝
分阶段剪枝 · 每剪10%就蒸馏恢复一次 · 避免一次性剪太多
渐进式剪枝分阶段剪枝
15
学习率重调度
剪枝后使用Warmup+Cosine… · 帮助模型跳出局部最优
学习率重调度Warmup+Cosin…
16
权重回退机制
在蒸馏过程中 · 如果验证集精度连续5个epoch不提… · 回退到最佳权重
权重回退机制蒸馏过程
17
数据增强强化
剪枝后模型容量变小 · 增加Mosaic · MixUp等强数据增强来提升泛化能力
数据增强强化剪枝后模型容量变…
18
标签平滑
在蒸馏训练中使用标签平滑 · 防止剪枝模型过拟合教师模型的错误输出
标签平滑蒸馏训练
19
多教师蒸馏
使用多个不同结构的YOLOv11变体… · 集成知识指导学生模型
多教师蒸馏YOLOv11
20
自蒸馏
剪枝模型自己当自己的教师 · 通过EMA指数移动平均生成软标签
自蒸馏剪枝模型自己当自…
21
量化感知剪枝
在剪枝过程中模拟量化误差 · 使剪枝后的模型对量化更鲁棒
量化感知剪枝剪枝过程
22
通道重要性重估
剪枝后重新计算各通道的L2范数或梯度… · 动态调整mask
通道重要性重估L2
23
微调策略
使用SGD优化器 · 设置较小的初始学习率1e-4 · 逐步恢复精度
微调策略SGD
24
冻结训练
先冻结Backbone只训练Head · 再解冻全模型 · 分阶段恢复
冻结训练Backbone
25
混合精度训练
使用AMP自动混合精度加速蒸馏和微调… · 减少显存占用
混合精度训练AMP
26
早停机制
在微调过程中监控验证集mAP · 连续10个epoch不提升则停止训练
早停机制mAP
27
结果对比
制作剪枝前后模型在COCO验证集上的… · 分析收益
结果对比COCO
28
部署优化
将剪枝后的模型导出为ONNX/Ten… · 测试实际推理速度提升
部署优化ONNX/Ten
29
常见问题排查
剪枝后模型不收敛 · 精度暴跌 · 显存溢出等问题的解决方案
常见问题排查剪枝后模型不收敛
30
综合实战
从零开始对一个YOLOv11s模型进… · 最终恢复精度至原始模型的98%以上
综合实战YOLOv11s