VIP20
本课程属于：027-Edge AI模型压缩：剪枝、蒸馏与稀疏化 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

7. Edge AI剪枝后微调：恢复精度和防止过拟合

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 剪枝后微调在Edge AI中的重要性
课程导入学习目标
02
剪枝基础回顾
剪枝类型（结构化/非结构化） · 剪枝流程 · 剪枝对模型精度的影响
剪枝基础回顾剪枝类型
03
为什么需要微调
剪枝后精度下降的原因 · 微调的作用 · 微调与从头训练的区别
为什么需要微调剪枝后精度下降的…
04
过拟合风险分析
剪枝后模型容量变化 · 过拟合的成因 · 在Edge AI场景下的特殊风险
过拟合风险分析剪枝后模型容量变…
05
微调策略概览
全量微调 · 部分层微调 · 逐层微调
微调策略概览全量微调
06
学习率调度
学习率选择 · 余弦退火 · warmup
学习率调度学习率选择
07
正则化技术
L1/L2正则 · Dropout · 标签平滑
正则化技术L1/L2
08
损失函数调整
知识蒸馏损失 · 注意力转移损失 · 特征匹配损失的设计
损失函数调整知识蒸馏损失
09
数据策略
微调数据量要求 · 数据分布匹配 · 类别不平衡处理
数据策略微调数据量要求
10
训练超参数
batch size · epoch数 · 优化器选择（SGD/Adam/Ada…
训练超参数batch
11
冻结与解冻策略
如何选择冻结层 · 渐进解冻 · 分层学习率
冻结解冻策略
12
评估指标
剪枝后微调的评价指标（精度 · FLOPs · 模型大小
评估指标剪枝后微调的评价…
13
防止过拟合的实用技巧
早停 · 模型检查点 · 交叉验证
防止过拟合的实用…早停
14
案例实战
基于PyTorch对ResNet进行… · 恢复精度并防止过拟合
案例实战PyTorch
15
案例实战
基于TensorFlow对Mobil… · 部署到树莓派
案例实战TensorFlow
16
案例实战
YOLOv5剪枝后微调 · 目标检测精度恢复与过拟合控制
案例实战YOLOv5
17
案例实战
BERT-Tiny剪枝后微调 · NLP任务精度恢复与泛化
案例实战BERT-Tiny
18
工具与框架
PyTorch剪枝库（torch.n… · TensorFlow Model O… · OpenVINO
工具框架
19
剪枝后微调与量化结合
量化感知微调 · 混合精度训练 · 部署优化
剪枝后微调量化结合
20
常见问题
微调后精度不升反降 · 过拟合严重 · 训练不稳定
常见问题微调后精度不升反…
21
调试与诊断
损失曲线分析 · 梯度检查 · 特征可视化
调试诊断
22
自动化超参数搜索
网格搜索 · 随机搜索 · 贝叶斯优化在微调中的应用
自动化超参数搜索网格搜索
23
迁移学习与微调的关系
预训练模型剪枝后微调与迁移学习的异同
迁移学习微调的关系
24
Edge AI硬件约束
内存带宽 · 计算能力 · 功耗对微调策略的影响
EdgeAI
25
模型鲁棒性
剪枝后微调对对抗样本 · 噪声 · 分布偏移的鲁棒性提升
模型鲁棒性剪枝后微调对对抗…
26
多任务与多模态
剪枝后微调在多任务学习 · 多模态模型中的应用
多任务多模态
27
持续学习与增量微调
在边缘设备上持续微调 · 避免灾难性遗忘
持续学习增量微调
28
综合项目
从预训练模型出发 · 完成剪枝 · 微调
综合项目从预训练模型出发
29
前沿进展
最新剪枝微调研究 · 自动化剪枝（AutoML） · 神经架构搜索与微调结合
前沿进展最新剪枝微调研究
30
课程总结
核心要点回顾 · 常见误区 · 学习路径建议
课程总结核心要点回顾