VIP20
本课程属于：010-TinyML模型剪枝与稀疏化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TinyML非结构化权重剪枝比例选择方法

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
TinyML概述 · 非结构化权重剪枝的定义 · 课程目标与学习路径
课程导入TinyML
02
TinyML基础
微控制器资源约束 · 典型应用场景 · 模型部署挑战
TinyML微控制器资源约束
03
模型压缩技术概览
量化 · 蒸馏 · 剪枝的对比
模型压缩技术概览量化
04
权重剪枝原理
结构化剪枝与非结构化剪枝的区别 · 稀疏性概念 · 剪枝粒度
权重剪枝原理结构化剪枝
05
非结构化剪枝的数学基础
权重重要性度量（L1/L2范数 · 泰勒展开 · Hessian近似）
非结构化剪枝的数…L1/L2
06
剪枝比例的核心问题
为什么比例选择困难 · 比例对精度与模型大小的影响
剪枝比例的核心问…为什么比例选择困…
07
剪枝比例选择方法综述
启发式方法 · 敏感性分析 · 自动搜索
剪枝比例选择方法…启发式方法
08
全局剪枝与局部剪枝
按层统一比例 vs 逐层差异化比例 · 优缺点分析
全局剪枝局部剪枝
09
敏感性分析基础
逐层剪枝敏感性曲线绘制 · 如何识别敏感层
敏感性分析基础逐层剪枝敏感性曲…
10
基于敏感性的比例分配
利用敏感性信息确定各层剪枝比例
基于敏感性的比例…利用敏感性信息确…
11
迭代剪枝与比例调整
逐步增加剪枝比例 · 重训练与恢复精度
迭代剪枝比例调整
12
一次性剪枝 vs 迭代剪枝
精度保持 · 训练成本 · 适用场景
vs一次性剪枝
13
剪枝比例与模型精度关系
经验公式 · 理论界限 · 实际观察
剪枝比例模型精度关系
14
稀疏度与硬件效率
非结构化剪枝的存储压缩 · 计算加速潜力与瓶颈
稀疏度硬件效率
15
TinyML硬件约束
内存带宽 · Flash大小 · SRAM限制对剪枝比例的影响
TinyML硬件约束
16
剪枝比例选择工具
TensorFlow Model O… · PyTorch Pruning · 自定义脚本
剪枝比例选择工具TensorFlow
17
案例实战
在MNIST/MLP上实现非结构化剪… · 比较不同比例的效果
案例实战MNIST/MLP
18
案例实战
在CIFAR-10/小型CNN上应用…
案例实战CIFAR-10
19
案例实战
在Keyword Spotting模…
案例实战Keyword
20
案例实战
在Person Detection模…
案例实战Person
21
剪枝后微调策略
学习率调度 · 正则化 · 知识蒸馏辅助恢复精度
剪枝后微调策略学习率调度
22
剪枝比例与量化结合
联合优化流程 · 比例选择对量化误差的影响
剪枝比例量化结合
23
常见问题与调试
精度骤降 · 层崩溃 · 梯度消失
常见问题调试
24
评估指标
模型大小 · 推理时间 · 能耗
评估指标模型大小
25
自动比例搜索
贝叶斯优化 · 遗传算法 · 可微搜索在剪枝比例中的应用
自动比例搜索贝叶斯优化
26
基于强化学习的比例选择
状态 · 动作 · 奖励设计
基于强化学习的比…状态
27
实际部署
将剪枝模型转换为TFLite · CMSIS-NN · 验证比例选择效果
实际部署TFLite
28
综合项目
从零开始为一个TinyML任务设计剪…
综合项目TinyML
29
前沿进展
动态剪枝 · 自适应比例 · 神经架构搜索与剪枝结合
前沿进展动态剪枝
30
课程总结与进阶路径
核心要点回顾 · 推荐资源 · 未来研究方向
课程总结进阶路径