首页
›
嵌入式边缘AI与TinyML
›
027-Edge AI模型压缩:剪枝、蒸馏与稀疏化
›
《Edge AI低秩模型压缩与精度性能评估》
VIP20
本课程属于:027-Edge AI模型压缩:剪枝、蒸馏与稀疏化
嵌入式边缘AI与TinyML · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
10. Edge AI低秩分解:卷积层分解和速度收益评估
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 核心概念 · 整体框架
课程导入
学习目标
02
基础知识
矩阵分解 · 低秩近似 · 奇异值分解(SVD)的基本原理
基础知识
矩阵分解
03
卷积层分解
全秩卷积与低秩卷积的数学表示及分解思…
卷积层分解
全秩卷积
04
分解方法
CP分解 · Tucker分解 · SVD分解在卷积层中的应用对比
分解方法
CP
05
分解策略
如何选择分解的秩(rank)以平衡精…
分解策略
rank
06
实现细节
将标准卷积分解为两个或多个小卷积的步…
实现细节
将标准卷积分解为…
07
速度收益评估
FLOPs · 参数量 · 推理延迟的测量与计算方法
速度收益评估
FLOPs
08
硬件适配
不同Edge AI硬件(CPU · GPU · NPU
硬件适配
Edge
09
精度恢复
分解后微调(fine-tuning)…
精度恢复
fine-tuning
10
案例实战
以MobileNet或ResNet的…
案例实战
MobileNet
11
工具与框架
PyTorch · TensorFlow中实现低秩分解的…
工具
框架
12
自动秩选择
基于灵敏度分析或强化学习的自动秩搜索…
自动秩选择
基于灵敏度分析或…
13
与其他压缩技术对比
剪枝 · 量化 · 低秩分解的优劣与结合
其他压缩技术对比
剪枝
14
常见问题
分解后模型不收敛 · 速度提升不明显等问题的排查
常见问题
分解后模型不收敛
15
评估指标
准确率 · 吞吐量 · 能效比(TOPS/W)等综合评估
评估指标
准确率
16
部署流程
从训练到部署的完整流程 · 包括模型转换与优化
部署流程
从训练到部署的完…
17
实战项目
构建一个端到端的Edge AI低秩分…
实战项目
Edge
18
进阶技巧
结构化低秩分解 · 混合秩分解 · 多分支分解
进阶技巧
结构化低秩分解
19
最新研究
低秩分解在Transformer · 注意力机制中的扩展
最新研究
Transformer
20
性能调优
针对特定硬件进行分解参数调优与基准测…
性能调优
针对特定硬件进行…
21
案例分析
工业界(如自动驾驶 · 手机端)低秩分解成功案例
案例分析
工业界
22
数学基础
矩阵范数 · 条件数 · 低秩近似的误差界
数学基础
矩阵范数
23
分解后网络结构
如何将分解后的层嵌入现有网络架构
分解后网络结构
如何将分解后的层…
24
训练策略
从零训练与预训练模型分解的差异及注意…
训练策略
从零训练
25
评估实验设计
如何设计对比实验验证分解效果
评估实验设计
如何设计对比实验…
26
代码实战
使用SVD分解一个3x3卷积并测量速…
代码实战
SVD
27
代码实战
使用Tucker分解一个深度卷积并评…
代码实战
Tucker
28
综合练习
给定一个Edge AI模型 · 完成分解 · 评估
综合练习
Edge
29
课程总结
核心要点回顾 · 常见误区 · 学习路径建议
课程总结
核心要点回顾
30
拓展资源
推荐 · 开源项目 · 社区与工具链
拓展资源
推荐
所属VIP或分类
同VIP:Edge-AI-NAS模型搜索:硬件感知网络结构自动优化
同VIP:Edge-AI-PyTorch-NNCF模型压缩工具链
同VIP:Edge-AI-TinyNAS硬件感知模型搜索