VIP20

本课程属于：010-TinyML模型剪枝与稀疏化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

TinyML剪枝前后MACs与参数量评估

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

TinyML背景 · 剪枝的意义 · MACs与参数量的基本概念

课程导入TinyML

微控制器资源限制 · 典型TinyML模型（MobileN… · TinyMLPerf）

TinyML微控制器资源限制

模型剪枝概述

剪枝类型（结构化/非结构化） · 剪枝粒度（权重/通道/层） · 剪枝流程（训练-剪枝-微调）

模型剪枝概述剪枝类型

参数量与MACs定义

参数量（Params）的计算方法 · MACs（乘加运算）与FLOPs的区… · 如何统计全连接与卷积层

剪枝对参数量的影响

非结构化剪枝的稀疏存储 · 结构化剪枝的维度缩减 · 参数量减少的量化分析

剪枝对参数量的影…非结构化剪枝的稀…

剪枝对MACs的影响

稀疏矩阵运算的加速原理 · 通道剪枝对MACs的直接减少 · 层剪枝的跳跃计算

评估工具与框架

TensorFlow Model O… · PyTorch Pruning · Netron可视化

评估工具框架

手动计算参数量与MACs

卷积层 · 深度可分离卷积 · 全连接层的公式推导与实例计算

MACs手动计算参数量

使用Python统计模型参数量与MACs

基于TensorFlow/PyTor… · thop · ptflops）

剪枝前基线评估

选择基准模型 · 记录原始参数量与MACs · 建立评估报告模板

剪枝前基线评估选择基准模型

非结构化剪枝实战

权重剪枝（如magnitude pr… · 稀疏率设置 · 剪枝后参数量与MACs的统计方法

非结构化剪枝实战magnitude

结构化剪枝实战

通道剪枝（如FPGM · HRank） · 剪枝后模型尺寸变化

结构化剪枝实战FPGM

剪枝后微调与评估

微调策略 · 精度恢复 · 重新统计参数量与MACs

剪枝后微调评估

对MobileNetV2进行剪枝 · 完整记录剪枝前后参数量与MACs变化 · 并分析原因

案例实战MobileNetV2

对TinyML常用模型（如DS-CN… · 评估在MCU上的推理速度与内存占用

案例实战TinyML

剪枝与量化结合

量化对参数量与MACs的影响 · 混合剪枝与量化的评估流程

剪枝量化结合

MACs与参数量在硬件上的实际意义

内存带宽 · 计算延迟 · 能耗估算

剪枝后MACs不变的原因（如稀疏存储… · 参数量减少但模型大小不变 · 工具统计误差

常见问题MACs

剪枝比例与精度权衡 · 如何选择剪枝层 · 剪枝后模型结构不兼容部署框架

常见问题剪枝比例

评估报告撰写

如何清晰呈现剪枝前后对比 · 图表制作 · 结论提炼

评估报告撰写如何清晰呈现剪枝…

自动化评估流程

编写脚本批量统计多个剪枝模型的参数量… · 生成对比表格

自动化评估流程编写脚本批量统计…

剪枝算法进阶

基于重要性评分的剪枝（SNIP · GraSP） · 自动剪枝（AMC）

剪枝算法进阶SNIP

TinyML部署中的实际考量

剪枝后模型在TensorFlow L… · CMSIS-NN上的兼容性 · MACs与参数量对推理延迟的影响

从预训练模型出发 · 完成剪枝 · 微调

综合实战从预训练模型出发

核心知识点回顾 · 常见误区 · 学习资源推荐

课程总结核心知识点回顾

剪枝与知识蒸馏 · 神经架构搜索（NAS）结合时 · 参数量与MACs的评估方法

不同剪枝粒度（权重 · 通道 · 层）对参数量与MACs影响的对比实验…

拓展不同剪枝粒度

在边缘设备上实测剪枝前后MACs与参… · 包括内存占用 · 功耗

使用TensorBoard或自定义回…

拓展TensorBoard

给定一个TinyML模型 · 要求完成剪枝前后参数量与MACs的评… · 并撰写分析报告

综合考核TinyML