首页
›
嵌入式边缘AI与TinyML
›
027-Edge AI模型压缩:剪枝、蒸馏与稀疏化
›
《Edge AI语音模型压缩:关键词识别小模型优化》
VIP20
本课程属于:027-Edge AI模型压缩:剪枝、蒸馏与稀疏化
嵌入式边缘AI与TinyML · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
13. Edge AI语音模型压缩:关键词识别小模型优化
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 核心概念 · 整体框架
课程导入
学习目标
02
基础知识
语音信号处理基础 · MFCC特征提取 · 关键词识别任务定义与常见数据集(如S…
基础知识
语音信号处理基础
03
模型压缩概览
模型压缩的必要性 · 常见技术分类(剪枝 · 量化
模型压缩概览
模型压缩的必要性
04
小模型设计原则
从零设计轻量级KWS模型(如TC-R… · DS-CNN)的架构选择与参数控制
小模型设计原则
KWS
05
剪枝技术
结构化剪枝与非结构化剪枝原理 · 在KWS模型上的实现步骤与效果评估
剪枝技术
结构化剪枝
06
量化技术
训练后量化(PTQ)与量化感知训练(… · 精度与速度权衡
量化技术
PTQ
07
知识蒸馏
教师-学生架构 · 软标签与温度参数 · 将大模型知识迁移到小KWS模型的方法
知识蒸馏
教师
08
低秩分解与矩阵近似
SVD分解 · 张量分解在压缩全连接层和卷积层中的应…
低秩分解
矩阵近似
09
模型部署与推理优化
ONNX · TensorFlow Lite · TensorRT等工具链
模型部署
推理优化
10
实战项目一
使用PyTorch训练一个基线KWS…
实战项目一
PyTorch
11
实战项目二
对基线模型进行剪枝 · 比较剪枝前后模型大小 · 推理速度和准确率
实战项目二
对基线模型进行剪…
12
实战项目三
应用量化(PTQ和QAT)并分析量化…
实战项目三
PTQ
13
实战项目四
使用知识蒸馏训练一个小学生模型 · 并对比直接训练小模型的效果
实战项目四
使用知识蒸馏训练…
14
实战项目五
综合运用剪枝 · 量化 · 蒸馏
实战项目五
综合运用剪枝
15
评估指标与工具
准确率 · 召回率 · 模型大小
评估指标
工具
16
常见问题与调试
剪枝后精度骤降 · 量化后性能损失 · 蒸馏不收敛等问题的排查与解决
常见问题
调试
17
边缘设备适配
针对树莓派 · Jetson Nano · ESP32
边缘设备适配
针对树莓派
18
实时性优化
流式推理 · 唤醒词检测 · 多关键词识别中的延迟优化策略
实时性优化
流式推理
19
鲁棒性与泛化
噪声环境 · 说话人差异 · 方言对压缩模型的影响及数据增强方法
鲁棒性
泛化
20
模型压缩与硬件协同
利用NPU · DSP等硬件特性进行定制化压缩
模型压缩
硬件协同
21
前沿进展
神经架构搜索(NAS)自动寻找高效K… · 超网络与权重共享
前沿进展
NAS
22
案例研究
Google Hey Google · Alexa · Siri等商业KWS系统的压缩技术分…
案例研究
Google
23
开源工具与库
Distiller · NNI · TensorFlow Model O…
开源工具
Distiller
24
课程总结
回顾核心知识点 · 技能树 · 常见误区与最佳实践
课程总结
回顾核心知识点
25
综合实战
从零到一完成一个端到端KWS压缩项目 · 包括数据准备 · 训练
综合实战
KWS
26
性能调优进阶
使用贝叶斯优化 · 网格搜索等超参数调优方法提升压缩后模…
性能调优进阶
使用贝叶斯优化
27
多任务与多语言扩展
压缩模型在多语言关键词识别中的迁移与…
多任务
多语言扩展
28
安全与隐私
模型压缩中的隐私保护 · 对抗攻击对压缩模型的影响
安全
隐私
29
未来趋势
超低功耗语音唤醒 · 片上学习 · 动态压缩等前沿方向
未来趋势
超低功耗语音唤醒
30
课程项目答辩与评审
项目展示 · 评估标准 · 反馈与改进建议
课程项目答辩
评审
所属VIP或分类
同VIP:Edge-AI-NAS模型搜索:硬件感知网络结构自动优化
同VIP:Edge-AI-PyTorch-NNCF模型压缩工具链
同VIP:Edge-AI-TinyNAS硬件感知模型搜索