VIP20

本课程属于：027-Edge AI模型压缩：剪枝、蒸馏与稀疏化 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

20. Edge AI模型压缩交付：从训练报告到端侧部署包

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · Edge AI模型压缩交付的整体流程…

课程导入学习目标

边缘计算与端侧推理的硬件约束 · 典型应用场景（如手机 · IoT

模型压缩概览

剪枝 · 量化 · 蒸馏

模型压缩概览剪枝

训练报告解读

如何从训练日志 · 验证指标 · 混淆矩阵中识别冗余参数与压缩潜力

训练报告解读如何从训练日志

模型剪枝入门

结构化剪枝与非结构化剪枝的原理 · 粒度（权重/通道/层）及适用场景

模型剪枝入门结构化剪枝

使用PyTorch/TensorFl… · 并评估精度与FLOPs变化

剪枝实战PyTorch/Tens…

定点数表示 · 对称/非对称量化 · 量化误差来源与校准数据集的作用

量化基础定点数表示

PTQ（训练后量化）与QAT（量化感… · 优缺点及选择策略

量化方法PTQ

使用ONNX Runtime/TFL… · 并对比INT8与FP32的精度和速度

量化实战ONNX

教师-学生网络架构 · 软标签与温度系数 · 蒸馏损失设计

知识蒸馏教师

将大模型（如ResNet50）蒸馏为… · 并记录精度变化

蒸馏实战ResNet50

低秩分解与张量分解

SVD · CP分解的原理及其在卷积核压缩中的应…

低秩分解张量分解

混合压缩策略

如何组合剪枝 · 量化 · 蒸馏

混合压缩策略如何组合剪枝

模型转换与中间表示

ONNX · TFLite · Core ML

模型转换间表示

端侧推理引擎

TFLite · ONNX Runtime Mobil… · NCNN

端侧推理引擎TFLite

部署包构建

将压缩后的模型打包为端侧可用的文件（… · 包含配置与元数据

部署包构建将压缩后的模型打…

硬件适配与优化

针对CPU/GPU/NPU/DSP的… · 内存布局与缓存友好设计

硬件适配优化

精度验证与回归测试

在端侧运行压缩模型 · 对比原始模型输出 · 设定精度阈值

精度验证回归测试

性能基准测试

测量延迟 · 吞吐量 · 内存占用

性能基准测试测量延迟

端侧部署实战

以图像分类或目标检测为例 · 完成从训练到端侧推理的完整流程

端侧部署实战以图像分类或目标…

常见问题与调试

量化掉点 · 剪枝后不收敛 · 转换失败

常见问题调试

自动化压缩工具

使用Intel Neural Com… · OpenVINO NNCF · TensorFlow Model O…

自动化压缩工具Intel

模型压缩与安全

对抗鲁棒性 · 隐私保护与压缩的权衡

模型压缩安全

持续集成与交付

将压缩流程集成到CI/CD管道 · 实现自动化模型更新与发布

持续集成交付

工业质检中的YOLO模型压缩与部署 · 从训练报告到端侧包的全过程

案例研究YOLO

语音唤醒词模型的量化与部署 · 处理时序模型的特殊约束

案例研究语音唤醒词模型的…

神经架构搜索（NAS） · 自动化压缩 · 大模型端侧化（如LLM量化）

前沿趋势NAS

综合实战项目

给定一个预训练模型和端侧硬件 · 设计并实施压缩方案 · 输出部署包和报告

综合实战项目给定一个预训练模…

核心知识回顾 · 常见误区 · 学习路径建议与资源推荐

课程总结核心知识回顾

完成一个端到端压缩交付项目 · 提交训练报告 · 压缩代码

结业考核完成一个端到端压…