VIP20

本课程属于：019-Arm Ethos-U NPU模型部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

Arm Ethos-U NPU延迟预算约束下的模型剪枝指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 目标学员 · 课程结构

课程导入学习目标

边缘AI与NPU基础

边缘计算 · NPU架构特点 · Ethos-U系列（U55/U65）…

模型压缩技术概览

剪枝 · 量化 · 蒸馏

模型压缩技术概览剪枝

延迟预算定义与测量

延迟预算的构成 · 如何测量NPU推理延迟 · 使用Arm Cycle模型与工具（如…

延迟预算定义测量

结构化剪枝与非结构化剪枝的区别 · 粒度（细粒度 · 向量

剪枝基础结构化剪枝

剪枝对NPU延迟的影响机制

稀疏性如何映射到Ethos-U硬件 · 计算单元利用率 · 内存带宽瓶颈

Arm Ethos-U NPU硬件特性与剪枝约束

支持的结构化稀疏模式 · 权重布局要求 · 对齐约束

剪枝前的模型分析

识别敏感层 · FLOPs与MACs计算 · 延迟热点分析

剪枝前的模型分析识别敏感层

剪枝策略选择

全局剪枝vs分层剪枝 · 基于幅度 · 基于梯度

剪枝策略选择vs

结构化剪枝方法详解

通道剪枝 · 向量剪枝 · 核剪枝

结构化剪枝方法详…通道剪枝

非结构化剪枝与稀疏化

细粒度稀疏的优缺点 · 如何通过稀疏约束使其在NPU上生效 · N:M稀疏模式

非结构化剪枝稀疏化

延迟预算约束下的剪枝目标设定

如何将延迟预算转化为剪枝率 · 多目标优化（精度vs延迟） · 约束优化框架

延迟预算约束下的…如何将延迟预算转…

剪枝流程实战

从预训练模型开始 · 逐步剪枝 · 微调

剪枝流程实战从预训练模型开始

剪枝与量化协同

剪枝后量化 · 量化感知剪枝 · 在Ethos-U上联合优化延迟与内存…

剪枝量化协同

使用Arm Vela进行延迟评估

Vela工具介绍 · 编译优化 · 如何将剪枝后的模型映射到NPU并获取…

使用TensorFlow Lite与Ethos-U部署

TFLite转换 · Delegate · 自定义算子支持

使用PyTorch/ONNX进行剪枝

PyTorch剪枝库 · ONNX导出 · 与Ethos-U工具链的衔接

PyTorch/ONNX使用

基于MobileNetV2的通道剪枝 · 剪枝 · 微调

案例实战MobileNetV2

基于ResNet-50的N · 硬件加速验证 · 延迟与精度权衡

案例实战ResNet-50

基于YOLO检测模型的结构化剪枝 · 延迟预算约束 · 多输出层处理

案例实战YOLO

剪枝后模型微调技巧

学习率调度 · 蒸馏辅助 · 正则化

剪枝后模型微调技…学习率调度

延迟预算约束下的自动剪枝

AutoML剪枝 · 强化学习 · 贝叶斯优化

延迟预算约束下的…AutoML

常见问题与调试

剪枝后精度骤降 · 延迟不降反升 · 硬件不支持稀疏

常见问题调试

剪枝与模型架构搜索（NAS）结合

在NPU延迟约束下联合搜索架构与剪枝…

多模型与多任务场景

多个模型共享NPU时的延迟预算分配 · 剪枝优先级 · 调度策略

多模型多任务场景

工业实践与工具链

TensorFlow Model O… · OpenVINO · TVM

工业实践工具链

性能评估与基准测试

建立延迟-精度基准 · 对比不同剪枝方法 · 绘制帕累托前沿

性能评估基准测试

前沿趋势与未来方向

动态剪枝 · 硬件自适应剪枝 · 稀疏训练

前沿趋势未来方向

从零开始为一个给定模型在Ethos-… · 完成报告与演示

综合项目Ethos

课程总结与进阶资源

核心要点回顾 · 常见误区 · 推荐论文

课程总结进阶资源