VIP20
本课程属于：019-Arm Ethos-U NPU模型部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Arm Ethos-U NPU上满足延迟预算的模型选型指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程整体框架与学习路径
课程导入学习目标
02
Arm Ethos-U NPU 概述
架构特点 · 支持的算子 · 内存层次与性能特性
ArmEthos-U
03
延迟预算基础
延迟的定义 · 测量方法 · 影响延迟的关键因素（如算子
延迟预算基础延迟的定义
04
模型选型核心概念
模型复杂度（FLOPs · 参数量） · 精度与延迟的权衡
模型选型核心概念FLOPs
05
Arm Ethos-U 支持的模型格式
TFLite · ONNX · 自定义算子
ArmEthos-U
06
量化基础
INT8/INT16量化原理 · 量化误差来源 · 量化对延迟和精度的影响
量化基础INT8/INT16
07
使用 Vela 编译器优化模型
Vela 的工作原理 · 编译选项 · 优化日志解读
Vela使用
08
模型性能评估工具
Arm 提供的性能分析工具（如 Et… · Vela 报告）的使用方法
模型性能评估工具Arm
09
延迟预算估算方法
基于算子级延迟表 · 基于仿真 · 基于硬件测量的估算流程
延迟预算估算方法基于算子级延迟表
10
模型选型策略
根据延迟预算选择模型家族（如 Mob… · EfficientNet · YOLO 系列）的决策树
模型选型策略Mob
11
轻量级模型对比
MobileNetV1/V2/V3 · EfficientNet-Lite · GhostNet 在 Ethos-U…
轻量级模型对比MobileNetV1/…
12
目标检测模型选型
YOLO 系列（Tiny · Nano） · SSD-MobileNet 在 Et…
目标检测模型选型YOLO
13
语义分割模型选型
DeepLabV3-Lite · UNet 变体在 Ethos-U 上…
语义分割模型选型DeepLabV3-Li…
14
语音与音频模型选型
唤醒词 · 语音命令识别模型（如 DS-CNN · LSTM）在 Ethos-U 上的部…
语音音频模型选型
15
Transformer 模型在 Ethos-U 上的可行性
轻量级 Transformer（如… · TinyBERT）的延迟挑战与优化
TransformerEthos-U
16
自定义算子与硬件加速
如何识别瓶颈算子 · 用硬件加速算子替换 · 避免不支持的算子
自定义算子硬件加速
17
模型剪枝与蒸馏
结构化剪枝 · 知识蒸馏对延迟预算的改善效果及在 E…
模型剪枝蒸馏
18
混合量化策略
部分层保持高精度 · 部分层低比特量化的方法及对延迟的影响
混合量化策略部分层保持高精度
19
内存优化技巧
激活内存复用 · 权重布局优化 · 内存池配置对延迟的间接影响
内存优化技巧激活内存复用
20
多模型协同与调度
多个模型共享 NPU 时的延迟预算分…
多模型协同调度
21
实战案例一
图像分类模型在 5ms 延迟预算下的…
实战案例一ms
22
实战案例二
目标检测模型在 10ms 延迟预算下…
实战案例二ms
23
实战案例三
语音唤醒模型在 3ms 延迟预算下的…
实战案例三ms
24
常见问题与调试
模型编译失败 · 延迟超预算 · 精度下降等问题的排查方法
常见问题调试
25
性能调优进阶
循环展开 · 算子融合 · 数据布局优化等高级技巧
性能调优进阶循环展开
26
与 CMSIS-NN 的协同
在 Cortex-M 上使用 CMS…
CMSIS-NN的协同
27
自动化模型搜索
基于延迟预算的 NAS（神经架构搜索…
自动化模型搜索NAS
28
延迟预算验证流程
从模型选型到硬件实测的完整验证步骤与…
延迟预算验证流程从模型选型到硬件…
29
综合项目
给定一个实际应用场景（如智能门锁） · 制定满足延迟预算的模型选型方案并实施
综合项目给定一个实际应用…
30
课程总结与进阶资源
核心要点回顾 · 常见误区 · 推荐工具与学习资料
课程总结进阶资源