VIP20
本课程属于：019-Arm Ethos-U NPU模型部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TinyML模型在Ethos-U上的NPU延迟预算优化案例

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
TinyML与Ethos-U NPU… · 学习目标 · 课程整体框架与案例背景
课程导入TinyML
02
TinyML基础
TinyML的定义 · 典型应用场景 · 资源约束（内存
TinyML的定义
03
Ethos-U NPU架构概览
Ethos-U55/U65的硬件架构 · 计算单元 · 内存层次
Ethos-UNPU
04
NPU工作原理解析
卷积 · 全连接 · 激活函数等算子在NPU上的映射方式
NPU工作原理解析
05
延迟预算概念
延迟预算的定义 · 在实时系统中的重要性 · 如何制定合理的延迟预算目标
延迟预算概念延迟预算的定义
06
延迟测量方法
使用Vela编译器 · Arm Cycle模型 · 硬件计时器等方法测量NPU推理延迟
延迟测量方法Vela
07
Vela编译器入门
Vela的作用 · 安装配置 · 基本命令行用法
Vela编译器入门
08
模型量化基础
量化原理（INT8/INT16） · 量化对NPU延迟和精度的影响 · 以及量化感知训练
模型量化基础INT8/INT16
09
模型优化技术
权重剪枝 · 通道剪枝 · 低秩分解等模型压缩方法在NPU上的适…
模型优化技术权重剪枝
10
算子融合与图优化
Conv+BN+ReLU融合 · 恒等映射消除等图优化技术对延迟的改善
算子融合图优化
11
内存布局与数据复用
NHWC/NCHW格式选择 · 张量内存对齐 · 数据复用策略对NPU效率的影响
内存布局数据复用
12
NPU延迟预算分析流程
从模型到延迟估算的完整流程 · 包括Vela性能报告解读
NPU延迟预算分析流程
13
案例实战
基于MobileNetV2的延迟预算…
案例实战MobileNetV2
14
案例实战
基于YOLOv5-Tiny的目标检测…
案例实战YOLOv5-Tiny
15
案例实战
语音唤醒词模型优化
案例实战语音唤醒词模型优…
16
多模型调度与延迟分配
在单一NPU上运行多个模型时的延迟预…
多模型调度延迟分配
17
动态形状与可变延迟
处理动态输入尺寸 · 分支结构对延迟预算的影响及应对方法
动态形状可变延迟
18
延迟与精度的权衡
在满足延迟预算的前提下 · 如何通过超参数调整 · 知识蒸馏等方法保持精度
延迟精度的权衡
19
常见延迟瓶颈诊断
识别NPU利用率低 · 内存带宽瓶颈 · 算子低效等常见问题
常见延迟瓶颈诊断NPU
20
性能分析工具使用
使用Arm Performance… · Vela Profile · 调试器进行延迟剖析
性能分析工具使用Arm
21
代码级优化技巧
在C/C++层面优化数据预处理 · 后处理 · 减少CPU与NPU的同步开销
代码级优化技巧C/C++
22
硬件加速器协同
利用DMA · 双缓冲 · 中断机制降低延迟
硬件加速器协同DMA
23
延迟预算的自动化优化
使用自动搜索（如AutoML）或启发…
延迟预算的自动化…AutoML
24
案例实战
工业异常检测模型优化 · 优化自编码器或CNN模型
案例实战工业异常检测模型…
25
案例实战
可穿戴设备健康监测模型
案例实战可穿戴设备健康监…
26
延迟预算的验证与测试
在真实硬件上验证延迟 · 考虑温度 · 电压
延迟预算的验证测试
27
与CMSIS-NN的对比
Ethos-U NPU与CMSIS-…
CMSIS-NN的对比
28
未来趋势与扩展
Ethos-U系列演进 · Vela编译器更新 · 以及TinyML延迟优化的新方向
未来趋势扩展
29
综合项目
从零开始为一个实际TinyML应用（…
综合项目TinyML
30
课程总结与进阶路径
回顾核心知识点 · 提供进一步学习资源 · 社区与工具链推荐
课程总结进阶路径