VIP20

本课程属于：019-Arm Ethos-U NPU模型部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

硬件加速TinyML推理的Ethos-U NPU部署教程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 目标学员 · 课程结构

课程导入学习目标

TinyML定义 · 典型应用场景 · 资源约束

硬件加速概述

CPU · GPU · DSP

硬件加速概述CPU

Ethos-U NPU架构详解

核心计算单元 · 内存层次 · 数据流

开发环境搭建

安装Vela编译器 · CMSIS-NN · Arm Compiler

开发环境搭建Vela

模型量化基础

量化原理（INT8/INT16） · 量化感知训练（QAT） · 后训练量化（PTQ）

模型量化基础INT8/INT16

Vela编译器入门

Vela功能 · 输入输出格式 · 命令行用法

Vela编译器入门

模型转换流程

从TensorFlow Lite模型… · 验证转换结果

模型转换流程TensorFlow

算子支持与映射

Ethos-U支持的算子列表 · 不支持的算子处理（fallback到… · 算子融合策略

算子支持映射

内存规划与优化

SRAM使用 · Tensor布局 · 内存复用

内存规划优化

性能评估与基准测试

使用Vela报告 · Ethos-U性能模型 · 计算MACs

性能评估基准测试

将NPU编译产物集成到嵌入式C/C+… · 使用Ethos-U驱动和CMSIS-…

部署集成NPU

运行时推理流程

初始化NPU · 加载模型 · 输入输出缓冲区管理

运行时推理流程NPU

图像分类模型（如MobileNetV…

案例实战MobileNetV

物体检测模型（如YOLOv5-tin…

案例实战YOLOv5-tin

语音关键词识别（KWS）模型部署 · 处理音频特征和实时推理

案例实战KWS

异常检测或预测性维护模型部署 · 多传感器数据融合

案例实战异常检测或预测性…

性能调优技巧

模型结构优化 · 剪枝 · 蒸馏

性能调优技巧模型结构优化

动态电压频率调整（DVFS） · 低功耗模式 · 事件驱动推理

功耗优化DVFS

多模型与多任务

在单个NPU上部署多个模型 · 调度策略 · 资源隔离

多模型多任务

调试与验证

使用仿真器（如Arm Fast Mo… · 硬件调试器 · 日志输出

常见问题与解决方案

模型编译失败 · 精度下降 · 内存溢出

常见问题解决方案

与CMSIS-NN协同

CMSIS-NN在CPU上的优化 · 与NPU的混合推理 · 何时使用CPU回退

安全与可靠性

模型保护 · 防篡改 · 安全启动

安全可靠性

工具链进阶

Vela高级选项 · 自定义算子支持 · 脚本自动化部署流程

工具链进阶Vela

生态与社区资源

Arm AI生态 · TFLite Micro · Edge Impulse

生态社区资源

设计一个完整的TinyML产品原型（… · 从模型训练到NPU部署

综合项目TinyML

性能基准对比

不同硬件（CPU-only · CMSIS-NN · Ethos-U）的延迟

性能基准对比CPU-only

未来趋势与扩展

Ethos-U55/U65对比 · 新一代NPU · TinyML与MLOps结合

未来趋势扩展

课程总结与进阶路径

核心知识回顾 · 推荐资源 · 实战建议

课程总结进阶路径