VIP20

本课程属于：019-Arm Ethos-U NPU模型部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

满足延迟预算的Ethos-U NPU模型量化实操教程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 目标学员 · 课程结构

课程导入学习目标

Ethos-U NPU架构概览

NPU硬件特性 · 支持的操作 · 内存层次

量化原理 · 定点与浮点 · 对称与非对称量化

量化基础量化原理

量化感知训练与后训练量化

QAT与PTQ的区别 · 适用场景 · 精度与延迟权衡

量化感知训练后训练量化

延迟预算概念

延迟预算定义 · 如何设定延迟目标 · 延迟测量方法（周期数

延迟预算概念延迟预算定义

量化对延迟的影响

量化如何减少内存带宽 · 加速计算 · 影响NPU利用率

量化对延迟的影响量化如何减少内存…

工具链概览

Vela编译器 · TensorFlow Lite Mi… · Ethos-U NPU SDK

工具链概览Vela

模型准备与转换

将Keras/PyTorch模型转换… · ONNX到TFLite流程 · 算子兼容性检查

模型准备转换

TFLite量化API详解

dynamic range · float16 · int8量化

Ethos-U Vela编译器使用

Vela安装 · 命令行参数 · 优化选项

量化模型在Ethos-U上的部署

将量化TFLite模型通过Vela编… · 生成C数组 · 集成到MCU工程

Ethos-U量化模型

延迟测量与性能分析

使用计时器 · Cycle Counter · Vela报告

延迟测量性能分析

满足延迟预算的量化策略

根据延迟目标选择量化方案 · 混合量化 · 部分层量化

满足延迟预算的量…根据延迟目标选择…

图像分类模型量化与延迟优化 · 从浮点到int8量化 · 测量延迟并调优

案例实战图像分类模型量化

关键词唤醒（KWS）模型量化 · 延迟预算满足实战

案例实战KWS

异常检测模型量化：传感器数据异常检测 · 量化后延迟与精度平衡

案例实战异常检测模型量化

量化精度评估

量化后模型精度验证 · 使用验证集 · 误差分析

量化精度评估量化后模型精度验…

校准数据集构建

代表性数据采样 · 数据增强 · 校准集大小对量化精度的影响

校准数据集构建代表性数据采样

常见量化陷阱与解决方案

算子不支持 · 精度下降 · 延迟异常

常见量化陷阱解决方案

延迟优化技巧

算子融合 · 内存复用 · 数据布局优化

延迟优化技巧算子融合

多模型与多任务延迟管理

多个模型共享NPU · 时间片调度 · 延迟预算分配

多模型多任务延迟管理

实时性保障

硬实时与软实时 · 中断处理 · DMA传输

实时性保障硬实时

与CMSIS-NN结合

在Cortex-M上使用CMSIS-… · 与Ethos-U协同工作

调试与验证工具

Vela性能报告解读 · TFLite Model Analy… · Ethos-U Inspector

调试验证工具

自动化量化流程

脚本化量化 · CI/CD集成 · 批量模型量化与延迟测试

自动化量化流程脚本化量化

自定义模型量化与延迟调优 · 完成量化并满足延迟预算

案例实战自定义模型量化

端到端语音识别或视觉检测系统 · 满足延迟预算

综合项目端到端语音识别或…

性能与精度权衡决策

如何根据应用需求选择量化级别 · 延迟预算与精度要求冲突时的决策

性能精度权衡决策

未来趋势与扩展

NPU新特性 · 量化技术前沿 · 边缘AI延迟优化方向

未来趋势扩展

课程总结与进阶资源

核心要点回顾 · 常见问题解答 · 推荐阅读

课程总结进阶资源