VIP20
本课程属于：004-TFLite Micro CMSIS-NN加速 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

CMSIS-NN加速下的TFLite Micro推理耗时分析

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
嵌入式机器学习基础
TFLite Micro架构 · CMSIS-NN库概述 · 推理流程与耗时概念
嵌入式机器学习基…TFLite
03
开发环境搭建
STM32/ARM Cortex-M… · CMSIS-NN与TFLite Mi… · 编译配置
开发环境搭建STM32/ARM
04
模型转换与部署
将Keras/TFLite模型转换为… · 量化技术（int8）及其对耗时的影响
模型转换部署
05
CMSIS-NN核心算子
卷积 · 全连接 · 池化
CMSIS-NN核心算子
06
推理耗时测量方法
使用硬件定时器 · 周期计数器（DWT） · 性能分析工具（如STM32CubeM…
推理耗时测量方法使用硬件定时器
07
耗时分析维度
算子级耗时 · 层间耗时 · 内存访问耗时
耗时分析维度算子级耗时
08
CMSIS-NN加速效果对比
启用与禁用CMSIS-NN的推理耗时… · 分析加速比
CMSIS-NN加速效果对比
09
量化对耗时的影响
不同量化精度（float32 · int8 · uint8）下的推理耗时与精度权衡
量化对耗时的影响float32
10
内存布局与耗时
Tensor内存分配 · 对齐 · DMA使用对推理耗时的影响
内存布局耗时
11
算子优化策略
针对CMSIS-NN的算子融合 · 权重重排 · 输入输出缓冲优化
算子优化策略CMSIS-NN
12
多线程与中断
RTOS环境下多线程推理 · 中断优先级对耗时稳定性的影响
多线程RTOS
13
案例实战一
基于CIFAR-10的小型CNN模型…
案例实战一CIFAR-10
14
案例实战二
基于MobileNetV1的TFLi…
案例实战二MobileNetV1
15
案例实战三
关键词唤醒（KWS）模型在Corte…
案例实战三KWS
16
耗时瓶颈定位
使用Profiler输出各算子耗时 · 定位瓶颈层并优化
耗时瓶颈定位Profiler
17
缓存与预取优化
利用CMSIS-NN的缓存友好设计 · 数据预取减少耗时
缓存预取优化
18
低功耗与耗时权衡
动态电压频率调整（DVFS） · 睡眠模式对推理耗时的影响
低功耗耗时权衡
19
常见问题一
CMSIS-NN与TFLite Mi…
常见问题一CMSIS-NN
20
常见问题二
量化模型精度下降与耗时增加的原因分析
常见问题二量化模型精度下降
21
常见问题三
内存不足导致推理失败或耗时剧增的排查…
常见问题三内存不足导致推理…
22
常见问题四
不同编译器优化选项（-O0/-O3）…
常见问题四O0/-O3
23
常见问题五
硬件差异（不同Cortex-M内核）…
常见问题五Cortex-M
24
性能基准测试
使用CMSIS-NN自带的bench…
性能基准测试CMSIS-NN
25
耗时模型建立
基于算子耗时和内存带宽建立推理耗时预…
耗时模型建立基于算子耗时
26
自动化耗时分析脚本
编写Python脚本解析Profil…
自动化耗时分析脚…Python
27
综合实战
从模型选择 · 量化 · 部署到耗时优化的完整项目流程
综合实战从模型选择
28
高级优化
使用CMSIS-NN的DSP指令 · SIMD · 硬件加速器（如Ethos-U）的集成
高级优化CMSIS-NN
29
未来趋势
CMSIS-NN新版本特性 · TFLite Micro的更新对耗时…
未来趋势CMSIS-NN
30
课程总结
核心要点回顾 · 常见误区 · 学习路径建议与拓展资源
课程总结核心要点回顾