VIP20
本课程属于：004-TFLite Micro CMSIS-NN加速 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

TFLite Micro CMSIS-NN fallback算子性能对比

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
嵌入式机器学习基础
TFLite Micro 架构 · 模型转换流程 · 算子注册机制
嵌入式机器学习基…TFLite
03
CMSIS-NN 与 CMSIS-DSP 概览
CMSIS-NN 的算子库 · 优化原理（SIMD · 查表
CMSIS-NNCMSIS-DSP
04
TFLite Micro 的算子调度机制
算子解析 · 内核查找 · fallback 触发条件
TFLiteMicro
05
量化基础与算子兼容性
INT8/INT16 量化 · per-tensor/per-cha… · 量化参数对 CMSIS-NN 算子支…
量化基础算子兼容性
06
CMSIS-NN 算子覆盖范围
支持哪些 TFLite 算子（如 C… · DepthwiseConv2D · FullyConnected
CMSIS-NN算子覆盖范围
07
fallback 算子性能对比方法论
基准测试设计 · 性能指标（延迟 · 吞吐量
fallback算子性能对比方法…
08
性能分析工具与 Profiling
使用 Arm Cycle Model · STM32CubeMonitor · Perf 计数器
Profiling性能分析工具
09
环境搭建实战
安装 CMSIS · TFLite Micro 源码 · 交叉编译工具链
环境搭建实战CMSIS
10
构建第一个基准测试程序
编写简单的 Conv2D 模型 · 分别调用 CMSIS-NN 内核和… · 输出耗时与精度
构建第一个基准测…Conv2D
11
Conv2D 算子性能对比
CMSIS-NN 与参考实现的延迟 · 吞吐量 · 内存差异
Conv2D算子性能对比
12
DepthwiseConv2D 算子性能对比
深度可分离卷积的优化点 · CMSIS-NN 实现与 fallb… · 以及内存访问模式的影响
DepthwiseCon…算子性能对比
13
FullyConnected 算子性能对比
矩阵乘法优化 · CMSIS-NN 的矩阵乘实现与通用… · batch size 的影响
FullyConnect…算子性能对比
14
Pooling 与 Activation 算子对比
MaxPool · AvgPool · ReLU
PoolingActivation
15
Softmax 与归一化算子对比
Softmax 的定点实现 · 查表法 vs 计算法 · CMSIS-NN 与 fallbac…
Softmax归一化算子对比
16
其他常用算子对比
Add · Mul · Concatenate
其他常用算子对比Add
17
内存与带宽分析
CMSIS-NN 优化对 SRAM… · DMA 使用 · 数据对齐的影响
内存带宽分析
18
精度对比与量化误差分析
CMSIS-NN 定点实现与浮点参考… · 量化误差来源 · 如何评估模型精度损失
精度对比量化误差分析
19
fallback 触发场景与原因
算子不支持 · 参数不匹配 · 量化类型不支持
fallback触发场景
20
自定义算子与扩展 CMSIS-NN
如何为缺失算子编写 CMSIS-NN… · 注册到 TFLite Micro · 并集成到基准测试
CMSIS-NN自定义算子
21
性能优化策略
算子融合 · 内存复用 · 数据布局优化（NHWC vs NCH…
性能优化策略算子融合
22
案例实战一
图像分类模型（如 MobileNet… · 分析各层 fallback 占比
案例实战一MobileNet
23
案例实战二
关键词唤醒（KWS）模型中的算子性能… · 优化推理延迟以满足实时性要求
案例实战二KWS
24
案例实战三
异常检测或传感器数据处理模型 · 对比 CMSIS-NN 与 fall…
案例实战三异常检测或传感器…
25
常见问题与调试技巧
编译错误 · 链接错误 · 内存溢出
常见问题调试技巧
26
性能对比报告撰写
如何结构化呈现数据 · 图表 · 结论
性能对比报告撰写如何结构化呈现数…
27
进阶
CMSIS-NN 源码解析与优化原理… · 矩阵乘的分块 · 激活函数的查表实现
进阶CMSIS-NN
28
进阶
TFLite Micro 内核接口与… · Prepare/Eval 函数 · 编写自定义内核
进阶TFLite
29
综合项目
设计一个完整的性能对比实验 · 覆盖多个算子 · 多种输入尺寸
综合项目设计一个完整的性…
30
课程总结与展望
回顾核心知识点 · 讨论 CMSIS-NN 与 TFLi… · 以及如何持续优化嵌入式 ML 应用
课程总结回顾核心知识点