首页
›
嵌入式边缘AI与TinyML
›
020-TinyML端侧测试、Profiling与Benchmark
›
《TinyML端侧推理流水线性能调优》
VIP20
本课程属于:020-TinyML端侧测试、Profiling与Benchmark
嵌入式边缘AI与TinyML · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
10. TinyML性能瓶颈分析:采集、前处理、推理与后处理拆分
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
明确TinyML性能瓶颈分析的目标 · 学习路径 · 以及采集
课程导入
TinyML
02
TinyML基础与性能指标
掌握延迟 · 吞吐量 · 能耗
TinyML
性能指标
03
端侧数据采集瓶颈
分析传感器采样率 · ADC精度 · DMA传输
端侧数据采集瓶颈
分析传感器采样率
04
采集阶段实战
使用STM32或ESP32配置传感器… · 测量采集时间与功耗 · 识别采集瓶颈
采集阶段实战
STM32
05
前处理计算模式
梳理滤波 · 归一化 · 特征提取
前处理计算模式
梳理滤波
06
前处理优化方法
采用定点化 · 查表法 · SIMD指令
前处理优化方法
采用定点化
07
前处理瓶颈案例
以音频MFCC或图像缩放为例 · 剖析前处理在CPU占用 · 内存带宽上的瓶颈点
前处理瓶颈案例
MFCC
08
推理阶段性能模型
理解模型FLOPs · 参数量 · 激活大小
推理阶段性能模型
FLOPs
09
推理引擎与算子优化
对比TFLite Micro · CMSIS-NN · RVNN等推理引擎
推理引擎
算子优化
10
推理量化与剪枝
掌握INT8量化 · 权重剪枝 · 知识蒸馏对推理速度和模型大小的影响
推理量化
剪枝
11
推理瓶颈实测
在开发板上运行基准模型(如Mobil… · TinyMLPerf) · 使用profiler定位算子级瓶颈
推理瓶颈实测
Mobil
12
后处理任务类型
分类 · 检测 · 回归等后处理逻辑(如softmax
后处理任务类型
分类
13
后处理优化技巧
简化softmax · 快速NMS · 查表法
后处理优化技巧
softmax
14
后处理瓶颈案例
在目标检测模型中分析NMS对延迟的贡… · 并实现优化版本
后处理瓶颈案例
NMS
15
端到端流水线设计
将采集 · 前处理 · 推理
端到端流水线设计
将采集
16
内存与数据流分析
绘制各阶段数据流图 · 识别内存拷贝 · 缓冲区管理
内存
数据流分析
17
功耗瓶颈分析
测量各阶段电流 · 分析唤醒 · 睡眠
功耗瓶颈分析
测量各阶段电流
18
实时性与调度策略
使用RTOS或裸机调度 · 设置优先级和超时 · 保证端到端实时性
实时性
调度策略
19
性能分析工具使用
掌握Arm Cycle模型 · STM32CubeMonitor · Perfetto
性能分析工具使用
Arm
20
基准测试与性能对比
使用TinyMLPerf · MLPerf Tiny等基准 · 对比不同硬件和优化方案
基准测试
性能对比
21
常见瓶颈模式
总结采集阻塞 · 前处理过重 · 推理内存溢出
常见瓶颈模式
总结采集阻塞
22
优化优先级决策
根据应用需求(实时性 · 功耗 · 精度)确定瓶颈优化顺序
优化优先级决策
根据应用需求
23
案例实战
关键词唤醒(KWS)系统
案例实战
KWS
24
案例实战
视觉异常检测:图像采集 · 预处理 · CNN推理
案例实战
视觉异常检测
25
案例实战
预测性维护振动分析:振动信号采集 · FFT前处理 · 推理
案例实战
预测性维护振动分…
26
多阶段协同优化
通过调整采样率 · 模型输入尺寸 · 量化参数等实现跨阶段性能平衡
多阶段协同优化
通过调整采样率
27
硬件选型与瓶颈关系
分析MCU · NPU · DSP
硬件选型
瓶颈关系
28
常见问题与调试
解决数据丢失 · 时序抖动 · 内存碎片
常见问题
调试
29
综合项目
设计一个端到端TinyML应用 · 完成瓶颈分析 · 优化
综合项目
TinyML
30
课程总结与进阶方向
回顾核心方法 · 探讨自动调优 · 神经架构搜索
课程总结
进阶方向
所属VIP或分类
同VIP:TinyML-RTOS实时任务性能与栈安全测试
同VIP:TinyML-STM32-ESP32跨平台性能基准
同VIP:TinyML产品验收指标与测试管理体系