VIP20
本课程属于：004-TFLite Micro CMSIS-NN加速 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

CMSIS-NN矩阵乘法kernel优化实操课程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
矩阵乘法基础
矩阵乘法数学定义 · 维度对齐 · 内存布局（Row-major vs…
矩阵乘法基础矩阵乘法数学定义
03
CMSIS-NN矩阵乘法API概览
arm_mat_mult_q7/q1… · 参数含义 · 支持的数据类型与精度
CMSIS-NNAPI
04
量化基础
定点数表示（Q7/Q15/Q31） · 量化参数（scale/offset） · 矩阵乘法中的溢出与饱和处理
量化基础Q7/Q15/Q31
05
CMSIS-NN矩阵乘法实现原理
内部循环结构 · 乘累加（MAC）操作 · 数据复用策略
CMSIS-NN矩阵乘法实现原理
06
性能瓶颈分析
内存带宽 · 计算单元利用率 · 循环开销
性能瓶颈分析内存带宽
07
优化方法论
算法优化（分块 · 循环展开） · 指令优化（SIMD
优化方法论算法优化
08
循环展开实战
手动展开内层循环 · 减少循环控制开销 · 平衡代码大小与性能
循环展开实战手动展开内层循环
09
SIMD优化
使用arm_q7_to_q15 · arm_q15_to_q7等转换函数 · 利用SMLAD/SMLALD等DSP…
SIMD优化
10
数据对齐与填充
内存对齐要求 · pad策略 · 避免非对齐访问带来的性能惩罚
数据对齐填充
11
分块（Tiling）技术
将大矩阵分块处理 · 块大小选择 · 减少Cache miss
Tiling分块
12
双缓冲与流水线
使用双缓冲隐藏内存延迟 · 软件流水线设计 · DMA与CPU并行
双缓冲流水线
13
CMSIS-NN中的矩阵乘法优化案例
分析arm_mat_mult_q7源… · 识别优化点 · 对比默认实现
CMSIS-NN矩阵乘法优化案例
14
基于CMSIS-NN的矩阵乘法性能测试
使用CMSIS-DSP的benchm… · 测量cycle数 · 计算MAC/cycle
CMSIS-NN基于
15
常见优化陷阱
数据溢出 · 饱和处理错误 · 对齐问题
常见优化陷阱数据溢出
16
编译器优化选项
-O3 · -funroll-loops · -mthumb
编译器优化选项O3
17
汇编级优化入门
阅读CMSIS-NN汇编代码 · 理解关键指令 · 手动调整汇编实现
汇编级优化入门CMSIS-NN
18
针对Cortex-M4/M7的优化
利用SMLAD · SMLALD · PKHBT等指令
Cortex-M4/M7针对
19
针对Cortex-M33/M55的优化
Helium技术（MVE）简介 · 向量化矩阵乘法 · 与CMSIS-NN结合
Cortex-M33/M…针对
20
内存布局优化
将矩阵转换为更适合SIMD的格式 · 转置优化 · 减少数据搬运
内存布局优化SIMD
21
稀疏矩阵乘法
稀疏性利用 · 压缩存储格式（CSR/CSC） · CMSIS-NN对稀疏的支持与扩展
稀疏矩阵乘法稀疏性利用
22
多线程与RTOS集成
在RTOS中并行化矩阵乘法 · 任务划分 · 同步开销控制
RTOS多线程
23
实际项目案例
在语音识别/图像分类中应用CMSIS… · 性能调优全过程
实际项目案例CMSIS
24
调试与性能分析工具
使用ARM Compiler的pro… · DS-5/Keil调试器 · Cycle Counter寄存器
调试性能分析工具
25
常见问题排查
结果错误 · 性能不达标 · 内存溢出
常见问题排查结果错误
26
优化前后对比
基准测试方法 · 性能指标（cycle数 · 吞吐量）
优化前后对比基准测试方法
27
CMSIS-NN与其他库对比
与CMSIS-DSP · Eigen · ARM Compute Librar…
CMSIS-NN其他库对比
28
进阶优化技巧
循环变换（交换 · 融合） · 软件预取
进阶优化技巧循环变换
29
综合实战项目
从零优化一个矩阵乘法kernel · 要求达到特定性能目标 · 完整优化流程
综合实战项目kernel
30
课程总结与展望
核心要点回顾 · 常见误区总结 · 未来CMSIS-NN发展趋势
课程总结核心要点回顾