VIP20
本课程属于：006-CMSIS-NN与ARM Cortex-M推理加速 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

5. CMSIS-NN全连接优化：矩阵乘法与内存访问模式

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用硬件 · 全连接层在嵌入式神经网络中的角色与性…
课程导入学习目标
02
基础知识
全连接层的数学定义 · 权重矩阵与输入向量的维度关系 · 与卷积层的联系
基础知识全连接层的数学定…
03
CMSIS-NN概览
CMSIS-NN的架构 · API分类 · 全连接相关函数（如arm_fully…
CMSIS-NN概览
04
量化基础
定点数表示 · Q7/Q15格式 · 量化参数（scale/offset）…
量化基础定点数表示
05
矩阵乘法优化原理
传统矩阵乘法复杂度 · 利用硬件特性（乘累加指令 · SIMD）的优化思路
矩阵乘法优化原理传统矩阵乘法复杂…
06
内存访问模式分析
行主序/列主序 · 权重矩阵的存储布局 · 输入向量与输出向量的内存对齐要求
内存访问模式分析行主序
07
CMSIS-NN全连接实现解析
arm_fully_connecte… · 核心循环与内层计算
CMSIS-NN全连接实现解析
08
矩阵乘法优化技巧
循环展开 · 寄存器重用 · 减少内存访问次数
矩阵乘法优化技巧循环展开
09
SIMD指令应用
ARM NEON指令集基础 · 如何用NEON加速乘累加 · 向量化处理多个输出神经元
SIMD指令应用
10
权重重排与打包
将权重矩阵转换为更适合SIMD的格式… · 块状存储） · 减少加载开销
权重重排打包
11
输入向量处理
输入数据的对齐 · 填充 · 批量处理（batch）对性能的影响
输入向量处理输入数据的对齐
12
偏置与激活融合
将偏置加法 · ReLU等激活函数融合到矩阵乘法循环… · 减少额外内存读写
偏置激活融合
13
量化反量化优化
如何在乘累加后高效进行scale和o… · 避免重复计算
量化反量化优化scale
14
内存访问模式优化
使用DMA · 双缓冲 · 预取指令（pld）来隐藏内存延迟
内存访问模式优化DMA
15
性能分析工具
使用ARM Cycle Counte… · Profiler · CMSIS-NN自带的benchma…
性能分析工具ARM
16
案例实战一
在STM32F4上实现一个简单的全连… · 对比未优化与CMSIS-NN优化的耗…
案例实战一STM32F4
17
案例实战二
针对特定尺寸（如输入256 · 输出128）调整权重布局 · 观察性能变化
案例实战二针对特定尺寸
18
常见问题
内存对齐错误导致HardFault · 量化精度损失 · 边界条件处理
常见问题HardFault
19
调试技巧
使用仿真器 · 打印中间值 · 单元测试验证全连接输出正确性
调试技巧使用仿真器
20
进阶优化
多线程/多核利用（如Cortex-M… · 硬件加速器（如MVE）的考虑
进阶优化Cortex-M
21
与卷积层优化对比
全连接与卷积在内存访问和计算模式上的… · 借鉴卷积优化方法
卷积层优化对比全连接
22
稀疏性利用
权重稀疏化 · 剪枝后如何优化矩阵乘法 · CMSIS-NN是否支持稀疏加速
稀疏性利用权重稀疏化
23
低精度优化
从8位到4位/2位量化 · 对全连接性能和精度的影响 · CMSIS-NN的扩展
低精度优化从8位到4位
24
内存规划
权重 · 输入 · 输出缓冲区在SRAM中的布局
内存规划权重
25
编译器优化
使用armclang的优化选项（-O… · -funroll-loops） · 内联汇编的时机
编译器优化armclang
26
实时性保障
在RTOS环境下 · 如何保证全连接计算的确定性 · 避免中断干扰
实时性保障RTOS
27
综合项目
构建一个包含全连接层的手写数字识别模… · 部署到Cortex-M开发板 · 端到端优化
综合项目构建一个包含全连…
28
性能调优方法论
从算法 · 数据布局 · 指令级
性能调优方法论从算法
29
未来趋势
CMSIS-NN新版本特性 · ARM Helium技术 · 与TFLite Micro的集成
未来趋势CMSIS-NN
30
课程总结
核心要点回顾 · 常见误区 · 学习路径建议
课程总结核心要点回顾