VIP20

本课程属于：003-TFLite Micro算子注册、裁剪与自定义算子 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

11. TFLite Micro全连接算子优化：FullyConnected参数与内存访问

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

了解TFLite Micro中全连接… · 优化目标以及本课程的学习路径

课程导入TFLite

全连接层基础

回顾全连接层的数学定义 · 权重矩阵与偏置向量的维度 · 以及输入输出张量的形状

全连接层基础回顾全连接层的数…

TFLite Micro算子注册机制

掌握FullyConnected算子… · 内核查找流程以及算子版本兼容性

FullyConnected参数解析

深入解析FullyConnected… · 包括activation · bias

FullyConnect…参数解析

输入输出张量结构

分析FullyConnected算子… · weights · bias）和输出张量的内存布局及维度…

输入输出张量结构FullyConnect…

量化参数与数据类型

理解TFLite Micro中全连接… · uint8 · float32）

量化参数数据类型

内存访问模式分析

剖析全连接算子在计算过程中对权重 · 输入和输出张量的访问模式 · 识别缓存不友好和内存带宽浪费的潜在问…

内存访问模式分析剖析全连接算子

朴素实现与性能瓶颈

编写或分析一个未优化的FullyCo… · 通过profiling找出计算和内存…

朴素实现性能瓶颈

循环展开与循环重排

学习通过循环展开 · 循环交换等循环优化技术提升全连接层计… · 并减少循环开销

循环展开循环重排

数据重用与寄存器优化

探讨如何利用寄存器缓存权重和输入数据 · 减少内存访问次数 · 提升数据重用率

数据重用寄存器优化

SIMD与向量化优化

介绍在支持的平台上使用CMSIS-N…

SIMD向量化优化

内存对齐与填充

讲解内存对齐对全连接算子性能的影响 · 以及如何通过填充（padding）优…

内存对齐填充

权重布局优化

比较不同权重存储布局（如行主序 · 列主序 · 分块）对内存访问连续性和计算效率的影…

权重布局优化比较不同权重存储…

输入张量展平与维度处理

分析keep_num_dims参数对… · 以及如何避免不必要的内存拷贝

输入张量展平维度处理

偏置处理与融合

学习偏置加法的优化技巧 · 以及如何将激活函数（如ReLU）融合…

偏置处理融合

量化计算优化

针对int8量化全连接层 · 优化乘加运算中的反量化与再量化过程 · 减少除法等昂贵操作

量化计算优化int8

使用TFLite Micro的API进行优化

掌握TFLite Micro提供的F… · 以及如何通过参数配置启用优化路径

CMSIS-NN全连接实现剖析

深入分析CMSIS-NN中全连接函数… · 学习其优化策略

CMSIS-NN全连接实现剖析

内存复用与arena管理

理解TFLite Micro的ten… · 学习如何为全连接层分配和复用内存 · 减少峰值内存占用

arena内存复用

性能评估方法

学习使用TFLite Micro的p… · 测量全连接算子的执行时间和内存带宽

性能评估方法TFLite

常见性能陷阱

列举并分析全连接算子实现中常见的性能… · 如非连续内存访问 · 未对齐数据

常见性能陷阱列举并分析全连接…

基于STM32或Cortex-M平台 · 对全连接层进行优化 · 对比优化前后的性能数据

案例实战STM32

在模拟器或开发板上运行TFLite… · 使用调试器观察内存访问模式并优化

案例实战TFLite

将全连接层与卷积层 · 池化层组合 · 分析整体模型推理中全连接算子的占比及…

案例实战将全连接层

常见问题与调试

解决全连接算子输出错误 · 量化精度下降 · 内存越界等常见问题

常见问题调试

与TFLite标准版对比

对比TFLite标准版与TFLite… · 理解Micro版的限制与优化空间

TFLite标准版对比

稀疏全连接与剪枝 · 以及如何利用权重稀疏性减少计算量

扩展稀疏全连接

低秩分解与矩阵乘法优化 · 以及GEMM优化技巧

扩展低秩分解

设计一个完整的优化流程 · 从模型转换 · 量化

综合项目设计一个完整的优…

课程总结与进阶方向

回顾全连接算子优化的核心要点 · 推荐进一步学习资源（如CMSIS-N… · EEMBC MLMark）和未来趋势

课程总结进阶方向