VIP20

本课程属于：021-TVM Micro端侧编译优化 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

TVM Micro算子调度与内存复用教程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

TVM基础与Micro框架概览

TVM整体架构 · Relay/TIR/算子层 · Micro TVM的编译流程与目标硬…

Micro算子调度核心概念

调度原语（split · fuse · vectorize

Micro算子调度核心概念

内存复用基础

片上SRAM · 寄存器 · 局部内存与全局内存的层次结构

内存复用基础SRAM

调度与内存的关联

调度策略如何影响内存访问模式 · 数据生命周期与复用窗口

调度内存的关联

环境搭建与工具链

安装TVM · 配置Micro交叉编译工具链 · 使用RPC或模拟器进行调试

环境搭建工具链

第一个Micro算子调度实战

以向量加法为例 · 编写调度并对比默认调度与优化后的性能

内存规划与静态分配

静态内存池设计 · 内存对齐 · 生命周期分析

内存规划静态分配

数据复用技术

循环分块（tiling） · 寄存器阻塞（register blo… · 数据重排（data layout t…

数据复用技术tiling

算子融合与内存复用

融合相邻算子减少中间张量存储 · 案例分析卷积+ReLU融合

算子融合内存复用

调度原语深入

split与fuse的粒度选择 · reorder优化访问顺序 · compute_at与storage…

调度原语深入split

向量化与SIMD调度

在Micro处理器上利用向量指令 · 处理数据对齐与内存带宽限制

并行调度与多核复用

多核场景下的任务划分 · 共享内存同步 · 避免伪共享

并行调度多核复用

内存复用策略

双缓冲（double bufferi… · 环形缓冲（ring buffer） · 乒乓操作（ping-pong）在流水…

内存复用策略double

矩阵乘法调度优化：分块 · 向量化 · 内存复用

案例实战矩阵乘法调度优化

卷积算子调度优化：im2col · 间接卷积 · Winograd在Micro上的内存…

案例实战im2col

池化与激活函数调度 · 融合到前序算子

案例实战池化

内存复用与量化

低比特量化（int8/int16）下… · 打包布局与调度协同

内存复用量化

自动调度与AutoTVM

在Micro场景下使用AutoTVM… · 内存约束建模

AutoTVM自动调度

内存复用与算子库集成

将优化后的算子封装为库 · 与CMSIS-NN等库对比与集成

内存复用算子库集成

调试与性能分析

使用TVM的profiler · 内存跟踪工具 · 定位调度瓶颈与内存溢出

调试性能分析

常见问题与规避

内存对齐错误 · 生命周期冲突 · 调度原语不生效

常见问题规避

内存复用与功耗优化

减少内存访问次数对能耗的影响 · 调度策略与DVFS协同

内存复用功耗优化

高级调度技巧

多级分块 · 循环展开与软件流水线在Micro上的…

高级调度技巧多级分块

Transformer中的算子调度 · Softmax · MatMul的内存复用与调度

案例实战Transformer

内存复用与模型部署

将优化后的模型部署到真实Micro控… · 处理资源限制

内存复用模型部署

端到端图像分类模型在Micro上的调…

综合项目Micro

性能评估与对比

建立基准测试集 · 对比不同调度策略 · 内存复用方案与现有库的性能

性能评估对比

前沿与扩展

TVM Micro在RISC-V · NPU等新硬件上的适配 · 内存复用与稀疏性结合

课程总结与进阶路径

核心要点回顾 · 常见误区 · 推荐资源与后续学习方向

课程总结进阶路径