VIP6
本课程属于：145-AI编译器与计算图优化 AI智能与边缘计算工程 · 共 6 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

深度学习编译器内存规划与图重写

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
深度学习编译器概述 · 内存规划与图重写的核心作用 · 课程学习路径与目标
课程导入深度学习编译器概…
02
深度学习编译器基础
TVM · MLIR · XLA等主流框架的架构与编译流程对比
深度学习编译器基…TVM
03
计算图基础
计算图表示 · 算子节点 · 数据依赖
计算图基础计算图表示
04
图重写入门
图重写的定义 · 常见优化模式（算子融合 · 常量折叠
图重写入门图重写的定义
05
图重写框架
TVM Relay Pass · MLIR Pattern Rewri… · XLA HLO Pass的机制与AP…
图重写框架TVM
06
算子融合技术
融合策略（逐元素 · 广播 · 归约）
算子融合技术融合策略
07
布局转换与图重写
数据布局（NCHW/NHWC等）转换 · layout propagation · layout优化
布局转换图重写
08
精度与数值优化
混合精度重写 · BF16/FP16转换 · 精度损失评估与保护策略
精度数值优化
09
内存规划基础
内存层次（寄存器 · 共享内存 · 全局内存）
内存规划基础内存层次
10
内存规划核心算法
liveness分析 · interference graph · 图着色寄存器分配
内存规划核心算法liveness
11
内存复用与池化
内存池设计 · 静态内存规划 · 动态内存规划
内存复用池化
12
内存规划与调度
内存规划与算子调度（tiling · fusion）的协同优化
内存规划调度
13
内存规划中的特殊场景
动态形状 · 控制流 · 多设备内存管理
内存规划特殊场景
14
图重写与内存规划的集成
Pass顺序 · 依赖关系 · 迭代优化与收敛性
图重写内存规划的集成
15
案例实战
使用TVM Relay实现一个简单的…
案例实战TVM
16
案例实战
使用MLIR Pattern Rew…
案例实战MLIR
17
案例实战
为自定义算子编写内存规划策略（如内存…
案例实战为自定义算子编写…
18
案例实战
在XLA中实现布局优化与内存复用
案例实战XLA
19
性能分析工具
使用profiler · 内存分析工具（如nsight · perf）定位内存瓶颈
性能分析工具profiler
20
常见问题与调试
图重写中的模式匹配失败 · 内存泄漏 · 内存越界
常见问题调试
21
高级图重写
子图匹配 · 图替换 · 自动生成重写规则（基于MLIR的DR…
高级图重写子图匹配
22
高级内存规划
基于整数线性规划（ILP）的内存优化 · 启发式算法
高级内存规划ILP
23
内存规划与并行计算
多线程 · 多GPU · 分布式内存规划
内存规划并行计算
24
图重写与自动微分
梯度图优化 · 反向图重写 · 内存节省技术（如gradient c…
图重写自动微分
25
编译器后端内存优化
CUDA/HIP/OpenCL内存模… · shared memory优化 · bank conflict避免
编译器后端内存优…CUDA/HIP/Ope…
26
端侧与嵌入式内存规划
移动端GPU/NPU内存限制 · 内存压缩 · 量化与内存规划
端侧嵌入式内存规划
27
图重写与内存规划在真实模型中的应用
ResNet · Transformer · BERT等
图重写内存规划
28
综合项目
设计一个完整的编译优化流程 · 包含图重写与内存规划 · 并评估性能
综合项目设计一个完整的编…
29
前沿趋势
AI编译器中的自动搜索（AutoTV… · Ansor） · MLIR与内存规划的未来
前沿趋势AI
30
课程总结与进阶路径
核心知识回顾 · 常见面试题 · 推荐阅读与开源项目
课程总结进阶路径