所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

AI编译器运行时系统开发

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 核心概念 · 整体框架
课程导入学习目标
02
AI编译器基础
从深度学习框架到硬件后端 · 编译器分层架构（前端 · 中端
AI编译器基础
03
运行时系统概述
运行时定义 · 核心功能（内存管理 · 调度
运行时系统概述运行时定义
04
硬件抽象层
CPU · GPU · NPU
硬件抽象层CPU
05
内存管理基础
内存池 · 缓存 · 对齐
内存管理基础内存池
06
设备内存管理
GPU/NPU显存管理 · 显存池 · 显存碎片整理
设备内存管理GPU/NPU
07
执行模式与调度
同步/异步执行 · 任务队列 · 事件驱动
执行模式调度
08
算子执行与内核启动
算子调度 · 内核参数传递 · 内核启动流程
算子执行内核启动
09
图执行引擎
静态图与动态图 · 图优化（融合 · 剪枝）在运行时的落地
图执行引擎静态图
10
算子融合与运行时支持
融合算子的运行时实现 · 融合后内存与调度优化 · 融合内核的生成与调用
算子融合运行时支持
11
自动微分与运行时
反向传播的运行时支持 · 梯度计算图执行 · 梯度累积与内存优化
自动微分运行时
12
运行时中的并行与并发
多线程 · 多进程 · 多设备并行
运行时并行
13
同步与通信
设备间通信（NCCL · RCCL · MPI）
同步通信
14
资源管理与分配
计算资源（线程 · SM · 核心）分配
资源管理分配
15
性能分析与调优
Profiling工具（Nsight · Perfetto） · 运行时瓶颈识别
性能分析调优
16
运行时中的编译优化
JIT编译 · AOT编译 · 算子特化
运行时编译优化
17
动态形状与动态图运行时
动态形状处理 · 形状推断 · 动态内存分配
动态形状动态图运行时
18
运行时中的错误处理与容错
异常捕获 · 错误传播 · 设备故障恢复
运行时错误处理
19
运行时与框架集成
PyTorch · TensorFlow · MindSpore等框架的运行时接口
运行时框架集成
20
案例实战
基于TVM或MLIR构建一个简单运行… · 实现算子调度与内存管理
案例实战TVM
21
案例实战
为自定义NPU编写运行时后端 · 实现内核启动与内存管理
案例实战NPU
22
案例实战
实现一个图执行引擎 · 支持算子融合与异步执行
案例实战实现一个图执行引…
23
案例实战
分布式训练运行时搭建 · 使用NCCL实现多卡通信与同步
案例实战分布式训练运行时…
24
案例实战
运行时性能优化 · 通过Profiling定位并解决内存…
案例实战运行时性能优化
25
常见问题与解决方案
内存泄漏 · 死锁 · 显存不足
常见问题解决方案
26
运行时安全与稳定性
内存安全 · 并发安全 · 资源泄漏防护
运行时安全稳定性
27
前沿技术
统一内存 · 异构计算 · 可重构硬件
前沿技术统一内存
28
开源运行时剖析
TVM Runtime · MLIR ExecutionEngi… · XLA运行时
开源运行时剖析TVM
29
综合项目
设计一个完整的AI编译器运行时 · 支持多设备 · 动态形状
综合项目AI
30
课程总结与进阶路径
知识体系回顾 · 常见面试题 · 研究热点
课程总结进阶路径