01
GPU集群概述
GPU计算发展史 · 集群架构 · 应用场景
发展架构场景
02
CUDA编程基础回顾
线程层次 · 内存层次 · 核函数定义与调用
线程内存核函数
03
任务调度核心概念
任务依赖 · 资源分配 · 调度策略 · 负载均衡
依赖资源策略
04
单GPU任务调度
流(Stream) · 并发执行 · 同步 · 优先级调度
Stream并发优先级
05
多GPU任务调度
多设备管理 · 点对点通信 · 数据并行与模型并行
多设备P2P并行
06
集群调度框架
Slurm · Kubernetes · YARN 在GPU集群中的应用
SlurmK8sYARN
07
任务队列与优先级
FIFO · 公平调度 · 抢占式 · 优先级反转处理
队列公平抢占
08
资源感知调度
显存感知 · 计算能力感知 · 拓扑感知调度
显存拓扑感知
09
动态资源分配
弹性伸缩 · GPU分片 · MIG技术
弹性分片MIG
10
任务依赖图
DAG调度 · 拓扑排序 · 关键路径 · 动态规划调度
DAG拓扑关键路径
11
异构计算调度
CPU+GPU协同 · FPGA与GPU混合调度
CPU+GPUFPGA异构
12
任务迁移与检查点
GPU状态保存 · 迁移策略 · 故障恢复
检查点迁移容错
13
性能建模与预测
核函数执行时间建模 · 资源消耗预测 · 调度优化
建模预测优化
14
负载均衡策略
静态负载均衡 · 动态负载均衡 · 工作窃取算法
静态动态工作窃取
15
数据局部性调度
数据亲和性 · NUMA感知 · 缓存感知调度
亲和性NUMA缓存
16
通信与计算重叠
异步数据传输 · 流水线调度 · 通信隐藏
异步流水线隐藏
17
多租户隔离
GPU虚拟化 · 资源隔离 · QoS保证
虚拟化隔离QoS
18
调度器设计模式
集中式 · 分布式 · 两层调度 · 共享状态
集中分布共享状态
19
实时任务调度
硬实时与软实时 · 截止时间驱动 · 资源预留
实时截止时间预留
20
能耗感知调度
功耗模型 · DVFS调度 · 绿色计算策略
功耗DVFS绿色
21
深度学习训练调度
数据并行 · 模型并行 · 流水线并行调度
数据并行模型并行流水线
22
推理任务调度
批处理调度 · 延迟优化 · 吞吐量优化
批处理延迟吞吐
23
图计算任务调度
图分割 · 顶点调度 · 边调度 · 迭代计算
图分割顶点迭代
24
科学计算任务调度
MPI任务 · OpenMP任务 · 混合编程模型调度
MPIOpenMP混合
25
调度策略优化
强化学习调度 · 遗传算法 · 启发式搜索
强化学习遗传启发式
26
调度系统监控
性能指标采集 · 可视化仪表盘 · 异常检测告警
监控仪表盘告警
27
调度系统容错
节点故障 · 任务重试 · 数据副本管理
容错重试副本
28
调度系统安全
访问控制 · 任务隔离 · 数据加密 · 审计日志
安全加密审计
29
调度系统案例分析
NVIDIA GPU Operator · 阿里云 · 华为昇腾
NVIDIA阿里云昇腾
30
未来趋势与挑战
存算一体 · 量子计算 · 边缘GPU · AI原生调度
存算一体量子边缘