01
调度系统概述
什么是多卡任务调度、为什么需要调度、核心目标与挑战
概念入门
02
硬件拓扑与资源模型
GPU/NPU拓扑、NVLink/PCIe带宽、内存显存层级
硬件拓扑
03
任务模型与依赖关系
DAG任务图、任务类型、依赖约束与优先级
DAG依赖
04
单机多卡调度策略
时间片轮转、优先级调度、Gang Scheduling原理
单机组调度
05
多机多卡调度策略
数据并行、模型并行、流水线并行、混合并行
分布式并行
06
资源感知调度
基于负载/拓扑/亲和性调度
感知亲和性
07
动态调度与弹性伸缩
任务动态加入/退出、资源调整、抢占与回退
弹性动态
08
调度算法详解（上）
FIFO、公平调度、容量调度
算法经典
09
调度算法详解（下）
延迟调度、DRF、最优适配
高级DRF
10
调度器架构设计
中心化/分布式/两层/Mesos/Omega
架构分布式
11
任务队列与优先级管理
多级队列、优先级反转与继承、饥饿避免
队列优先级
12
资源隔离与配额管理
静态/动态/弹性/抢占式配额
隔离配额
13
通信调度与网络感知
集合通信调度、网络拓扑感知、带宽分配
通信AllReduce
14
数据本地性调度
数据分片与放置、计算亲和性、缓存感知
本地性缓存
15
故障容错与重调度
失败检测、检查点、重调度、优雅降级
容错检查点
16
调度性能评估指标
吞吐量、平均等待时间、JCT、资源利用率
指标评估
17
调度模拟与仿真
离散事件模拟、策略仿真平台、性能建模
仿真模拟
18
Kubernetes原生调度
K8s调度框架、Device Plugin、Node资源管理
K8s容器
19
Volcano调度系统
Volcano架构、Queue/PodGroup、Gang调度
Volcano批量
20
YARN与Hadoop调度
YARN资源模型、Capacity/Fair Scheduler配置
YARNHadoop
21
SLURM作业调度
SLURM架构、分区与QoS、作业依赖与数组作业
SLURMHPC
22
Ray分布式调度
Ray任务模型、Actor/Task调度、对象存储
Ray分布式
23
MPI与集合通信调度
MPI通信模式、进程映射与绑定、通信域划分
MPI集合通信
24
深度学习训练调度
训练任务特征、数据加载/梯度同步/Checkpoint调度
训练DL
25
推理服务调度
在线推理延迟约束、批处理调度、模型分片
推理在线
26
混合负载调度
训练与推理混合、延迟敏感与批处理混合、资源隔离
混合隔离
27
调度策略调优
参数调优、A/B测试、在线学习与自适应调度
调优自适应
28
调度系统可观测性
监控指标、日志追踪、调度事件、可视化仪表盘
可观测监控
29
调度安全与多租户
租户隔离、访问控制、资源审计、防攻击
安全多租户
30
未来趋势与前沿
异构计算、Serverless、AI驱动调度、量子调度
前沿趋势