VIP20
本课程属于：012-GPU算力集群架构与运维 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU集群任务调度与亲和性优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · GPU集群调度与亲和性优化的背景与价…
课程导入学习目标
02
GPU基础与集群架构
GPU工作原理 · CUDA编程模型 · GPU集群硬件拓扑（NVLink
GPU集群架构
03
任务调度基础
调度系统概念 · 调度策略（FIFO · 公平调度
任务调度基础调度系统概念
04
主流调度框架
Kubernetes · Slurm · YARN对GPU资源的管理方式及优缺…
主流调度框架Kubernetes
05
GPU调度核心挑战
资源碎片化 · 显存隔离 · 多租户隔离
GPU调度核心挑战
06
亲和性概念
CPU亲和性 · GPU亲和性 · NUMA拓扑
性概念CPU
07
GPU亲和性类型
单GPU · 多GPU（NVLink） · 跨节点GPU通信的亲和性考量
GPU性类型
08
调度算法与策略
bin-packing · spread · 拓扑感知调度
调度算法策略
09
Kubernetes GPU调度
设备插件机制 · nvidia-device-plug… · GPU共享与时间切片
KubernetesGPU
10
Slurm GPU调度
GRES配置 · 任务分配 · GPU绑定与亲和性设置
SlurmGPU
11
YARN GPU调度
资源类型扩展 · 调度器配置 · GPU隔离与分配
YARNGPU
12
GPU共享技术
MPS · 时间切片 · vGPU
GPU共享技术
13
显存优化与调度
显存预留 · 显存超卖 · 显存回收策略
显存优化调度
14
任务排队与优先级
队列管理 · 抢占机制 · 公平性保障
任务排队优先级
15
拓扑感知调度
基于GPU拓扑的调度决策 · 减少通信瓶颈
拓扑感知调度GPU
16
数据亲和性
数据本地性 · 缓存亲和性 · 分布式文件系统与GPU调度结合
数据亲数据本地性
17
调度性能评估
指标（吞吐量 · 平均等待时间 · 资源利用率）
调度性能评估指标
18
案例实战
在Kubernetes上部署GPU任…
案例实战Kubernetes
19
案例实战
使用Slurm调度多节点GPU训练任…
案例实战Slurm
20
案例实战
利用MIG实现GPU资源切分与调度
案例实战MIG
21
常见问题与调优
GPU利用率低 · 调度延迟高 · 资源竞争
常见问题调优
22
监控与日志
GPU监控指标 · 调度日志分析 · 性能剖析工具（nvidia-smi
监控日志
23
安全与隔离
多租户安全 · GPU资源隔离 · 防止侧信道攻击
安全隔离
24
云环境GPU调度
云GPU实例类型 · 弹性调度 · 成本优化
GPU云环境
25
深度学习训练调度
分布式训练（Horovod · PyTorch DDP）与调度集成
深度学习训练调度Horovod
26
推理服务调度
GPU推理延迟优化 · 批处理 · 模型并行
推理服务调度GPU
27
混合负载调度
训练与推理混合 · 优先级与资源分配策略
混合负载调度训练
28
综合项目
设计一个GPU集群调度系统 · 实现亲和性优化
综合项目GPU
29
前沿趋势
异构调度 · AI驱动的调度 · 边缘GPU调度
前沿趋势异构调度
30
课程总结
核心要点回顾 · 学习路径建议 · 未来发展方向
课程总结核心要点回顾