VIP20

本课程属于：005-分布式训练 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

GPU调度：抢占与资源分配

📚 共计 30 章节

01

GPU调度概述

GPU架构演进 · 调度器角色 · 资源抽象模型

基础概念

02

时间片轮转调度

时间片定义 · 上下文切换开销 · 公平性分析

经典公平

03

优先级调度

静态优先级 · 动态优先级 · 优先级反转问题

优先级实时

04

抢占式调度

抢占点设计 · 内核级抢占 · 用户级抢占

抢占内核

05

非抢占式调度

协作式调度 · 运行至完成 · 适用场景

协作简单

06

多级反馈队列

队列分级 · 反馈机制 · 老化策略

反馈多级

07

资源预留与配额

GPU显存预留 · 计算资源配额 · 弹性伸缩

资源配额

08

任务依赖与拓扑

DAG任务图 · 拓扑排序 · 依赖感知调度

DAG拓扑

09

异构资源调度

CPU+GPU协同 · 内存一致性 · 数据搬运优化

异构协同

10

多租户隔离

命名空间 · cgroup限制 · QoS保障

隔离多租户

11

抢占策略设计

抢占粒度 · 回滚机制 · 状态保存与恢复

策略回滚

12

抢占开销分析

保存上下文开销 · 缓存污染 · 流水线冲刷

开销性能

13

公平调度算法

最大最小公平 · 加权公平 · DRF算法

公平DRF

14

饥饿与死锁

饥饿检测 · 死锁预防 · 死锁恢复

死锁饥饿

15

实时调度

截止时间驱动 · 速率单调 · EDF算法

实时EDF

16

负载均衡

静态负载均衡 · 动态迁移 · 窃取机制

均衡迁移

17

GPU虚拟化

vGPU架构 · SR-IOV · MIG技术

虚拟化MIG

18

容器化GPU调度

Docker GPU · Kubernetes device plugin

容器K8s

19

深度学习训练调度

数据并行 · 模型并行 · 流水线并行

训练并行

20

推理服务调度

延迟敏感 · 批处理 · 动态batching

推理批处理

21

资源碎片管理

内部碎片 · 外部碎片 · 碎片整理

碎片内存

22

调度器性能指标

吞吐量 · 延迟 · 公平性指数 · 资源利用率

指标监控

23

调度策略调优

参数调整 · 自适应策略 · 在线学习

调优自适应

24

分布式GPU调度

跨节点调度 · 网络拓扑感知 · 数据局部性

分布式拓扑

25

抢占安全

权限检查 · 资源泄露防护 · 死锁避免

安全防护

26

调度日志与监控

事件追踪 · 性能剖析 · 告警机制

日志监控

27

调度器测试

单元测试 · 压力测试 · 混沌工程

测试混沌

28

GPU调度与功耗管理

DVFS · 功耗封顶 · 温度感知调度

功耗DVFS

29

调度器安全

侧信道攻击 · 隔离强化 · 可信执行环境

安全侧信道

30

未来趋势

可组合调度 · AI驱动调度 · 存算一体调度

前沿AI