VIP20
本课程属于：008-GPU数据中心AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

多租户AI训练任务调度策略与资源分配实操

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 核心概念 · 整体框架
课程导入学习目标
02
多租户AI训练基础
多租户概念 · AI训练任务特点 · 资源分配挑战
AI多租户
03
资源管理基础
CPU · GPU · 内存
资源管理基础CPU
04
任务调度基础
调度器角色 · 调度策略分类 · 常见调度算法
任务调度基础调度器角色
05
多租户隔离机制
命名空间 · cgroups · 容器化技术（Docker/K8s）
多租户隔离机制命名空间
06
资源配额管理
ResourceQuota · LimitRange · 命名空间资源限制
资源配额管理ResourceQuot…
07
优先级与抢占
优先级类 · 抢占策略 · 公平性考量
优先级抢占
08
GPU调度专项
GPU资源模型 · 显存调度 · MIG与时间切片
GPU调度专项
09
分布式训练调度
数据并行 · 模型并行 · 流水线并行调度
分布式训练调度数据并行
10
弹性资源分配
自动扩缩容 · 动态资源调整 · Spot实例
弹性资源分配自动扩缩容
11
调度策略设计
FIFO · 公平调度 · 容量调度
调度策略设计FIFO
12
多租户调度实践
Kubernetes调度器扩展 · 自定义调度器
多租户调度实践Kubernetes
13
资源分配优化
装箱 · 拓扑感知 · 亲和性与反亲和性
资源分配优化装箱
14
任务排队与优先级队列
队列管理 · 权重分配 · 多级队列
任务排队优先级队列
15
监控与可观测性
指标采集 · 日志 · 追踪
监控可观测性
16
成本管理与计费
资源计量 · 成本分摊 · 预算控制
成本管理计费
17
安全与合规
租户隔离安全 · 数据隐私 · 审计
安全合规
18
性能调优
调度延迟 · 吞吐量 · 资源利用率优化
性能调优调度延迟
19
故障处理与高可用
任务失败重试 · 节点故障 · 调度器高可用
故障处理高可用
20
案例实战
基于Kubernetes的多租户AI…
案例实战Kubernetes
21
案例实战
使用Volcano或KubeFlow…
案例实战Volcano
22
案例实战
GPU共享与隔离方案（如vGPU · MIG）
案例实战GPU
23
案例实战
大规模分布式训练的资源调度（如Hor… · PyTorch DDP）
案例实战Hor
24
常见问题与解决方案
资源碎片 · 死锁 · 饥饿
常见问题解决方案
25
最佳实践
多租户调度策略选型与配置建议
最佳实践多租户调度策略选…
26
进阶主题
机器学习工作流调度（如Airflow · Kubeflow Pipelines…
进阶主题Airflow
27
进阶主题
异构资源调度（CPU+GPU+NPU…
进阶主题CPU+GPU+NPU
28
综合实战
设计一个多租户AI训练调度系统
综合实战AI
29
综合提升
从单集群到多集群调度 · 联邦调度
综合提升从单集群到多集群…
30
课程总结
核心要点回顾 · 学习路径建议 · 未来趋势
课程总结核心要点回顾