VIP20
本课程属于：012-GPU算力集群架构与运维 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI算力集群分布式资源调度与负载均衡

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
AI算力集群的背景 · 挑战 · 学习目标与课程框架
课程导入AI
02
基础知识
分布式系统 · 集群架构 · 资源调度与负载均衡的基本概念
基础知识分布式系统
03
AI算力集群硬件与网络
GPU/TPU等加速器 · 高速互联（NVLink/Infini… · 存储与网络拓扑
AI算力集群硬件
04
容器化与虚拟化
Docker · Kubernetes在AI集群中的应… · 资源隔离与共享
容器化虚拟化
05
资源调度核心概念
任务队列 · 资源池 · 调度策略（FIFO
资源调度核心概念任务队列
06
主流调度器介绍
Kubernetes调度器 · YARN · Mesos
主流调度器介绍Kubernetes
07
AI工作负载特征
训练 · 推理 · 数据预处理等任务的特点与资源需求
AI工作负载特征
08
分布式训练框架
TensorFlow · PyTorch的分布式模式与资源需求
分布式训练框架TensorFlow
09
负载均衡基础
负载均衡的定义 · 类型（静态/动态） · 算法（轮询
负载均衡基础负载均衡的定义
10
集群负载均衡策略
基于资源利用率 · 任务队列长度 · 网络流量的均衡方法
集群负载均衡策略基于资源利用率
11
调度算法详解
启发式算法（Min-Min · Max-Min） · 遗传算法
调度算法详解Min-Min
12
资源感知调度
CPU · 内存 · GPU显存
资源感知调度CPU
13
拓扑感知调度
考虑节点间通信开销 · 优化数据并行与模型并行任务放置
拓扑感知调度考虑节点间通信开…
14
弹性伸缩与自动扩缩容
基于负载预测的集群资源动态调整
弹性伸缩自动扩缩容
15
容错与高可用
节点故障检测 · 任务迁移 · 检查点与恢复机制
容错高可用
16
性能监控与度量
集群监控指标（利用率 · 吞吐量 · 延迟）
性能监控度量
17
案例分析
Kubernetes在AI集群中的调… · KubeFlow）
案例分析Kubernetes
18
案例分析
Slurm在HPC与AI训练集群中的…
案例分析Slurm
19
案例分析
阿里云/腾讯云等云厂商的AI集群调度…
案例分析AI
20
实战任务
搭建一个简单的分布式调度模拟器（如使…
实战任务搭建一个简单的分…
21
实战任务
在Kubernetes上部署一个分布…
实战任务Kubernetes
22
实战任务
使用Prometheus监控集群资源…
实战任务Prometheus
23
常见问题与解决方案
资源碎片化 · 死锁 · 饥饿
常见问题解决方案
24
性能调优
通过调整调度参数 · 队列配置 · 亲和性规则提升集群效率
性能调优通过调整调度参数
25
多租户与资源隔离
多用户环境下的配额管理 · 命名空间 · 安全策略
多租户资源隔离
26
异构计算调度
混合CPU/GPU/FPGA集群的调…
异构计算调度CPU/GPU/FPGA
27
深度学习专用调度
针对分布式训练的数据并行 · 模型并行 · 流水线并行的调度优化
深度学习专用调度针对分布式训练的…
28
前沿趋势
AI驱动的智能调度 · Serverless在AI中的应用 · 边缘计算与云边协同
前沿趋势AI
29
综合项目
设计一个面向AI训练集群的调度系统 · 包括需求分析 · 架构设计
综合项目AI
30
课程总结
核心知识点回顾 · 最佳实践 · 学习路径与未来展望
课程总结核心知识点回顾