VIP20

本课程属于：003-Nsight性能剖析 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

集群部署与GPU调度实战

📚 共计 30 章节

集群架构基础

集群概念、分类（HPC/AI训练/推理）、硬件组成（CPU/内存/网络/存储）

GPU硬件原理

架构演进(Fermi→Hopper)、CUDA核心/Tensor Core、显存带宽、NVLink/NVSwitch

GPU驱动与CUDA安装

NVIDIA驱动、CUDA Toolkit、cuDNN、环境变量、验证安装

容器化基础

Docker安装/配置、Dockerfile、镜像构建推送、容器资源限制

NVIDIA Container Toolkit

nvidia-docker2、GPU容器运行时、容器内GPU可见性验证

nvidia-docker运行时

Kubernetes集群部署

kubeadm部署、节点初始化、Pod网络插件(Calico/Flannel)、集群验证

GPU节点配置

NVIDIA Device Plugin、节点标签、资源上报、调度测试

Device Plugin标签

GPU共享与隔离

MPS、MIG、时间片调度、显存隔离

Kubernetes GPU调度策略

nodeSelector、亲和性、taints/tolerations、拓扑调度

调度亲和性

Volcano调度器

Volcano架构、Queue/PodGroup、Gang Scheduling、Fair-share

Slurm集群部署

Slurm架构(slurmctld/slurmd/slurmdbd)、配置文件、节点与分区

Slurm GPU调度

GRES、GPU类型定义、GPU绑定、任务提交脚本

Slurm与Kubernetes对比

调度模型、资源管理、适用场景、混合部署方案

GPU监控与可观测性

DCGM、Prometheus+Grafana、GPU Metrics采集

GPU故障排查

XID错误、驱动崩溃恢复、显存ECC、NVLink诊断

分布式训练框架

PyTorch DDP、Horovod、DeepSpeed、Megatron-LM对比

分布式框架

网络拓扑优化

InfiniBand vs RoCE、NCCL、Ring/Tree AllReduce、带宽测试

Lustre、NFS/GPFS、对象存储(MinIO)、数据缓存策略

作业调度优化

Backfilling、优先级抢占、资源预留、作业依赖管理

vGPU、GPU直通(Passthrough)、SR-IOV GPU、性能对比

多租户管理

Namespace隔离、ResourceQuota、LimitRange、RBAC

自动扩缩容

Cluster Autoscaler、GPU节点扩缩、HPA/VPA、Spot实例

自动扩缩Spot

GPU成本优化

利用率分析、Spot/预留实例、混合云GPU调度

成本混合云

安全与合规

容器安全、镜像扫描、Pod安全策略、网络策略、审计日志

GPU集群网络

CNI(Calico/Cilium)、NetworkPolicy、Service Mesh、通信优化

GPU集群存储

CSI(NFS/Ceph/Lustre)、PVC/PV、数据本地性调度

GPU集群高可用

控制平面高可用、etcd备份、节点故障转移、多副本

GPU集群备份与恢复

Velero备份、etcd快照、应用状态备份、灾难恢复

GPU集群性能测试

MLPerf、NCCL Test、网络延迟、存储IO测试

综合实战：从零搭建AI训练集群

需求分析、硬件选型、软件栈部署、作业提交、性能调优