VIP20

本课程属于：003-Nsight性能剖析 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

集群部署：GPU资源调度实战

📚 共计 30 章节

GPU资源调度概述

为什么需要GPU调度 · 虚拟化与共享技术 · K8s+Volcano vs Slurm

NVIDIA驱动 · CUDA Toolkit · Docker & Container Toolkit

Kubernetes集群搭建

kubeadm部署 · GPU节点标签 · NVIDIA Device Plugin

Volcano调度器入门

架构 · Queue/PodGroup/Job · 部署 & 第一个GPU Job

GPU资源声明与限制

limits/requests · MIG配置 · Time-Slicing共享

Volcano高级调度策略

Gang Scheduling · Fair Sharing · 优先级与抢占

监控与日志

Prometheus+Grafana · kubectl top · DCGM Exporter

存储与数据管理

PV/PVC · NFS/CephFS · 训练数据 & Checkpoint持久化

分布式训练框架集成

PyTorch DDP · Horovod · Volcano分布式训练

训练分布式

GitLab CI/CD · Kubeflow Pipeline · 自动部署与回滚

多租户与资源隔离

Namespace · ResourceQuota · LimitRange · RBAC

多租户隔离

Cluster Autoscaler · Volcano弹性调度 · Spot实例

GPU节点运维

故障排查 · GPU健康检查 · 驱动升级与回滚

RDMA/InfiniBand · Network Policy · 多网卡绑定

网络高性能

GPU利用率 · 碎片整理 · CPU+GPU混合调度

架构 · 安装配置 · 第一个GPU作业

Slurm GPU管理

GRES配置 · GPU类型绑定 · 独占与共享

Slurm高级特性

Job Array · 依赖关系 · QoS & Fairshare

Slurm与K8s混合调度

混合调度场景 · 双集群方案 · 统一资源视图

GPU虚拟化深度

vGPU原理 · MIG vs 直通 · 性能对比与选型

虚拟化深度

容器化GPU应用优化

Dockerfile最佳实践 · 镜像瘦身 · 多阶段构建

大规模训练稳定性

Checkpoint & Resume · ELK/Loki · 告警规则

稳定性训练

推理服务部署

TensorRT · Triton · Service/Ingress · A/B测试

GPU资源配额管理

动态配额 · 超卖策略 · 配额审计与报表

安全与合规

容器安全扫描 · GPU节点加固 · 审计日志

Nsight Systems · CUDA Graph · 数据加载Pipeline

多云与混合云

K8s Federation · Cluster API · 跨集群调度

多云混合云

故障演练与混沌工程

Chaos Mesh · GPU故障注入 · 恢复SLA验证

AI平台GPU调度改造 · Slurm迁移Volcano踩坑

总结与展望

DPU/CXL/算力网络 · 认证与学习路径推荐