VIP20

本课程属于：014-GPU集群 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

GPU集群原理解析与实战

📚 共计 30 章节

GPU集群概述

什么是GPU集群 · 演进历史 · 核心应用场景：AI训练、科学计算、渲染

GPU硬件架构解析

NVIDIA Ampere/Hopper/Blackwell · CUDA核心 · Tensor Core · NVLink

GPU服务器选型

DGX/HGX · CPU配比 · PCIe拓扑 · 散热与功耗设计

选型服务器

集群网络架构

InfiniBand vs RoCE v2 · Fat-Tree/Dragonfly · RDMA · 拥塞控制

网络高性能

集群存储系统

Lustre/GPFS/JuiceFS · MinIO/Ceph · 数据缓存 · IO调优

存储分布式

集群管理软件

Slurm · Kubernetes+GPU Operator · 资源配额 · 作业排队

容器化与虚拟化

Docker+NVIDIA Toolkit · K8s GPU调度 · vGPU/MIG · 分区隔离

容器虚拟化

深度学习框架分布式训练

PyTorch DDP · Horovod · DeepSpeed · Megatron-LM · TensorFlow

框架分布式

模型并行策略

数据并行 · 张量并行 · 流水线并行 · 序列并行 · 3D混合并行

通信库与优化

NCCL原理 · Ring/Tree AllReduce · 通信计算重叠 · 梯度压缩

集群监控与运维

Prometheus+Grafana · dcgm-exporter · ELK · 告警规则

集群性能基准测试

NCCL带宽测试 · MLPerf · 微基准测试 · 瓶颈定位

集群故障排查

GPU XID错误 · 网络丢包重传 · 存储IO hang · 作业异常

集群安全与权限管理

多租户隔离 · 网络策略 · 数据加密 · LDAP/OIDC

成本优化与资源调度

Spot实例 · 弹性伸缩 · 碎片整理 · 混部调度

大规模训练实践

千卡级挑战 · 梯度同步 · Checkpoint · 训练稳定性

大规模训练

推理集群部署

Triton/vLLM · 动态批处理 · 模型量化 · 推理缓存

GPU集群在HPC中的应用

分子动力学 · 气象预报 · CFD · 与传统HPC差异

HPC科学计算

GPU集群在渲染中的应用

云渲染农场 · Blender/Cycles · 光线追踪 · 实时渲染

GPU集群在科学计算中的应用

CUDA编程 · cuBLAS/cuFFT · 生物信息学 · 金融计算

科学计算CUDA

集群网络深度优化

NVIDIA NetQ · 自适应路由 · DCQCN/TIMELY · ECN标记

集群存储深度优化

数据局部性 · 分层存储 · NVMe over Fabrics · 并行文件系统

集群调度策略优化

Gang Scheduling · 拓扑感知 · 显存碎片管理 · 回填调度

集群能效管理

DVFS · GPU休眠唤醒 · 液冷散热 · PUE优化

集群自动化部署

Ansible/SaltStack · PXE启动 · OS镜像定制 · 驱动固件

自动化部署

集群测试与验收

硬件验收 · 压力测试 · 稳定性测试 · 长稳运行

集群容灾与备份

多集群架构 · 异地容灾 · 数据备份 · 故障切换

GPU集群未来趋势

CXL互连 · 存算一体 · 光互连 · 量子计算融合

实战案例一：搭建4节点GPU集群

硬件选型 · 网络配置 · 软件部署 · 跑通训练任务

实战案例二：千卡级大模型训练集群优化

通信优化 · 存储优化 · 调度优化 · 故障处理

实战大模型