01
GPU集群基础认知
为什么需要GPU集群 · 典型架构（节点/网络/存储）· A100/H100/V100对比
入门架构
02
分布式训练基础
数据并行 · 模型并行 · 流水线并行 · 核心概念与适用场景
并行核心
03
硬件选型与配置
GPU节点选型 · CPU/内存配比 · NVLink & NVSwitch
硬件NVLink
04
高速网络架构
InfiniBand vs RoCE v2 · Fat-Tree/Dragonfly · 带宽计算
网络拓扑
05
存储系统设计
Lustre/GPFS · 对象存储MinIO · 数据缓存策略
存储分布式
06
环境搭建与容器化
Docker镜像 · NVIDIA Container Toolkit · PyTorch分布式镜像
容器环境
07
集群管理工具
Slurm · Kubernetes+Volcano · 弹性训练
调度K8s
08
PyTorch分布式训练 (上)
torch.distributed初始化 · DDP实战
PyTorchDDP
09
PyTorch分布式训练 (下)
FSDP · DeepSpeed集成
FSDPDeepSpeed
10
TensorFlow分布式训练
MirroredStrategy · MultiWorker · TPU策略
TensorFlow策略
11
混合精度训练
FP16/BF16原理 · AMP实战 · 损失缩放
精度AMP
12
梯度累积与通信优化
梯度累积 · 梯度压缩 · 异步更新
通信优化
13
数据加载优化
高性能DataLoader · mmap · 预取/缓存 · TFRecord/WebDataset
IO数据管道
14
模型并行实战
张量并行(Megatron) · 流水线并行(GPipe) · 序列并行
模型并行Megatron
15
ZeRO优化器
ZeRO Stage 1/2/3 · ZeRO-Offload · ZeRO-Infinity
显存ZeRO
16
通信库深入
NCCL原理 · 环境变量调优 · Ring/Tree AllReduce
NCCLAllReduce
17
性能监控与Profiling
Nsight Systems · PyTorch Profiler · TensorBoard
调优监控
18
常见瓶颈分析与调优
计算/通信/IO瓶颈定位与解决
瓶颈实战
19
容错与弹性训练
Checkpoint策略 · 异步保存 · 节点故障恢复
容错弹性
20
大规模训练案例 (上)
GPT-3/LLaMA类大语言模型训练方案
LLM案例
21
大规模训练案例 (下)
多模态模型 (CLIP, Stable Diffusion) 分布式训练
多模态扩散
22
超参数搜索与自动化
Optuna/Ray Tune · 学习率调度策略
自动化搜索
23
成本优化
Spot实例 · 弹性伸缩 · 混合云训练架构
成本云
24
安全与多租户
GPU隔离(MIG/vGPU) · 网络隔离 · 资源配额
安全多租户
25
CI/CD for ML
自动化训练流水线 · DVC/MLflow · 实验追踪
CI/CDMLOps
26
推理部署优化
TensorRT · vLLM · Triton · 模型量化
推理部署
27
前沿技术
MoE · 稀疏训练 · 3D并行 (DP+TP+PP)
前沿MoE
28
集群运维实战
GPU故障检测 · 温度监控 · 固件升级 · 日志
运维监控
29
性能基准测试
MLPerf · 自定义压测 · 集群间对比
基准MLPerf
30
总结与最佳实践
架构决策树 · 常见陷阱 · 未来趋势 (超大规模/光互联)
总结趋势