01
GPU集群概述
定义、组成架构、应用场景（AI训练/科学计算/渲染）及发展趋势
基础架构
02
压测基础理论
吞吐量、延迟、并发、QPS/TPS，黄金三原则（可重复/可量化/可对比）
核心理论
03
压测工具选型
NCCL Tests / DeepSpeed / Megatron / MLPerf / 自定义脚本对比与选型
工具策略
04
环境准备与部署
NVIDIA驱动、CUDA、cuDNN、NCCL安装验证，Docker/NVIDIA Container Toolkit
环境部署
05
网络拓扑与带宽测试
InfiniBand vs RoCE v2，ib_write_bw / perftest，拓扑感知测试策略
网络带宽
06
NCCL基础与AllReduce测试
NCCL原理、Ring/Tree算法，AllReduce吞吐测试，nccl-tests参数详解
NCCL集合通信
07
多节点AllReduce压测
跨节点NCCL通信测试，拓扑/拥塞/PCIe Gen影响，实战调优
多节点调优
08
All-to-All与ReduceScatter测试
通信模式对比，MoE模型应用，测试方法与瓶颈分析
通信MoE
09
P2P与SendRecv测试
点对点延迟测试，GPU Direct P2P与RDMA，延迟敏感场景压测
延迟P2P
10
集合通信库深度调优
NCCL环境变量详解 (NCCL_IB_DISABLE, NCCL_NET_GDR_LEVEL等) 与最佳实践
调优NCCL
11
GPU计算压测
矩阵乘法(GEMM)性能测试，cuBLAS/cuDNN benchmark，FLOPS利用率
计算GEMM
12
内存带宽与延迟测试
显存带宽测试(bandwidthTest)，cudaMemcpy延迟，HBM vs GDDR对比
内存带宽
13
混合精度训练压测
FP16/BF16/FP8性能测试，Tensor Core利用率，混合精度对吞吐影响
混合精度Tensor Core
14
数据加载与I/O压测
数据加载瓶颈分析，DataLoader benchmark，NVMe/分布式文件系统
I/O数据加载
15
分布式训练框架压测
PyTorch DDP/FSDP/DeepSpeed ZeRO压测，通信计算重叠与扩展性
分布式框架
16
Megatron-LM压测
张量并行、流水线并行、数据并行组合测试，模型并行策略影响
Megatron并行
17
DeepSpeed压测
ZeRO Stage 1/2/3性能对比，Offload策略测试，通信与内存优化
DeepSpeedZeRO
18
Horovod压测
Horovod原理与NCCL后端，Allreduce性能测试，与PyTorch DDP对比
Horovod对比
19
JAX与XLA压测
JAX编译优化，XLA性能测试，TPU vs GPU集群压测对比
JAXXLA
20
推理服务压测
Triton Inference Server压测，动态批处理、并发请求、模型分片
推理Triton
21
vLLM与推理优化压测
PagedAttention性能测试，KV Cache优化，吞吐与延迟权衡
vLLM推理优化
22
集群监控与性能分析
NVIDIA DCGM、Prometheus+Grafana，nsys/nsight性能分析
监控分析
23
瓶颈定位与优化
常见瓶颈（网络/计算/内存/I/O），定位方法论，优化案例实战
瓶颈优化
24
大规模集群稳定性压测
长稳测试(72h+)，故障注入测试，弹性伸缩与容错测试
稳定性容错
25
多租户与资源隔离压测
MIG、Kubernetes GPU调度，多任务并发干扰测试，QoS保障
多租户隔离
26
能耗与散热压测
GPU功耗监控(nvidia-smi)，TDP与性能关系，液冷/风冷散热测试
能耗散热
27
压测报告与可视化
数据采集、指标聚合、报告生成(HTML/PDF)，吞吐曲线、延迟分布
报告可视化
28
自动化压测框架
基于Python自动化脚本，CI/CD集成，参数化测试与结果对比
自动化CI/CD
29
行业标准与基准测试
MLPerf、NVIDIA HPC Benchmark、SPEC ACCEL，对标与排名
标准MLPerf
30
综合实战
端到端压测方案设计，环境搭建到报告输出，常见问题与解决方案总结
实战总结