01
吞吐压测概述
什么是AI训练吞吐量、为什么需要压测、核心指标（样本/秒、TFLOPS、GPU利用率）
基础指标
02
压测环境搭建
硬件选型（GPU/TPU/NPU）、软件栈（CUDA、PyTorch/TF、Docker）、网络与存储检查
环境配置
03
基准测试工具
PyTorch Profiler、TensorBoard、NVIDIA DCGM、DeepSpeed Profiler 安装与使用
工具Profiler
04
数据加载压测
DataLoader 性能分析、num_workers 调优、prefetch_factor、mmap 使用
IODataLoader
05
单卡吞吐压测
单GPU训练脚本、吞吐量公式、GPU利用率与显存带宽监控、瓶颈定位
单卡性能
06
多卡分布式压测
DDP原理、all-reduce 通信开销、多卡吞吐线性度评估
分布式DDP
07
混合精度压测
FP16/BF16/FP32 对比、AMP配置、Tensor Cores 利用率检查
混合精度AMP
08
梯度累积与微批次
梯度累积步数影响、micro-batch调优、显存与吞吐平衡
梯度累积微批次
09
模型并行压测
张量并行、流水线并行、序列并行吞吐对比
模型并行策略
10
数据并行 vs 模型并行
并行策略吞吐对比、通信开销分析、混合并行方案设计
对比并行
11
通信库压测
NCCL参数调优（ALGO/PROTO/IB_HCA）、网络带宽测试 ib_write_bw
NCCL通信
12
IO 压测
fio文件读取、数据预处理流水线、TFRecord/LMDB格式对比
IO存储
13
显存优化压测
激活值重计算、显存碎片整理、ZeRO优化器(Stage1/2/3)吞吐影响
显存ZeRO
14
编译器优化压测
TorchScript、TorchDynamo、XLA、TVM 对吞吐量的提升
编译器优化
15
算子融合压测
Fused Adam、Fused LayerNorm、FlashAttention 等融合算子吞吐对比
算子融合Flash
16
量化压测
INT8/INT4量化训练、QAT、量化对吞吐与精度的影响
量化INT8
17
稀疏化压测
梯度稀疏化、权重稀疏化、Top-K稀疏化的吞吐收益与收敛性
稀疏化Top-K
18
异步执行压测
CUDA Stream并发、异步DataLoader、异步梯度更新吞吐提升
异步CUDA Stream
19
内存带宽压测
HBM带宽利用率、内存访问模式优化、NHWC vs NCHW影响
内存带宽布局
20
网络拓扑压测
NVLink/NVSwitch拓扑、跨节点InfiniBand/RoCE、拓扑感知调度
网络拓扑
21
容器化压测
Docker/Kubernetes吞吐压测、资源限制(CPU/Memory/GPU)影响
容器K8s
22
多租户压测
多任务共享GPU吞吐隔离、MIG分区、时间片调度
多租户MIG
23
长稳压测
24/48/72小时吞吐稳定性、显存泄漏检测、温度与降频监控
长稳稳定性
24
对比压测
PyTorch vs TF vs JAX 吞吐对比、A100 vs H100 vs MI250 对比
对比硬件
25
自动化压测脚本
Python自动化框架、参数化配置、结果自动记录与可视化
自动化脚本
26
压测结果分析
吞吐量曲线解读、Roofline Model瓶颈定位、性能回归分析
分析Roofline
27
压测报告生成
HTML/PDF报告模板、关键指标仪表盘、Matplotlib/Plotly图表
报告可视化
28
生产环境压测
在线推理与训练混合、动态资源调整、SLA吞吐优化
生产SLA
29
大模型压测案例
LLaMA/GPT压测实践、千卡集群吞吐优化、Checkpoint保存影响
大模型LLaMA
30
压测最佳实践总结
常见陷阱与避坑指南、压测checklist、持续性能监控体系搭建
最佳实践总结