01
压测基础认知
什么是服务压测、压测的核心目标、压测与功能测试的区别
入门概念
02
压测指标详解
QPS、TPS、RT、P99延迟、吞吐量、并发用户数
指标核心
03
压测工具选型
wrk、ab、JMeter、Locust、Go-stress-testing对比
工具对比
04
压测环境搭建
Linux服务器参数调优、ulimit设置、网络参数优化
环境Linux
05
压测脚本编写
基于Python+Locust编写第一个压测脚本
脚本Python
06
压测场景设计
单接口压测、混合场景压测、阶梯加压、突发流量模拟
场景设计
07
压测数据准备
数据脱敏、数据隔离、参数化、CSV数据驱动
数据参数化
08
压测执行策略
预热阶段、稳态阶段、冷却阶段、时长控制
策略阶段
09
压测结果采集
实时监控、日志采集、Prometheus+Grafana集成
监控Prometheus
10
压测报告生成
HTML报告、聚合报告、百分位分布图、火焰图
报告可视化
11
显存基础概念
GPU显存架构、显存带宽、显存频率、显存容量
GPU显存
12
显存监控工具
nvidia-smi详解、gpustat、dcgm-exporter、nvtop
监控工具
13
显存泄漏排查
Python内存泄漏检测、torch.cuda.empty_cache()使用
调试PyTorch
14
显存峰值控制策略
梯度累积、混合精度训练、梯度检查点
优化策略
15
显存优化技术
模型并行、数据并行、张量并行、流水线并行
并行分布式
16
显存动态分配
CUDA内存池、显存预分配、显存碎片整理
CUDA内存
17
显存与批大小关系
Batch Size对显存的影响、OOM处理、自动批大小调整
BatchOOM
18
显存与序列长度
Transformer显存分析、长序列处理技巧、FlashAttention
Transformer长序列
19
显存与模型结构
Embedding层显存、Attention层显存、FFN层显存计算
模型计算
20
显存与优化器
Adam显存开销、Adafactor优化器、8-bit优化器
优化器显存
21
显存与激活值
激活值显存分析、重计算技术、激活值压缩
激活值重计算
22
显存与梯度
梯度显存分析、梯度压缩、梯度累积步数优化
梯度压缩
23
显存与通信
NCCL显存开销、AllReduce显存、通信与计算重叠
通信NCCL
24
显存与推理
KV Cache显存、连续批处理、PagedAttention
推理KV Cache
25
显存与部署
模型量化（INT8/FP16）、模型剪枝、知识蒸馏
部署量化
26
显存与容器
Docker GPU限制、Kubernetes GPU调度、显存隔离
容器K8s
27
显存与多卡
多卡显存均衡、显存负载均衡、显存碎片问题
多卡均衡
28
显存与分布式
DeepSpeed ZeRO系列、FSDP、Megatron-LM
分布式ZeRO
29
显存与故障排查
OOM常见原因、显存快照分析、显存profiling工具
故障Profiling
30
综合实战
从压测到显存优化的完整案例、最佳实践总结、常见问题FAQ
实战总结