01
显存溢出概述
什么是OOM · 常见表现与报错 · 对训练/推理的影响
基础概念
02
显存基础概念
GPU显存架构 · 带宽与容量 · 与系统内存的区别
硬件原理
03
PyTorch显存管理机制
缓存分配器 · 显存池 · 碎片化问题
PyTorch机制
04
TensorFlow显存管理机制
动态增长 · 预分配 · TF vs PyTorch差异
TensorFlow对比
05
显存监控工具
nvidia-smi · gpustat · torch.cuda.memory_summary()
工具调试
06
模型参数与显存
参数量计算 · float32/16/int8 精度影响
参数精度
07
梯度与优化器显存
梯度存储 · Adam动量/方差 · 混合精度节省
优化器AMP
08
激活值显存
中间特征图 · batch_size影响 · Activation Checkpointing
激活值检查点
09
数据加载与显存
num_workers · pin_memory · 预处理间接影响
DataLoaderIO
10
常见OOM场景一：batch_size过大
排查方法与调整策略
场景batch
11
常见OOM场景二：模型过大
模型并行 · 流水线并行 · 张量并行
并行大模型
12
常见OOM场景三：序列长度过长
Transformer显存爆炸 · 稀疏注意力 · Flash Attention
Transformer长序列
13
常见OOM场景四：多卡显存不均
数据并行 vs 模型并行显存分布
多卡负载均衡
14
常见OOM场景五：显存泄漏
未释放张量 · Hook未清理 · worker泄漏
泄漏排查
15
梯度累积
原理与实现 · 等效增大batch · 显存收益
梯度累积技巧
16
混合精度训练(AMP)
AMP原理 · PyTorch实现 · Loss Scaling · 实测节省
AMP精度
17
梯度裁剪与显存
裁剪原理 · 对显存影响 · 常见误区
梯度裁剪稳定
18
模型剪枝
结构化/非结构化 · 显存收益 · 精度恢复
剪枝压缩
19
模型量化
PTQ vs QAT · INT8节省 · 部署实践
量化INT8
20
知识蒸馏
教师-学生框架 · 间接显存优化 · 实战技巧
蒸馏压缩
21
分布式训练策略
DDP · FSDP · DeepSpeed ZeRO-1/2/3
分布式ZeRO
22
显存碎片化
碎片成因 · 排查工具 · PYTORCH_CUDA_ALLOC_CONF
碎片配置
23
显存交换技术
CPU Offloading · NVLink/PCIe · Swap实战
交换Offload
24
显存优化工具库
DeepSpeed · Megatron-LM · FairScale · Accelerate
框架工具
25
显存分析工具
torch.cuda.memory._dump_snapshot · memory_profiler · py-spy
分析profiling
26
实战案例一：BERT显存优化
从OOM到成功训练
BERT实战
27
实战案例二：LLaMA大模型优化
单卡到多卡部署
LLaMA大模型
28
实战案例三：Stable Diffusion优化
图像生成显存瓶颈
SD图像
29
显存优化最佳实践清单
30条黄金法则 · 常见误区 · 性能权衡
清单总结
30
课程总结与展望
未来趋势 · 硬件影响 · 学习资源推荐
展望资源