01
驱动适配基础
GPU驱动架构概览 · 驱动与操作系统交互原理 · 驱动版本与CUDA版本对应关系
驱动架构
02
驱动安装与验证
NVIDIA驱动安装流程（Linux/Windows）· 安装常见错误排查 · nvidia-smi深度解读
安装nvidia-smi
03
CUDA Toolkit与驱动
CUDA Toolkit安装配置 · nvcc与nvidia-smi版本不一致 · 动态库链接原理
CUDAnvcc
04
Docker环境下的驱动适配
nvidia-docker原理 · 容器内驱动透传机制 · 容器内nvidia-smi不可用排查
Docker容器
05
PyTorch/TensorFlow版本与驱动
深度学习框架对CUDA版本的要求 · torch.cuda.is_available()返回False排查
PyTorchTensorFlow
06
多卡环境驱动配置
NVIDIA-SLI与NVLink区别 · 多卡通信拓扑 · nvidia-smi topo -m解读
多卡NVLink
07
驱动性能调优
MIG（多实例GPU）配置 · GPU时钟频率锁定 · 持久化模式与性能模式设置
MIG调优
08
显存基础概念
显存类型（GDDR6/HBM2e）· 显存带宽计算 · 显存与系统内存的区别
显存带宽
09
显存分配机制
CUDA显存分配策略（cudaMalloc）· PyTorch显存分配器 · 显存碎片化问题
cudaMalloc碎片
10
显存溢出（OOM）现象
OOM错误信息解读 · 显存泄漏特征 · OOM与系统Swap的关系
OOMSwap
11
PyTorch显存排查工具
torch.cuda.memory_summary() · memory_allocated · max_memory_allocated
PyTorch排查
12
TensorFlow显存排查工具
get_memory_info() · set_log_device_placement()
TensorFlow调试
13
nvidia-smi显存监控
显存使用率 · 进程占用显存 · GPU-Util与显存的关系
监控nvidia-smi
14
nvtop与gpustat
实时显存监控工具安装与使用 · 进程级显存占用查看
nvtopgpustat
15
PyTorch显存泄漏排查
梯度累积导致泄漏 · DataLoader num_workers设置不当 · hook未清理
泄漏排查
16
TensorFlow显存泄漏排查
tf.function图累积 · Keras模型未释放 · GradientTape未正确管理
泄漏TensorFlow
17
模型结构导致OOM
模型参数量与显存关系 · Batch Size过大 · 序列长度过长
OOM模型
18
激活值与梯度显存
前向传播激活值显存占用 · 梯度显存占用 · 混合精度训练影响
激活值AMP
19
显存优化技术
梯度检查点 · 混合精度训练（AMP）· ZeRO优化器
优化ZeRO
20
数据加载与显存
prefetch_factor设置 · pin_memory机制 · 数据增强显存开销
DataLoaderpin_memory
21
分布式训练显存
数据并行（DP/DDP）显存分布 · 模型并行 · 流水线并行
分布式DDP
22
显存溢出案例分析（一）
Batch Size过大 · 模型过大 · 输入分辨率过高导致OOM
案例OOM
23
显存溢出案例分析（二）
循环累积梯度 · DataLoader内存泄漏 · 多进程显存竞争
案例泄漏
24
显存溢出案例分析（三）
Transformer显存爆炸 · 长序列推理 · Beam Search显存管理
Transformer推理
25
显存溢出案例分析（四）
生成式模型（LLM）推理显存 · KV Cache管理 · Continuous Batching
LLMKV Cache
26
显存溢出案例分析（五）
多任务学习显存竞争 · Ensemble模型叠加 · LoRA/QLoRA显存优化
LoRA微调
27
驱动与显存联动排查
驱动版本导致显存分配失败 · 驱动Bug导致泄漏 · 驱动升级后显存变化
驱动联动
28
生产环境显存监控
Prometheus + GPU Exporter · Grafana监控面板 · 告警规则设置
PrometheusGrafana
29
显存溢出自动化排查脚本
Python脚本自动捕获OOM · 日志分析 · 自动调整Batch Size
自动化脚本
30
综合实战
从驱动安装到显存优化全流程 · 常见问题速查表 · 最佳实践总结
实战总结