VIP20
本课程属于：047-空间转录组特征学习任务 生物信息学与 AI 制药工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

显存不足问题排查与调试指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
GPU显存基础
显存架构 · 显存带宽 · 显存与系统内存的区别
GPU显存基础
02
显存不足的典型表现
OOM错误 · 程序崩溃 · 训练中断的日志特征
显存不足的典型表…OOM
03
常用监控工具
nvidia-smi · gpustat · nvtop的安装与使用
常用监控工具nvidia-smi
04
深度学习框架显存分配机制
PyTorch · TensorFlow · JAX的显存管理差异
深度学习框架显存…PyTorch
05
CUDA上下文与显存碎片
理解cudaMalloc · cudaFree与碎片化
CUDA上下文
06
显存泄漏排查
使用cuda-memcheck · nsight systems检测泄漏
显存泄漏排查cuda-memchec…
07
TensorFlow显存配置
GPU显存按需增长 · 固定分配 · 显存限制设置
TensorFlow显存配置
08
PyTorch显存优化
torch.cuda.empty_c… · 梯度累积 · 混合精度训练
PyTorch显存优化
09
模型参数量与显存估算
计算模型参数 · 梯度 · 优化器状态占用的显存
模型参数量显存估算
10
批次大小对显存的影响
如何通过调整batch size快速…
批次大小对显存的…batch
11
模型并行策略
数据并行 · 模型并行 · 流水线并行
模型并行策略数据并行
12
激活值显存优化
checkpointing（梯度检查…
激活值显存优化checkpointin…
13
混合精度训练
FP16 · BF16 · TF32对显存的节省效果与精度影响
混合精度训练FP16
14
显存碎片整理
使用torch.cuda.empty… · 重启进程 · 内存池定制
显存碎片整理torch.cuda.e…
15
多进程显存共享
多卡训练中的显存复用与独立分配
多进程显存共享多卡训练
16
NVIDIA容器与显存隔离
Docker · Singularity中的GPU显存…
NVIDIA容器
17
系统级显存限制
ulimit · cgroup · nvidia-smi -pl设置功耗…
系统级显存限制ulimit
18
内核优化与显存
减少中间张量 · inplace操作 · 张量复用技巧
内核优化显存
19
数据加载对显存的影响
DataLoader num_wor… · prefetch_factor与显存…
数据加载对显存的…DataLoader
20
显存溢出时的调试策略
逐层打印张量大小 · 使用torch.cuda.memor…
显存溢出时的调试…逐层打印张量大小
21
第三方显存分析工具
pytorch-memlab · torchinfo · memory_profiler
第三方显存分析工…pytorch-meml…
22
JIT与编译优化
TorchScript · XLA编译对显存分配的优化
JIT编译优化
23
Kubernetes中的显存管理
GPU显存配额 · 请求与限制的设置
Kubernetes显存管理
24
显存不足的硬件排查
GPU温度 · 电源 · ECC错误导致的显存异常
显存不足的硬件排…GPU
25
多任务显存竞争
同时运行多个模型时的显存抢占与调度
多任务显存竞争同时运行多个模型…
26
大模型推理显存优化
KV Cache · 量化 · 动态批处理
大模型推理显存优…KV
27
显存快照分析
使用nsight systems或t…
显存快照分析nsight
28
常见框架显存Bug排查
PyTorch 1.x vs 2.x · TensorFlow 2.x版本差异
Bug常见框架显存
29
案例实战1
8卡训练BERT出现OOM的完整排查…
案例实战1BERT
30
案例实战2
单卡推理LLaMA显存不足的优化方案…
案例实战2LLaMA