VIP20

本课程属于：001-大模型推理部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

显存瓶颈分析与突破

📚 共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

显存基础与架构

显存类型（GDDR6/HBM）、显存带宽计算、GPU内存层次结构。

显存瓶颈识别

使用nvidia-smi、Nsight Systems、PyTorch Profiler定位显存瓶颈。

张量形状与内存布局

连续内存与非连续内存、strides与内存访问模式、view与reshape的内存影响。

梯度累积与显存优化

梯度累积原理、梯度检查点（Activation Checkpointing）、混合精度训练（AMP）。

数据加载器优化

DataLoader num_workers设置、prefetch_factor、pin_memory、内存映射文件。

模型结构优化

减少中间激活、in-place操作、参数共享、模型剪枝对显存的影响。

分布式训练显存

数据并行（DDP）、模型并行（TP）、流水线并行（PP）、ZeRO优化器。

显存碎片化

CUDA内存池、碎片产生原因、torch.cuda.empty_cache、内存池调优。

推理阶段显存优化

KV Cache优化、Flash Attention、PagedAttention、连续批处理。

显存溢出（OOM）实战

OOM常见原因、梯度检查点配置、batch size调优、梯度累积步数。

显存带宽瓶颈

内存带宽与计算强度、Roofline模型、带宽受限场景识别。

算子融合与显存

Fused AdamW、LayerNorm融合、Flash Attention的IO感知。

CPU-GPU数据传输

异步传输、pinned memory、stream与event、传输重叠。

显存监控与可视化

nvidia-smi高级用法、Nsight Graphics、PyTorch Memory Snapshot。

大模型显存估算

模型参数量与显存关系、激活显存计算、KV Cache显存计算。

量化与显存

INT8/FP8量化、权重复用、量化感知训练对显存的影响。

稀疏化与显存

结构化稀疏、非结构化稀疏、2:4稀疏、稀疏矩阵存储格式。

动态显存管理

torch.cuda.memory_stats、内存事件追踪、自定义内存分配器。

追踪分配器

多任务显存调度

GPU显存分区、时间片调度、优先级队列、显存预留。

容器化与显存

Docker GPU限制、Kubernetes显存管理、MIG技术。

显存与计算平衡

算力利用率、显存带宽利用率、计算与访存重叠。

图编译与显存

TorchScript、TorchDynamo、JIT编译对显存的影响。

显存压缩技术

梯度压缩、激活压缩、模型压缩、通信压缩。

CPU内存与GPU内存协同、Unified Memory、内存迁移策略。

显存安全与隔离

进程隔离、显存保护、错误注入测试。

显存性能基准测试

带宽测试、延迟测试、随机访问模式、流式访问模式。

显存故障诊断

ECC错误、显存损坏、硬件故障排查、日志分析。

显存与能效

显存功耗、动态电压频率调整（DVFS）、节能模式。

未来显存技术

CXL内存、近内存计算、存算一体、3D堆叠显存。

综合案例：BERT显存优化

从OOM到高效训练——一个BERT模型的显存优化全流程。