01
显存基础概念
显存是什么 · 显存与内存的区别 · 在GPU计算中的角色
概念入门
02
显存硬件架构
GDDR6/HBM2e · 带宽计算 · 控制器工作原理
硬件架构
03
CUDA显存模型
全局/共享/寄存器/本地/常量/纹理内存
CUDA模型
04
显存分配与释放
cudaMalloc/cudaFree · 池化技术 · 碎片化问题
分配释放
05
显存生命周期管理
分配时机 · 复用策略 · 泄漏检测与防范
生命周期安全
06
显存带宽优化
合并访问 · 内存对齐 · Bank Conflict · 共享内存技巧
优化带宽
07
显存容量优化
梯度检查点 · 混合精度 · 显存卸载 · 模型并行
容量训练
08
显存监控与调试
nvidia-smi · Nsight Systems · 泄漏定位工具
调试监控
09
深度学习框架显存管理
PyTorch分配器 · TensorFlow管理 · 动态图优化
框架PyTorch
10
显存分配器实现原理
Buddy System · Slab分配器 · TCMalloc在GPU应用
实现分配器
11
显存虚拟化技术
GPU虚拟化 · 显存超分 · 热迁移 · MIG技术
虚拟化MIG
12
显存错误处理
ECC校验 · 错误恢复 · Uncorrectable Error流程
可靠性ECC
13
多GPU显存管理
NCCL通信显存 · P2P访问 · 均衡策略
多GPUNCCL
14
显存带宽与延迟
延迟隐藏 · Warp调度 · 显存级Cache
延迟调度
15
显存分配策略
贪婪分配 · 延迟分配 · 预分配 · 动态调整
策略分配
16
显存碎片整理
显存压缩 · 迁移 · 碎片率计算 · 避免策略
碎片整理
17
显存安全与隔离
进程隔离 · 访问权限 · 加密技术
安全隔离
18
显存性能基准测试
带宽/延迟测试 · 分配释放性能 · 随机访问
基准性能
19
显存分配器调优
参数调整 · 自定义分配器 · 性能分析
调优分配器
20
显存与CPU内存协同
统一内存 · Zero-Copy · 数据迁移
协同统一内存
21
显存分配在推理场景
推理显存需求 · 动态batch · KV Cache优化
推理KV Cache
22
显存分配在训练场景
梯度累积 · 优化器状态 · Activation显存
训练梯度
23
显存分配在渲染场景
帧缓冲 · 纹理显存 · 顶点缓冲管理
渲染图形
24
显存分配在科学计算
大规模矩阵 · FFT · 稀疏矩阵优化
科学计算HPC
25
显存分配器源码分析
RMM库源码 · PyTorch CachingAllocator源码
源码RMM
26
显存分配的未来趋势
CXL显存扩展 · 存算一体 · 近存计算架构
未来CXL
27
显存分配故障排查
OOM分析 · 泄漏定位 · 损坏检测
故障OOM
28
显存分配最佳实践
使用规范 · 调优checklist · 常见陷阱
最佳实践规范
29
显存分配案例分析
LLM训练 · 推荐系统 · CV模型优化
案例LLM
30
显存分配综合实战
从零实现分配器 · 性能对比 · 生产部署
实战实现