01
显存基础概念
什么是显存 · 显存与内存的区别 · 显存在GPU计算中的角色
概念入门
02
压测基础
什么是压力测试 · 核心指标(QPS/延迟/吞吐量) · 工具选型
压测指标
03
显存监控工具
nvidia-smi详解 · nvtop使用 · dcgm-exporter部署
监控工具
04
显存分配机制
CUDA分配策略 · PyTorch机制 · TensorFlow机制
分配框架
05
显存泄漏检测
常见泄漏场景 · memory_summary · memory_profiler
泄漏调试
06
显存碎片化
产生原因 · 性能影响 · 优化策略
碎片优化
07
模型加载与显存
加载占用 · 模型并行 · 量化影响
模型并行
08
批次大小与显存
Batch Size影响 · 动态调整 · 梯度累积
Batch调优
09
数据加载与显存
DataLoader优化 · pin_memory · prefetch_factor
数据IO
10
中间变量与显存
激活值占用 · checkpointing · 梯度检查点
激活检查点
11
显存带宽瓶颈
带宽概念 · 带宽与延迟 · 瓶颈定位
带宽性能
12
多卡显存均衡
数据并行 · 模型并行 · 流水线并行
多卡并行
13
显存超卖机制
超卖原理 · 显存交换 · 统一内存管理
超卖虚拟化
14
容器化显存限制
Docker限制 · K8s管理 · 资源配额
容器K8s
15
显存热点分析
热点函数定位 · Nsight Systems · Nsight Compute
热点profiling
16
显存带宽测试
测试工具 · 方法论 · 案例分析
带宽基准
17
显存延迟测试
延迟工具 · 方法论 · 案例分析
延迟测试
18
显存错误处理
ECC错误 · 校验机制 · 恢复策略
错误可靠性
19
显存温度管理
温度监控 · 性能影响 · 散热方案
温度散热
20
显存频率调优
频率概念 · 性能关系 · 调优实践
频率超频
21
显存时序分析
时序参数 · 性能影响 · 优化方法
时序调优
22
显存容量规划
评估方法 · 规划工具 · 最佳实践
容量规划
23
显存成本优化
成本构成 · 优化策略 · 性价比分析
成本经济
24
显存故障排查
常见故障 · 排查流程 · 案例分析
故障排查
25
显存性能基准
基准方法 · 基准工具 · 结果分析
基准评测
26
显存自动调优
自动调优工具 · 策略 · 案例分析
自动AI
27
显存安全加固
隔离技术 · 访问控制 · 安全最佳实践
安全隔离
28
显存未来趋势
HBM演进 · CXL扩展 · 存算一体
趋势前沿
29
综合案例一
大语言模型推理显存优化实战
LLM推理
30
综合案例二
推荐系统训练显存优化实战
推荐训练