第1章
显存抖动现象解析
什么是显存抖动 · 成因分析 · 对训练的影响
基础抖动
第2章
显存池基础概念
显存池定义 · 核心思想 · 与动态分配对比
概念对比
第3章
显存池架构设计
层级结构 · 内存块管理 · 分配与回收机制
架构设计
第4章
显存池的分配策略
首次适应 · 最佳适应 · 最差适应 · 伙伴系统
算法分配
第5章
显存池的回收策略
延迟回收 · 批量回收 · 碎片整理
回收碎片
第6章
显存池的线程安全
锁机制 · 无锁队列 · 原子操作与CAS
并发安全
第7章
显存池的性能评估
吞吐量 · 延迟测试 · 碎片率评估
性能测试
第8章
显存池在PyTorch中的应用
PyTorch缓存分配器 · 自定义显存池接入
PyTorch集成
第9章
显存池在TensorFlow中的应用
TF显存管理 · BFC算法解析
TensorFlowBFC
第10章
显存池在MXNet中的应用
MXNet显存池设计 · NDArray内存复用
MXNet复用
第11章
显存池在PaddlePaddle中的应用
Paddle显存优化 · 显存池实现
Paddle优化
第12章
显存池在推理引擎中的应用
TensorRT显存池 · ONNX Runtime优化
推理TensorRT
第13章
显存池的碎片问题
内部/外部碎片 · 碎片率公式 · 抑制策略
碎片公式
第14章
显存池的扩容机制
动态扩容 · 预分配 · 混合分配
扩容策略
第15章
显存池的缩容机制
空闲块回收 · 归还时机 · 阈值设置
缩容阈值
第16章
显存池的监控与调试
显存统计 · 热点分析 · 泄漏检测
监控调试
第17章
显存池的配置参数
初始/最大池大小 · 块对齐 · 回收间隔
配置参数
第18章
显存池的跨设备支持
多GPU池 · 统一内存池 · NUMA感知
跨设备NUMA
第19章
显存池的持久化
状态序列化 · 热迁移 · 容错恢复
持久化容错
第20章
显存池的图优化
计算图协同 · 生命周期分析 · 内存复用
图优化生命周期
第21章
显存池的自动调优
机器学习调参 · 运行时自适应
自动调优ML
第22章
显存池的异构计算支持
CPU-GPU统一池 · FPGA · NPU
异构FPGA
第23章
显存池的虚拟化支持
GPU虚拟化 · 多租户隔离 · QoS
虚拟化隔离
第24章
显存池的容器化部署
Docker显存限制 · K8s管理 · 热插拔
容器K8s
第25章
显存池的分布式训练
数据并行 · 模型并行 · 流水线并行
分布式并行
第26章
显存池的混合精度训练
FP16/BF16池 · 混合精度分配
混合精度FP16
第27章
显存池的梯度累积优化
梯度显存池 · 压缩与复用
梯度累积
第28章
显存池的激活值优化
激活值池 · 重计算 · Checkpointing
激活值重计算
第29章
显存池的优化器状态管理
优化器池 · Adafactor · ZeRO优化
优化器ZeRO
第30章
显存池的未来趋势
CXL显存池 · 存算一体 · 标准化
未来CXL