第1章
Batch基础概念
什么是Batch Size，为什么影响性能，与内存的关系
入门核心
第2章
内存拷贝原理
浅拷贝与深拷贝，内存视图与缓冲区协议
Python底层
第3章
NumPy数组与内存布局
C连续/Fortran连续，strides属性对拷贝的影响
NumPy性能
第4章
PyTorch Tensor内存管理
存储对象，共享内存与数据拷贝
PyTorch显存
第5章
Batch Size对GPU显存的影响
显存占用计算，OOM错误分析与调优
GPUOOM
第6章
DataLoader与Batch Sampler
自定义Batch Sampler，动态调整Batch Size
数据加载灵活
第7章
内存拷贝优化技巧
pin_memory加速，异步数据加载
加速CPU→GPU
第8章
梯度累积与虚拟Batch Size
梯度累积原理，大Batch训练不爆显存
梯度显存节省
第9章
混合精度训练与Batch Size
AMP原理，FP16内存节省，Batch配合策略
AMPFP16
第10章
分布式训练中的Batch Size
数据并行与模型并行，全局Batch Size与学习率缩放
分布式学习率
第11章
内存池与对象重用
Python对象池机制，避免内存碎片
内存池重用
第12章
内存映射文件与大数据加载
mmap原理，超大数据集Batch策略
mmap大数据
第13章
Batch Size与模型收敛性
大Batch泛化能力，学习率预热与衰减
收敛调参
第14章
动态Batch Size策略
根据内存余量自动调整，安全训练算法
动态自适应
第15章
内存拷贝性能分析工具
memory_profiler, tracemalloc, cProfile实战
分析调试
第16章
C扩展与内存直接操作
ctypes、cffi绕过Python内存管理
C扩展底层
第17章
多进程数据加载与共享内存
multiprocessing.Queue与shared_memory
多进程共享
第18章
Batch Size与数据增强的平衡
在线增强与离线增强的内存开销对比
增强内存
第19章
模型Checkpoint与内存管理
保存与加载大模型时的内存拷贝优化
Checkpoint序列化
第20章
内存泄漏排查
引用循环、全局缓存、未释放的Tensor
泄漏gc
第21章
Batch Size与推理优化
批量推理与单条推理内存差异，动态batching
推理动态
第22章
内存对齐与缓存友好
数据对齐对拷贝速度的影响，SIMD优化
对齐SIMD
第23章
零拷贝技术
memoryview、np.frombuffer
零拷贝高效
第24章
Batch Size与正则化
Batch Normalization、Layer Normalization内存行为
正则化BN
第25章
内存碎片化与整理
Python内存分配器，gc模块调优
碎片gc
第26章
Batch Size与序列模型
变长序列padding与内存浪费，pack_padded_sequence
RNNpadding
第27章
内存拷贝与多线程安全
GIL对拷贝的影响，线程安全的数据结构
多线程GIL
第28章
Batch Size与强化学习
经验回放缓冲区内存管理，优先级采样拷贝开销
强化学习回放
第29章
边缘设备上的Batch调优
移动端、嵌入式设备有限内存约束
边缘轻量
第30章
综合实战：自适应Batch系统
从内存分析到Batch调优，构建自适应训练系统
实战项目