第1章
Batch Size基础概念
什么是Batch Size、Epoch、Iteration的关系，为什么Batch Size如此重要。
核心概念入门
第2章
Batch Size对梯度的影响
大Batch与小Batch的梯度估计差异，梯度噪声与收敛稳定性。
梯度稳定性
第3章
Batch Size与学习率的联动
线性缩放法则（Linear Scaling Rule），学习率预热（Warm-up）策略。
学习率缩放法则
第4章
大Batch Size的挑战
泛化能力下降（Generalization Gap），Sharp Minima与Flat Minima理论。
泛化极值理论
第5章
小Batch Size的挑战
训练时间过长，梯度震荡，硬件利用率低。
效率震荡
第6章
Batch Size与显存的关系
显存占用计算，Batch Size与模型并行、数据并行的权衡。
显存并行
第7章
Batch Size与Batch Normalization
BN层在小Batch下的表现，SyncBN与虚拟Batch Size。
BN同步
第8章
Batch Size与优化器选择
SGD、Adam、LAMB等优化器对Batch Size的适应性。
优化器SGDAdam
第9章
Batch Size与学习率调度
Cosine Annealing、Step Decay在不同Batch Size下的表现。
调度余弦退火
第10章
Batch Size与权重衰减
大Batch下是否需要调整正则化强度。
正则化Weight Decay
第11章
Batch Size与数据增强
数据增强的强度是否应随Batch Size变化。
数据增强策略
第12章
Batch Size与训练稳定性
梯度裁剪（Gradient Clipping）在大Batch下的应用。
梯度裁剪稳定
第13章
Batch Size与混合精度训练
FP16训练下Batch Size的调整策略。
AMPFP16
第14章
Batch Size与分布式训练
数据并行中的Batch Size分配，梯度累积（Gradient Accumulation）技巧。
分布式梯度累积
第15章
Batch Size与模型收敛速度
如何用Batch Size加速训练，Batch Size与Iteration数量的关系。
收敛加速
第16章
Batch Size与测试集性能
不同Batch Size在验证集上的表现差异，如何选择最佳Batch Size。
验证调参
第17章
Batch Size与损失函数设计
对比损失（Contrastive Loss）等对Batch Size的敏感性。
损失函数对比学习
第18章
Batch Size与注意力机制
Transformer中Batch Size对Self-Attention的影响。
Transformer注意力
第19章
Batch Size与序列模型
RNN/LSTM中Batch Size对时间步展开的影响。
RNNLSTM
第20章
Batch Size与图像分类任务
ResNet、EfficientNet等经典模型的Batch Size推荐。
图像分类ResNet
第21章
Batch Size与目标检测任务
YOLO、Faster R-CNN中Batch Size的调参经验。
目标检测YOLO
第22章
Batch Size与NLP任务
BERT、GPT等预训练模型的Batch Size选择。
NLPBERTGPT
第23章
Batch Size与生成对抗网络
GAN训练中Batch Size对稳定性的影响。
GAN生成对抗
第24章
Batch Size与强化学习
PPO、DQN等算法中Batch Size的设定。
强化学习PPO
第25章
Batch Size与迁移学习
微调（Fine-tuning）时Batch Size的调整策略。
迁移学习微调
第26章
Batch Size与超参数搜索
网格搜索、随机搜索、贝叶斯优化中的Batch Size。
超参数搜索
第27章
Batch Size与AutoML
自动化机器学习中Batch Size的自动调优。
AutoML自动调优
第28章
Batch Size与硬件限制
如何在有限显存下选择最大Batch Size，梯度检查点（Gradient Checkpointing）。
显存限制检查点
第29章
Batch Size与实验复现
如何记录和报告Batch Size，确保实验可重复性。
复现可重复性
第30章
Batch Size实战总结
综合调参流程，常见问题与解决方案，最佳实践清单。
总结最佳实践