1. 课程导入与AI网络全景
在开始调优之前，先把“要调什么、为什么调、调完看什么”这三件事对齐。AI数据中心网络与通用数据中心网络最大的区别在于：流量不是人机交互的短请求，而是GPU之间持续、同步、大带宽的集合通信。一次大模型训练任务，往往由成百上千张GPU协同完成，任何一条链路的拥塞、一次丢包重传、一次集合通信的等待，都会被放大成整轮迭代时间的增加。因此，本课程的目标不是孤立地“把某个参数调大”，而是建立从业务负载到网络指标的端到端分析能力，最终回答两个问题：性能瓶颈在哪里，容量该留多少余量。
一、先认识这张网络里的核心对象
AI集群的网络可以按“计算域内”和“计算域间”两层来理解。计算域内，GPU之间通过 NVLink/NVSwitch 组成高带宽、低时延的互联域，单卡可达数百GB/s到TB/s级带宽，它决定了单机内或超节点内张量并行的效率。计算域间，则依赖 RDMA 网络把多台服务器连成集群，主流技术路线有两条：InfiniBand 与 RoCEv2。前者是专用网络，自带拥塞控制与自适应路由；后者跑在以太网上，需要配合PFC、ECN、DCQCN等机制才能达到无损或近似无损的效果。
面向AI场景，NVIDIA给出了 Spectrum-X 这一以太网网络平台，它在Spectrum交换机与BlueField DPU/ConnectX网卡之间做端网协同，通过自适应路由、动态拥塞控制等能力，让RoCE以太网也能承载大规模AI训练流量。理解这些对象的定位，是后续调优的前提：NVLink管域内，RDMA管域间，InfiniBand与RoCE是两种域间实现，Spectrum-X是让以太网胜任AI负载的一套方案。
二、为什么必须建立端到端视角
很多初学者一上来就盯着交换机端口计数或网卡丢包，结果发现指标“看起来正常”，但训练速度就是上不去。原因在于AI网络的性能是端到端耦合的：业务层的并行策略决定了通信模式，通信模式决定了流量矩阵，流量矩阵叠加到网络拓扑上才产生拥塞，拥塞又反过来拖慢集合通信，最终体现为算力利用率下降。只看单点指标，很容易漏掉真正的瓶颈。
举个教学示例（以下数值为便于说明的合理假设，非实测结果）：假设一个64卡训练任务，采用数据并行，每轮迭代末尾做一次AllReduce。若单卡梯度量为200MB，AllReduce采用Ring算法，则每张卡需要发送约 2×(N−1)/N×数据量 ≈ 400MB 的流量。若网络有效带宽为200Gb/s（约25GB/s），理想情况下该次AllReduce耗时约16ms。如果实测耗时达到40ms，说明有效带宽只发挥了约40%，此时应优先排查：是否发生了PFC反压、是否有链路ECN标记过高、是否集合通信库选择了非最优算法或通道数。这个例子说明，把业务量换算成网络流量，再和实测时间对比，才能定位问题。
三、本课程要掌握的能力
围绕“性能调优”与“容量规划”两条主线，本课程将逐步展开以下能力：
- 看懂拓扑与对象：分清NVLink域、RDMA域、InfiniBand与RoCE的边界，知道每种技术适用的规模与场景。
- 读懂关键指标：带宽、时延、丢包、PFC、ECN、集合通信时间、MFU，理解它们之间的因果链。
- 定位瓶颈：从业务负载出发，逐层向下排查，判断瓶颈在计算、通信库、网卡、链路还是交换机。
- 执行调优：掌握RoCE无损参数、拥塞控制、自适应路由、集合通信调优等实际手段。
- 规划容量：根据业务增长与超售比，估算端口数、带宽与交换机层级，留出合理余量。