3. 高速以太网物理层与光模块选型

在AI集群里,物理层选型往往决定了整个网络能否按预期收敛。GPU服务器与Leaf交换机之间的链路一旦选错介质或距离等级,轻则链路无法UP,重则在高负载下出现误码、重传,训练任务频繁中断。本节从速率、距离等级、介质形态和距离预算四个维度,说明400G/800G/1.6T时代如何做出可落地的选型决策。

一、速率与通道结构:400G/800G/1.6T是怎么来的

高速以太网的速率并不是靠单通道无限提速实现的,而是"单通道速率 × 并行通道数"的组合结果。当前主流电口/光口单通道(lane)速率为100G PAM4(53.125GBd),因此:

  • 400G = 8×50G 或 4×100G,常见形态为400G-QSFP112-DD(8×50G)或400G-OSFP(4×100G)。
  • 800G = 8×100G,主流封装为OSFP800、QSFP-DD800,是当前AI集群Leaf-Spine互联的主力速率。
  • 1.6T = 8×200G 或 16×100G,封装向OSFP1600、QSFP-DD1600演进,单通道200G PAM4对SerDes、FEC和光器件带宽要求显著提高。

理解通道结构的意义在于:交换机端口面板上的"1个800G口"内部可能是8条100G lane,当它与4个200G口做breakout(拆分)时,实际是把8条lane重新分组。选型时必须确认交换机ASIC、光模块和线缆三者的lane映射一致,否则会出现"插上不亮"或"只亮一半"的情况。

二、DR/FR/LR:距离等级与光纤类型

IEEE为不同传输距离定义了明确的PMD(物理介质相关)等级,AI集群中最常用的是DR、FR、LR三类:

等级典型距离光纤类型波长典型场景
DR500m单模(SMF)1310nm同机房Leaf-Spine、GPU到Leaf
FR2km单模1310nm跨楼层、跨机房模块间
LR10km单模1310nm园区骨干、跨楼宇
SR100m多模(MMF)850nm机柜内短距、TOR上联

需要特别注意的是:DR/FR/LR均使用单模光纤,但DR的500m与FR的2km在光模块发射功率、接收灵敏度和FEC要求上并不相同。把DR模块用在2km链路上,即使光纤类型正确,也可能因功率预算不足而无法稳定工作。反之,LR模块用于500m链路通常可以工作,但成本更高,且部分LR模块在短距下需要加装衰减器以避免接收过载。

三、AOC与DAC:短距互连的两种形态

在机柜内和相邻机柜之间,AOC(有源光缆)和DAC(直连铜缆)是比独立光模块更经济的选择:

  • DAC:铜缆两端固定连接器,无光电转换,功耗接近零,延迟最低。无源DAC(Passive DAC)通常支持≤3m(400G)或≤2m(800G);超过此距离需使用有源DAC(ACC/AEC),通过信号调理芯片延长至5m左右。
  • AOC:两端为固定光模块的光缆,内部完成电-光-电转换,重量轻、抗电磁干扰,典型支持10~100m,适合机柜间和列间连接。

选型原则可以概括为:同一机柜内优先DAC,相邻机柜用AOC,跨列或跨机房用光模块+光纤。DAC的线径较粗,800G DAC的弯曲半径和理线空间需要在机柜规划阶段就考虑,否则后期维护困难。

四、距离预算:从链路损耗到可用余量

距离预算的核心是确保接收端光功率落在模块的接收灵敏度与过载点之间。以一条800G DR8链路为例,假设:

  • 发射光功率:-1.5 dBm ~ +4.0 dBm
  • 接收灵敏度:-5.5 dBm(BER=2.4e-4,配合KP4 FEC)
  • 接收过载:+4.0 dBm
  • 光纤损耗:0.35 dB/km @1310nm
  • 连接器损耗:每对0.3 dB,假设2对
  • 熔接点损耗:每点0.1 dB,假设4点

则链路总损耗 = 0.35×0.5 + 0.3×2 + 0.1×4 = 0.175 + 0.6 + 0.4 = 1.175 dB。若发射功率取最坏值-1.5 dBm,接收功率为-2.675 dBm,高于灵敏度-5.5 dBm,余量约2.8 dB,链路可用。若实际光纤质量较差(损耗0.5 dB/km)或连接器较多,余量可能被压缩到1 dB以内,此时应改用FR等级或增加光放。

实际工程中,建议在规划阶段用OTDR或光功率计抽测关键链路,确认插入损耗与预算一致。对于800G/1.6T链路,FEC余量通常只有2~3 dB,任何额外的连接器或脏污都可能吃掉全部余量。

五、选型决策流程

把上述维度串起来,可以得到一条清晰的选型路径:先确定端口速率和封装,再根据实际传输距离选择DR/FR/LR或AOC/DAC,最后用距离预算验证余量。下图展示了这一决策关系,其中距离预算作为最终校验环节,若余量不足则需回退到更高等级或调整布线。

高速以太网物理层选型决策关系 ① 确定速率与封装 400G / 800G / 1.6T QSFP-DD / OSFP ② 测量实际距离 机柜内 / 列间 / 跨机房 ≤3m / ≤100m / ≤500m / ≤2km ③ 选择介质形态 DAC / AOC / 光模块+光纤 DR / FR / LR / SR ④ 距离预算校验 链路损耗 = 光纤损耗 + 连接器损耗 + 熔接损耗 接收功率 = 发射功率 − 链路损耗 要求:接收灵敏度 ≤ 接收功率 ≤ 接收过载 余量 ≥ 2 dB ? (含FEC余量) 链路可用 按方案部署并抽测 是 升级等级或调整布线 DR→FR / 减少连接器 否 回退重选 示例参数(800G DR8,500m): 发射 -1.5~+4.0 dBm | 接收灵敏度 -5.5 dBm | 过载 +4.0 dBm | 光纤 0.35 dB/km | 连接器 0.3 dB/对 | 熔接 0.1 dB/点

图中把"速率封装→距离测量→介质选择→距离预算校验→余量判断"串成一条闭环:当余量不足时,不是简单换更贵的模块,而是先检查连接器数量、熔接质量和光纤等级,再决定是否升级到FR或LR。对于1.6T链路,由于单通道200G对损耗更敏感,建议把余量门槛提高到3 dB,并在部署后对每条链路做误码率抽测,确认FEC纠错前BER在模块规格范围内。

常见误区:认为"单模光纤一定能跑DR/FR/LR"。实际上DR/FR/LR的差别在光模块本身,而非光纤。把DR模块插到2km单模链路上,光纤类型正确但功率预算不足,链路仍会不稳定。选型时务必以模块规格书中的"支持距离"为准,而不是只看光纤类型。

最后给出一个可直接使用的选型检查清单,部署前逐项确认:端口速率与封装是否匹配交换机面板;lane映射与breakout方案是否一致;实际光纤长度是否在模块支持距离内;连接器与熔接点数量是否已计入预算;接收功率是否落在灵敏度和过载之间;是否预留了≥2 dB(1.6T建议≥3 dB)的FEC余量;DAC/AOC的弯曲半径和理线空间是否满足机柜要求。把这七项确认完,物理层选型基本不会出现返工。