2. 数据中心光互连架构

数据中心光互连架构决定了服务器之间“谁和谁连、经过几跳、走哪条光纤”。在传统三层架构中,接入—汇聚—核心的南北向流量模型占主导,服务器访问外部网络是主要业务。但云与分布式应用改变了这一点:虚拟机迁移、分布式存储副本同步、AI 训练参数交换、微服务调用,都发生在服务器之间,形成大规模东西向流量。叶脊(Leaf-Spine)拓扑正是为承载这种流量而设计的扁平化架构。

叶脊拓扑的基本结构

叶脊拓扑由两层交换机构成:Leaf(叶交换机)负责接入服务器,Spine(脊交换机)只与 Leaf 相连,不与服务器直连。每台 Leaf 上行连接到所有 Spine,每台 Spine 下行连接到所有 Leaf,形成全互联的 CLOS 网络。若 Leaf 数量为 L、Spine 数量为 S,则 Leaf 上行端口数为 S,Spine 下行端口数为 L。这种“任意 Leaf 到任意 Leaf 恰好两跳”的特性,使任意两台服务器之间的通信路径长度固定,时延可预测。

以典型参数为例:假设采用 32 端口 400G 交换机,取 S=8 台 Spine、L=32 台 Leaf。每台 Leaf 用 8 个上行端口接 Spine,剩余 24 个下行端口接服务器,则全网络可接入 32×24=768 台服务器。任意两台服务器通信路径为:源服务器 → 本地 Leaf → 某台 Spine → 目标 Leaf → 目标服务器,共 4 段链路、2 跳交换。若采用 ECMP(等价多路径),源 Leaf 到目标 Leaf 之间存在 S=8 条等价路径,可把流量分散到 8 条链路上,单条链路压力降为 1/8。

叶脊拓扑:Leaf–Spine 全互联与两跳路径 Spine 层 Spine-1 Spine-2 Spine-3 Spine-4 Leaf 层 Leaf-1 Leaf-2 Leaf-3 Leaf-4 服务器组 A 服务器组 B 服务器组 C 服务器组 D 两跳路径:Leaf-1 → Spine-3 → Leaf-3 ECMP 等价多路径: Leaf-1 到 Leaf-3 存在 4 条等价路径(经 Spine-1/2/3/4),流量按哈希分散,单链路压力降为 1/4。

TOR 与主干连接

TOR(Top of Rack)交换机部署在机柜顶部,服务器通过短距铜缆或 AOC(有源光缆)接入 TOR,距离通常在 3~5 米以内。TOR 上行到 Leaf 或直接作为 Leaf 使用,是服务器进入光互连网络的第一跳。在叶脊架构中,TOR 通常就是 Leaf 的角色,机柜内服务器通过 TOR 汇聚后,经上行光链路接入 Spine。

主干连接指 Leaf 到 Spine 的上行链路,是数据中心光模块用量最大的部分。以 400G 为例,常见方案是 Leaf 与 Spine 之间采用 400G DR4/FR4 光模块加 MPO/MTP 光纤跳线,传输距离 500 米(DR4)或 2 公里(FR4)。若机柜间距离在 100 米以内,也可用 400G SR8 多模方案,成本更低。上行链路数量决定收敛比:若每台 Leaf 下行 24×400G 接服务器、上行 8×400G 接 Spine,则收敛比为 24:8=3:1,即服务器侧总带宽是上行带宽的 3 倍。收敛比越小,东西向突发流量越不容易在 Leaf 上行口拥塞。

东西向流量对光链路的需求

东西向流量的特征与南北向明显不同:流量大、突发性强、路径多、时延敏感。分布式存储的副本写入会产生多对多流量;AI 训练中 AllReduce 操作会让所有 GPU 节点同时交换梯度,形成周期性突发;虚拟机迁移则要求大带宽、低丢包。这些需求直接转化为对光链路的四项要求:

  • 高带宽密度:单机柜服务器数量增加,TOR 上行需要 400G 甚至 800G,Leaf 上行端口数要足够多,避免收敛比过大。
  • 低时延与确定性:叶脊两跳结构把服务器间跳数固定为 2,配合光模块低时延特性,使 P99 时延可控。若采用三层架构,跨 Pod 通信可能经过 4~6 跳,时延抖动明显。
  • 多路径与负载均衡:Leaf 到 Spine 的全互联提供多条等价路径,ECMP 或动态负载均衡把大象流分散到不同链路,避免单条光纤拥塞。
  • 可扩展性:增加 Spine 可提升 Leaf 间带宽,增加 Leaf 可接入更多服务器,两者独立扩展,光模块和光纤布线按端口数线性增长。

一个可参考的链路预算示例

假设某机柜 TOR 到 Leaf 采用 400G FR4 光模块,链路包含:TOR 端口 → 10 米单模跳线 → 配线架 → 150 米主干单模光缆 → 配线架 → 10 米跳线 → Leaf 端口。总插入损耗包括:两个连接器各 0.3 dB、四个熔接点各 0.1 dB、150 米光纤按 0.35 dB/km 计约 0.05 dB,合计约 1.05 dB。400G FR4 的链路预算通常为 6 dB 左右,余量充足。若改用 400G DR4(500 米),预算更宽松;若距离超过 2 公里,则需改用 400G ER4 或相干模块。这个示例说明:光链路设计不是只看模块型号,还要把连接器、熔接点、光纤长度和余量一起算进去。

判断收敛比是否合理:先统计机柜内服务器峰值东西向流量,再对比 TOR 上行带宽。若峰值持续超过上行带宽的 70%,应考虑降低收敛比或增加上行链路。