3. 集群网络架构设计

在 PowerEdge 高可用集群中,网络不是“把所有网线插满交换机”那么简单。集群能否稳定切换、存储能否持续低时延读写、业务能否在节点故障时无感迁移,很大程度上取决于是否把不同性质的流量分开承载。本节围绕管理网、业务网、存储网、心跳网四张逻辑网络,说明分离原则、冗余交换、链路聚合、VLAN 与 Jumbo Frame 的配置要点。

一、为什么必须做网络分离

四类流量的特征差异极大。管理网承载 iDRAC、OS 带外管理、监控与固件升级,流量小但要求随时可达;业务网承载客户端访问与虚拟机迁移,突发性强、对丢包敏感;存储网承载 iSCSI、NVMe-oF 或 SMB 流量,要求大带宽、低时延、低抖动;心跳网承载集群节点间的心跳与仲裁报文,流量极小但对时延和稳定性要求最高。若混跑在同一对交换机上,一次存储大流量突发就可能挤占心跳报文,导致误判节点离线、触发不必要的故障切换。

分离的目标不是物理上完全隔离,而是让关键流量拥有独立的带宽、独立的故障域和独立的 QoS 策略。常见做法是:管理网与心跳网可共用一对低速率交换机,业务网与存储网各自使用独立的高速交换机对,四张网通过 VLAN 在逻辑上进一步隔离。

节点 A PowerEdge R750 节点 B PowerEdge R750 管理交换机 VLAN 10 / 1G 业务交换机 VLAN 20 / 10G 存储交换机 VLAN 30 / 25G 心跳交换机 VLAN 40 / 1G 存储阵列 PowerVault ME5 管理终端 / iDRAC 监控与固件升级 业务客户端 用户访问 / 迁移 心跳 / 仲裁 节点间探测报文 图例: 管理网 业务网 存储网 心跳网 每节点双上行,实现冗余交换与链路聚合

二、冗余交换与链路聚合

每张网络至少使用两台交换机做冗余,节点通过双上行分别接入两台交换机。若两台交换机支持堆叠或 MLAG,可把两条上行做成跨设备的链路聚合(LACP),既获得带宽叠加,又实现单链路或单交换机故障时的无缝切换。若交换机不支持堆叠,则采用主备模式,由生成树或绑定策略控制转发路径。

以业务网为例,节点两块 10G 网卡分别接入 SW-Biz-1 和 SW-Biz-2,在 OS 侧创建 bond0,模式选 802.3ad(LACP),交换机侧对应端口配置为同一 port-channel。这样单口故障时流量自动切到另一条链路,切换时间通常在毫秒级。存储网同理,但建议使用独立的双口 25G 网卡,避免与业务网共享 PCIe 带宽。

三、VLAN 划分与地址规划

VLAN 的作用是在共享物理链路时保持逻辑隔离。建议按用途划分:VLAN 10 管理网、VLAN 20 业务网、VLAN 30 存储网、VLAN 40 心跳网。若存储网与业务网物理独立,也可不划 VLAN,直接使用独立交换机。地址规划应连续、可聚合,便于防火墙和路由策略编写。

网络VLAN示例网段MTU用途
管理网10192.168.10.0/241500iDRAC、OS 管理、监控
业务网20192.168.20.0/241500客户端访问、虚拟机迁移
存储网30192.168.30.0/249000iSCSI / NVMe-oF 数据
心跳网40192.168.40.0/241500集群心跳与仲裁

四、Jumbo Frame 配置要点

存储网启用 Jumbo Frame(MTU 9000)可减少大块数据传输的协议开销,提升 iSCSI 吞吐。但必须端到端一致:存储阵列端口、交换机端口、节点网卡、OS 接口、iSCSI 发起端全部设为 9000,任何一环为 1500 都会导致分片或丢包。配置后可用 ping -M do -s 8972 验证,能通说明路径 MTU 正确。

# 节点侧查看与设置 MTU
ip link show ens5f0
ip link set ens5f0 mtu 9000

# 验证存储网路径 MTU(8972 + 28 字节包头 = 9000)
ping -M do -s 8972 192.168.30.101

# 交换机侧(以 Dell EMC Networking 为例)
interface ethernet 1/0/1
mtu 9216
no shutdown
心跳网不要启用 Jumbo Frame。心跳报文很小,启用大 MTU 反而增加异常排查难度,且部分集群软件对心跳 MTU 有固定假设。心跳网保持 1500 即可。

五、配置检查与结果判断

完成配置后,按以下顺序验证:先用 ip -br link 确认各网卡 MTU 与状态;再用 ethtool bond0 查看聚合模式与链路状态;随后在存储网做 8972 字节的 DF ping,在心跳网做普通 ping 并观察时延是否稳定在 1ms 以内;最后拔掉一条上行链路,确认业务不中断、bond 成员状态变为“备用”而非“断开”。若心跳时延出现周期性抖动,应检查是否与存储网共享了交换机或物理链路。

四张网分离后,故障域也随之分离。存储网交换机重启不会影响心跳判断,业务网突发不会挤占管理通道。这是高可用集群“该切才切、不该切不切”的基础。