3. 集群网络架构设计
在 PowerEdge 高可用集群中,网络不是“把所有网线插满交换机”那么简单。集群能否稳定切换、存储能否持续低时延读写、业务能否在节点故障时无感迁移,很大程度上取决于是否把不同性质的流量分开承载。本节围绕管理网、业务网、存储网、心跳网四张逻辑网络,说明分离原则、冗余交换、链路聚合、VLAN 与 Jumbo Frame 的配置要点。
一、为什么必须做网络分离
四类流量的特征差异极大。管理网承载 iDRAC、OS 带外管理、监控与固件升级,流量小但要求随时可达;业务网承载客户端访问与虚拟机迁移,突发性强、对丢包敏感;存储网承载 iSCSI、NVMe-oF 或 SMB 流量,要求大带宽、低时延、低抖动;心跳网承载集群节点间的心跳与仲裁报文,流量极小但对时延和稳定性要求最高。若混跑在同一对交换机上,一次存储大流量突发就可能挤占心跳报文,导致误判节点离线、触发不必要的故障切换。
分离的目标不是物理上完全隔离,而是让关键流量拥有独立的带宽、独立的故障域和独立的 QoS 策略。常见做法是:管理网与心跳网可共用一对低速率交换机,业务网与存储网各自使用独立的高速交换机对,四张网通过 VLAN 在逻辑上进一步隔离。
二、冗余交换与链路聚合
每张网络至少使用两台交换机做冗余,节点通过双上行分别接入两台交换机。若两台交换机支持堆叠或 MLAG,可把两条上行做成跨设备的链路聚合(LACP),既获得带宽叠加,又实现单链路或单交换机故障时的无缝切换。若交换机不支持堆叠,则采用主备模式,由生成树或绑定策略控制转发路径。
以业务网为例,节点两块 10G 网卡分别接入 SW-Biz-1 和 SW-Biz-2,在 OS 侧创建 bond0,模式选 802.3ad(LACP),交换机侧对应端口配置为同一 port-channel。这样单口故障时流量自动切到另一条链路,切换时间通常在毫秒级。存储网同理,但建议使用独立的双口 25G 网卡,避免与业务网共享 PCIe 带宽。
三、VLAN 划分与地址规划
VLAN 的作用是在共享物理链路时保持逻辑隔离。建议按用途划分:VLAN 10 管理网、VLAN 20 业务网、VLAN 30 存储网、VLAN 40 心跳网。若存储网与业务网物理独立,也可不划 VLAN,直接使用独立交换机。地址规划应连续、可聚合,便于防火墙和路由策略编写。
| 网络 | VLAN | 示例网段 | MTU | 用途 |
|---|---|---|---|---|
| 管理网 | 10 | 192.168.10.0/24 | 1500 | iDRAC、OS 管理、监控 |
| 业务网 | 20 | 192.168.20.0/24 | 1500 | 客户端访问、虚拟机迁移 |
| 存储网 | 30 | 192.168.30.0/24 | 9000 | iSCSI / NVMe-oF 数据 |
| 心跳网 | 40 | 192.168.40.0/24 | 1500 | 集群心跳与仲裁 |
四、Jumbo Frame 配置要点
存储网启用 Jumbo Frame(MTU 9000)可减少大块数据传输的协议开销,提升 iSCSI 吞吐。但必须端到端一致:存储阵列端口、交换机端口、节点网卡、OS 接口、iSCSI 发起端全部设为 9000,任何一环为 1500 都会导致分片或丢包。配置后可用 ping -M do -s 8972 验证,能通说明路径 MTU 正确。
# 节点侧查看与设置 MTU
ip link show ens5f0
ip link set ens5f0 mtu 9000
# 验证存储网路径 MTU(8972 + 28 字节包头 = 9000)
ping -M do -s 8972 192.168.30.101
# 交换机侧(以 Dell EMC Networking 为例)
interface ethernet 1/0/1
mtu 9216
no shutdown
五、配置检查与结果判断
完成配置后,按以下顺序验证:先用 ip -br link 确认各网卡 MTU 与状态;再用 ethtool bond0 查看聚合模式与链路状态;随后在存储网做 8972 字节的 DF ping,在心跳网做普通 ping 并观察时延是否稳定在 1ms 以内;最后拔掉一条上行链路,确认业务不中断、bond 成员状态变为“备用”而非“断开”。若心跳时延出现周期性抖动,应检查是否与存储网共享了交换机或物理链路。