1. 第1章
01 课程导论:Mellanox双口25G网卡选型与数据中心应用场景
掌握课程导论在课程导论中的定位、故障信号与验证顺序。
配置证据
课程导论常见问题来自默认值、路径、版本或权限没有对齐。
本节把课程导论相关配置拆成参数来源、生效条件和回滚检查。
从一次数据中心扩容故障看25G网卡选型
常见偏差与修正动作
在一次数据中心存储集群扩容中,运维团队采购了一批标称“25G”的双端口网卡,上架后却发现与现有Mellanox交换机无法建立链路,业务吞吐量始终卡在10Gbps。排查发现,问题出在网卡固件版本与交换机端口配置的FEC(前向纠错)模式不匹配,而采购时并未关注网卡具体属于ConnectX-4还是ConnectX-5系列——前者对25G链路协商的支持远不如后者完善。这正是许多工程师在从10G向25G迁移时容易踩的坑:只看速率,不看协议细节和芯片代际差异
本课程《Mellanox双口25G光口网卡上手教程》正是为解决这类真实问题而设计。本节作为导论,将帮助您理清Mellanox ConnectX-4、ConnectX-5、ConnectX-6系列在25G场景下的关键差异,明确课程要解决的工程边界,并给出清晰的学习路径
真实项目场景
某互联网公司IDC扩容,需要将存储后端网络从10G升级到25G。采购了Mellanox ConnectX-4 Lx双口25G网卡,上架后与现有Mellanox SN2700交换机(支持25G/50G)对接,发现端口只能协商到10G,且出现大量CRC错误。经查,ConnectX-4 Lx不支持25G链路所需的RS-FEC(Reed-Solomon FEC),而交换机默认开启RS-FEC。最终方案是更换为ConnectX-5网卡,并统一配置FEC模式为RS-FEC
25G光口网卡选型的核心不是“支不支持25G”,而是“支持哪种25G链路协商模式”。ConnectX-4系列仅支持Firestone(BASE-R)模式,而ConnectX-5/6系列完整支持25G所需的RS-FEC和FC-FEC
ConnectX-4
Mellanox(现NVIDIA Networking)的ConnectX系列是数据中心最主流的高性能网卡之一。在25G双光口场景下,三个系列的核心差异体现在协议支持、FEC能力、PCIe代际和虚拟化特性上。以下选型表直接对应25G工程部署中的关键决策点
在采购前,使用 mlxconfig 工具检查网卡当前固件版本和FEC支持能力。关键命令:mlxconfig -d /dev/mst/mt4123_pciconf0 query | grep FEC。若输出为空或仅显示 FEC_MODE 为 FIRE_STONE,则说明该卡为ConnectX-4,无法用于需要RS-FEC的25G网络
课程工程边界与能力交付清单
本课程不追求覆盖所有Mellanox网卡型号,而是严格聚焦于双端口25G光口网卡在数据中心场景下的上架、配置、调优与排障。具体而言,您将获得以下能力:
- 硬件识别与固件管理:通过
lspci、mst status、flint等工具准确识别网卡型号、固件版本,并完成固件升级 - 链路协商与FEC配置:掌握25G链路协商过程,理解RS-FEC和FC-FEC的适用场景,使用
mlxlink和ethtool诊断并修复链路降速问题 - RDMA与RoCE v2部署:完成RoCE v2的端到端配置,包括GID索引、DCQCN流控参数,并通过
ib_write_bw验证带宽和延迟 - 性能调优与排障:针对存储和AI场景,调整Ring Buffer大小、中断合并参数,并使用
perftest套件进行基准测试
误区:认为25G网卡只要插上就能跑满25G。实际上,25G链路依赖FEC(前向纠错)来补偿信号衰减。如果交换机端配置了RS-FEC而网卡不支持,链路会自动降级到10G或1G。这是ConnectX-4用户最常见的故障点
课程不涉及的内容包括:100G/200G/400G网卡部署、InfiniBand协议栈、DPDK应用开发、以及非Mellanox品牌的网卡(如Intel XXV710)。我们将在后续课程中,以ConnectX-5双口25G网卡(MCX512A)为主线,结合真实数据中心拓扑,逐步演示从硬件安装到性能验证的完整流程