1. 第1章

← 返回目录课程:《Mellanox双口25G光口网卡上手教程》
01

01 课程导论:Mellanox双口25G网卡选型与数据中心应用场景

了解ConnectX-4
章节导航 难度:入门类型:课程导论
能解决什么

掌握课程导论在课程导论中的定位、故障信号与验证顺序。

对象词
接口配置流程状态日志
检查项
课程地图学习路径能力边界术语框架
课程总图课程分层学习路径
01基础认知篇基础认知篇、课程导论、了解ConnectX-4与02核心机制篇核心机制篇、IP配置、配置静态IP并测试ping03工程实现篇工程实现篇、SR-IOV启用、开启SR-IOV与04调试验证篇调试验证篇、VXLAN卸载、配置VXLAN隧道与05高级专题篇高级专题篇、多网卡协同、设计混合速率组网与利用双06项目收束篇项目收束篇、DPDK热升级、实现DPDK应用热升课程学习路径阶段清晰 · 逐步推进

配置证据

课程导论常见问题来自默认值、路径、版本或权限没有对齐。

本节把课程导论相关配置拆成参数来源、生效条件和回滚检查。

从一次数据中心扩容故障看25G网卡选型

常见偏差与修正动作

在一次数据中心存储集群扩容中,运维团队采购了一批标称“25G”的双端口网卡,上架后却发现与现有Mellanox交换机无法建立链路,业务吞吐量始终卡在10Gbps。排查发现,问题出在网卡固件版本与交换机端口配置的FEC(前向纠错)模式不匹配,而采购时并未关注网卡具体属于ConnectX-4还是ConnectX-5系列——前者对25G链路协商的支持远不如后者完善。这正是许多工程师在从10G向25G迁移时容易踩的坑:只看速率,不看协议细节和芯片代际差异

本课程《Mellanox双口25G光口网卡上手教程》正是为解决这类真实问题而设计。本节作为导论,将帮助您理清Mellanox ConnectX-4、ConnectX-5、ConnectX-6系列在25G场景下的关键差异,明确课程要解决的工程边界,并给出清晰的学习路径

真实项目场景

某互联网公司IDC扩容,需要将存储后端网络从10G升级到25G。采购了Mellanox ConnectX-4 Lx双口25G网卡,上架后与现有Mellanox SN2700交换机(支持25G/50G)对接,发现端口只能协商到10G,且出现大量CRC错误。经查,ConnectX-4 Lx不支持25G链路所需的RS-FEC(Reed-Solomon FEC),而交换机默认开启RS-FEC。最终方案是更换为ConnectX-5网卡,并统一配置FEC模式为RS-FEC

关键判断

25G光口网卡选型的核心不是“支不支持25G”,而是“支持哪种25G链路协商模式”。ConnectX-4系列仅支持Firestone(BASE-R)模式,而ConnectX-5/6系列完整支持25G所需的RS-FEC和FC-FEC

ConnectX-4

Mellanox(现NVIDIA Networking)的ConnectX系列是数据中心最主流的高性能网卡之一。在25G双光口场景下,三个系列的核心差异体现在协议支持、FEC能力、PCIe代际和虚拟化特性上。以下选型表直接对应25G工程部署中的关键决策点

选型表摘要
选型对象优点局限成本
实操步骤

在采购前,使用 mlxconfig 工具检查网卡当前固件版本和FEC支持能力。关键命令:mlxconfig -d /dev/mst/mt4123_pciconf0 query | grep FEC。若输出为空或仅显示 FEC_MODE 为 FIRE_STONE,则说明该卡为ConnectX-4,无法用于需要RS-FEC的25G网络

课程工程边界与能力交付清单

本课程不追求覆盖所有Mellanox网卡型号,而是严格聚焦于双端口25G光口网卡在数据中心场景下的上架、配置、调优与排障。具体而言,您将获得以下能力:

  • 硬件识别与固件管理:通过 lspci、mst status、flint 等工具准确识别网卡型号、固件版本,并完成固件升级
  • 链路协商与FEC配置:掌握25G链路协商过程,理解RS-FEC和FC-FEC的适用场景,使用 mlxlink 和 ethtool 诊断并修复链路降速问题
  • RDMA与RoCE v2部署:完成RoCE v2的端到端配置,包括GID索引、DCQCN流控参数,并通过 ib_write_bw 验证带宽和延迟
  • 性能调优与排障:针对存储和AI场景,调整Ring Buffer大小、中断合并参数,并使用 perftest 套件进行基准测试
常见误区

误区:认为25G网卡只要插上就能跑满25G。实际上,25G链路依赖FEC(前向纠错)来补偿信号衰减。如果交换机端配置了RS-FEC而网卡不支持,链路会自动降级到10G或1G。这是ConnectX-4用户最常见的故障点

课程不涉及的内容包括:100G/200G/400G网卡部署、InfiniBand协议栈、DPDK应用开发、以及非Mellanox品牌的网卡(如Intel XXV710)。我们将在后续课程中,以ConnectX-5双口25G网卡(MCX512A)为主线,结合真实数据中心拓扑,逐步演示从硬件安装到性能验证的完整流程