课程导入：学习目标、课程结构、网络性能评估基础

欢迎来到《网络瓶颈诊断与RDMA配置避坑指南》。在数据中心与高性能计算环境中，网络性能直接决定了分布式训练、存储集群和在线服务的整体吞吐与延迟。然而，许多工程师在排查网络问题时，往往陷入“重传率高就加带宽”“时延大就换网卡”的直觉误区，最终既浪费了硬件资源，又未能定位真正的瓶颈。本课程的目标，是帮助你建立一套从现象观测到根因定位再到配置修复的系统化方法论，尤其聚焦于RDMA（远程直接内存访问）场景下的隐蔽陷阱。

一、学习目标：学完本课程你将能够

• 诊断网络瓶颈：使用标准工具（如 ethtool、sar、perf、ibstat）定位带宽、延迟、丢包三类问题的根因，而非停留在表象。
• 理解RDMA核心机制：掌握RoCEv2的流控依赖、队列对（QP）状态机、内存注册与DMA操作的关键路径，明白“为什么RDMA对丢包如此敏感”。
• 规避配置深坑：识别PFC死锁、ECN水线错误、MTU不一致、NUMA亲和性缺失等高频配置错误，并给出可落地的修复命令。
• 建立排查流程：形成一套从“链路层→网络层→传输层→应用层”的自底向上检查清单，减少无头绪的抓包分析。

二、课程结构：六大模块递进式学习

本课程共30章，分为六个逻辑模块，建议按顺序学习，但也可根据工作场景跳转查阅：

三、网络性能评估基础：三个核心指标与一个关键误区

在深入任何工具之前，必须先明确“性能”的度量维度。我们通常关注三个指标，但它们的优先级和含义经常被混淆：

1. 带宽（Throughput）：单位时间内成功传输的数据量（Gbps）。注意区分线速带宽（如25Gbps）与有效带宽（扣除协议开销后实际可达约23.4Gbps）。
2. 延迟（Latency）：从发送端应用发出数据到接收端应用收到数据的耗时。包含串行延迟、传播延迟、排队延迟和处理延迟。RDMA场景下，微秒级波动都值得警惕。
3. 丢包率（Packet Loss）：丢失数据包占发送总量的比例。对于TCP，1%的丢包率可能导致吞吐量下降50%以上；对于RoCEv2，任何非零丢包率都可能导致性能崩溃，因为RDMA依赖无损传输。

下图展示了TCP与RDMA在数据路径上的本质差异，这也是后续所有诊断逻辑的基础：

四、性能评估的“三脚凳”方法

要准确评估网络性能，不能只依赖单一工具。我们推荐以下三个维度互相印证：

五、常见误区与复盘：为什么“带宽高”不等于“性能好”？

我们来看一个真实案例。某分布式存储集群报告“写入性能差”，工程师首先检查了带宽，发现链路利用率仅30%，于是怀疑是网络瓶颈。但进一步排查发现：

• 使用 sar -n DEV 1 观察到 rxpck/s 高达 200k，但 rxkB/s 仅 800MB/s，说明小包居多，CPU中断开销极大。
• 检查 ethtool -S 发现 rx_missed_errors 持续增长，说明网卡环形缓冲区溢出，数据包在驱动层被丢弃。
• 进一步使用 perf top 发现CPU 50%以上消耗在 napi_poll 和 skb_clone，而非存储应用本身。

最终根因是中断合并（coalescing）参数设置不当，导致每次中断处理大量小包，CPU成为瓶颈。调整 ethtool -C eth0 adaptive-rx on 后，吞吐提升3倍。这个案例告诉我们：带宽只是表象，CPU、中断、队列深度、包大小共同决定实际性能。