2. 内存带宽竞争原理：多核/多Socket共享内存控制器导致的带宽争抢、带宽饱和对延迟的影响

2.1 内存带宽竞争的物理根源

现代服务器中，内存带宽并非无限资源。每个物理CPU封装（Socket）通过集成的内存控制器（iMC, Integrated Memory Controller）访问本地DIMM。当多个核心同时发起大量内存访问请求时，它们共享同一条通往内存控制器的总线以及内存通道的带宽。这种共享架构是带宽竞争的物理基础。

2.2 多核共享内存控制器的争抢模型

以典型的双路（2-Socket）服务器为例，每个Socket内部的内存控制器被该Socket下的所有物理核心共享。下图展示了多核访问本地内存时的竞争路径。

2.3 多Socket场景下的跨Socket带宽竞争

在多Socket系统中，当一个Socket上的核心访问另一个Socket的本地内存（即远程访问，NUMA访问）时，不仅会占用远程Socket的内存控制器带宽，还会消耗跨Socket互联总线（如Intel UPI或AMD Infinity Fabric）的带宽。这种跨Socket竞争会形成更复杂的性能干扰。

2.4 带宽饱和对延迟的非线性影响

内存带宽竞争对延迟的影响并非线性。当内存带宽利用率低于70%时，延迟增加通常较为平缓；一旦超过某个临界点（通常为80%-90%），请求排队时间会呈指数级增长。这种现象称为延迟拐点。

2.5 带宽竞争的关键影响因素

• 核心密度： 单个Socket内核心数越多，共享同一内存控制器的竞争越激烈。例如，64核的AMD EPYC处理器比32核的Intel Xeon更容易出现内部带宽争抢。
• 内存通道数： 通道数越多，总带宽越大，但每个通道的仲裁队列仍然是共享资源。8通道配置比4通道配置能延缓饱和点的到来。
• 内存频率与协议： DDR5相比DDR4具有更高的带宽和更智能的调度，但竞争原理相同。更高的频率意味着更短的传输时间，但排队延迟仍然是主要矛盾。
• 工作负载特征： 流式访问（如大矩阵乘法）比随机访问更容易填满带宽；随机访问则更容易触发行缓冲冲突，加剧延迟。

2.6 容器场景下的带宽竞争表现

在容器化环境中，带宽竞争通常表现为以下可观测现象：

2.7 带宽竞争与NUMA拓扑的关联

带宽竞争问题在NUMA架构下被进一步放大。下图展示了跨Socket访问如何加剧竞争：

2.8 总结：带宽竞争的核心机制