2. GPU架构基础：SM/CU单元、内存层次结构、PCIe拓扑与NUMA节点

GPU亲和性调优的核心在于理解GPU的物理架构与系统互连拓扑。本章从计算单元、内存层次、PCIe拓扑和NUMA节点四个维度，建立性能调优所需的硬件认知基础。

2.1 SM与CU：GPU的计算核心

NVIDIA GPU的基本计算单元是流多处理器（Streaming Multiprocessor, SM），每个SM内部包含多个CUDA核心（CUDA Core, CU）。SM负责指令调度与执行，CU负责浮点/整数运算。

2.2 GPU内存层次结构

GPU内存层次从片内到片外，延迟和带宽差异巨大。理解各级存储的特性是编写高效kernel的前提。

2.3 PCIe拓扑与GPU间通信

在多GPU系统中，PCIe拓扑决定了GPU之间、GPU与CPU之间的数据通路。常见的拓扑结构包括：

• 直连拓扑：GPU通过PCIe Switch直接连接到CPU Root Complex，延迟较低。
• NVLink拓扑：GPU之间通过NVLink高速互连，带宽可达PCIe的5-10倍。
• 跨Socket拓扑：GPU连接到不同CPU Socket，跨Socket通信需经过QPI/UPI链路，延迟显著增加。

2.4 NUMA节点与GPU亲和性

在非统一内存访问（NUMA）架构中，CPU和GPU通过PCIe总线连接到不同的内存控制器。GPU亲和性调优的核心原则是：

1. 就近绑定：将GPU绑定到与其直连的CPU Socket（NUMA Node），避免跨Socket内存访问。
2. 内存亲和性：使用 numactl 或 cudaSetDevice() 确保GPU分配的内存位于本地NUMA节点。
3. 线程绑定：将CPU线程绑定到与GPU同NUMA节点的物理核心上。

2.5 亲和性检测工具

实际调优前，先使用以下工具检测当前系统的拓扑结构：

# 查看GPU拓扑
nvidia-smi topo -m

# 输出示例（部分）：
#        GPU0    GPU1    GPU2    GPU3    CPU Affinity    NUMA Affinity
# GPU0     X      NV2     NV1     SYS     0-31            0
# GPU1    NV2      X      SYS     NV1     0-31            0
# GPU2    NV1     SYS      X      NV2     32-63           1
# GPU3    SYS     NV1     NV2      X      32-63           1

# 绑定GPU0到NUMA Node 0
numactl --cpunodebind=0 --membind=0 python train.py

2.6 亲和性调优策略总结

基于上述架构理解，GPU亲和性调优可归纳为以下步骤：

1. 拓扑分析：使用 nvidia-smi topo -m 和 lstopo 获取系统拓扑图。
2. NUMA绑定：将进程/线程绑定到与GPU同NUMA节点的CPU核心上。
3. 内存分配：使用 cudaSetDevice() 和 cudaMalloc() 在本地GPU分配内存。
4. 数据迁移：利用NVLink或PCIe直连路径，避免跨Socket数据传输。
5. 验证效果：使用 nvprof 或 Nsight Systems 分析数据传输延迟和内核执行时间。