3. CPU体系结构与并行编程

在异构并行计算体系中，CPU 仍然是控制流、任务调度和通用计算的核心。理解 CPU 的并行能力，不能只停留在“核数越多越快”的层面，而要从多核架构、SIMD 数据级并行、线程级编程模型以及缓存一致性四个层面建立完整认知。本节围绕这些关键点展开，帮助你在后续 GPU、FPGA 协同编程中准确划分任务边界。

一、多核CPU架构：从单核频率到多核并行

现代多核 CPU 通常采用“多级缓存 + 多核共享内存”的结构。每个核心拥有私有的 L1 指令/数据缓存和 L2 缓存，多个核心共享 L3 缓存与主存。核心内部通过乱序执行、超标量流水线和多发射提升单线程性能；核心之间则通过片上互连网络（如 Ring Bus 或 Mesh）交换数据。这种结构决定了 CPU 并行编程的两个基本事实：第一，核心间通信必须经过缓存层次，延迟远高于核心内部；第二，共享数据需要一致性协议维护，否则会出现读到旧值的问题。

典型的服务器 CPU 还支持超线程（SMT），即一个物理核心呈现两个逻辑核心。超线程适合掩盖内存访问延迟，但对计算密集型任务提升有限。因此，在并行任务划分时，应优先使用物理核心数作为线程数参考，再根据负载类型微调。

二、SIMD指令：单指令多数据的向量化

SIMD（Single Instruction Multiple Data）允许一条指令同时处理多个数据元素。x86 平台从 SSE、AVX 到 AVX-512，向量宽度从 128 位扩展到 512 位；ARM 平台则有 NEON 和 SVE。以 AVX2 为例，一个 256 位寄存器可以同时存放 8 个 32 位浮点数，一次加法即可完成 8 个元素的运算。

// 标量写法
for (int i = 0; i < n; i++)
    c[i] = a[i] + b[i];

// AVX2 向量化写法（伪代码）
for (int i = 0; i < n; i += 8) {
    __m256 va = _mm256_loadu_ps(&a[i]);
    __m256 vb = _mm256_loadu_ps(&b[i]);
    __m256 vc = _mm256_add_ps(va, vb);
    _mm256_storeu_ps(&c[i], vc);
}

SIMD 的关键限制是数据必须连续且对齐，且存在分支时难以向量化。编译器可以通过 -O3 -mavx2 自动向量化，但复杂循环往往需要手动改写或使用 OpenMP 的 simd 指令引导。

三、OpenMP与Pthreads：两种线程级并行模型

OpenMP 是基于编译指令的共享内存并行模型，适合循环级并行和任务并行。它通过 #pragma omp parallel for 将循环迭代分配给多个线程，开发者无需手动管理线程创建和同步。Pthreads 则是 POSIX 线程库，提供更底层的线程控制，适合需要精细调度、线程池或非规则并行的场景。

对比维度	OpenMP	Pthreads
编程粒度	循环/任务级，声明式	线程级，命令式
线程管理	运行时自动管理	手动创建、join、销毁
同步机制	barrier、critical、atomic	mutex、cond、semaphore
适用场景	规则循环、科学计算	线程池、异步任务、复杂控制
可移植性	跨平台较好	类 Unix 系统为主

实际工程中，两者常混合使用：用 Pthreads 建立线程池，再在池内用 OpenMP 并行化热点循环。但要注意线程嵌套过深会导致上下文切换开销上升。

四、缓存一致性与内存模型

多核 CPU 中，每个核心的私有缓存可能保存同一内存地址的不同副本。缓存一致性协议（如 MESI）通过监听总线或目录协议，保证一个核心写入后，其他核心能读到最新值。MESI 将缓存行标记为 Modified、Exclusive、Shared、Invalid 四种状态，写操作会使其他核心的副本失效。

然而，一致性并不等于顺序性。现代 CPU 和编译器会进行指令重排，导致一个线程的写操作在另一个线程看来顺序不同。C11 和 C++11 引入了内存序（memory order）概念：memory_order_relaxed 只保证原子性，memory_order_acquire/release 建立同步关系，memory_order_seq_cst 提供全局顺序。编写无锁队列或标志位同步时，必须显式指定内存序，否则可能出现在 x86 上正常、在 ARM 上失败的问题。

五、案例：矩阵乘法的CPU并行优化

以 C = A × B 为例，朴素三重循环性能极差。优化路径通常为：先做循环分块（tiling）提升缓存命中率，再用 OpenMP 并行化最外层循环，最后用 SIMD 向量化内层计算。伪代码如下：

#pragma omp parallel for collapse(2) schedule(static)
for (int i = 0; i < N; i += BLOCK)
  for (int j = 0; j < N; j += BLOCK)
    for (int k = 0; k < N; k += BLOCK)
      for (int ii = i; ii < i+BLOCK; ii++)
        for (int jj = j; jj < j+BLOCK; jj++) {
          float sum = 0;
          #pragma omp simd reduction(+:sum)
          for (int kk = k; kk < k+BLOCK; kk++)
            sum += A[ii*N+kk] * B[kk*N+jj];
          C[ii*N+jj] += sum;
        }

该案例同时体现了多核并行、SIMD 向量化和缓存分块三种优化手段。实际测试中，分块大小需根据 L1/L2 缓存容量调整，通常取 32 或 64。

六、复盘与选型建议

• 任务规则、循环密集：优先 OpenMP + SIMD，开发效率高。
• 任务不规则、需要线程池或异步：选择 Pthreads 或 C++11 thread。
• 共享数据频繁读写：先考虑减少共享，再用原子操作或锁保护。
• 跨平台部署：注意内存序差异，避免依赖 x86 的强内存模型。
• 性能调优：先用 perf 或 VTune 定位瓶颈，再决定并行层次。