4. OpenMP入门：编程模型、编译指令、并行区域与工作共享构造

OpenMP 是我最早接触的共享内存并行编程模型。说实话，第一次用它的时候我还觉得“不就是加几行注释吗”？后来在真实的多核服务器上跑起来才发现——嗯，这玩意儿真有两下子。它最大的优势就是侵入性低：你不用重写整个程序，只需要在串行代码里插几条指令，编译器就能帮你生成并行版本。

4.1 OpenMP编程模型

OpenMP 的本质是“Fork-Join”模型。程序开始时只有一个主线程串行执行；遇到并行区域时，主线程派生出（fork）一组线程共同执行；并行区域结束后，所有线程同步并汇合（join），恢复单线程执行。

关键概念：

  • 共享内存：所有线程共享同一地址空间，可以直接访问全局变量。
  • 线程池：OpenMP 运行时会维护一个线程池，避免反复创建/销毁线程。
  • 隐式同步：并行区域结束处、工作共享构造结束处都有隐式同步。
  • 数据环境：变量可以声明为共享（shared）或私有（private）。

我在项目中遇到过一个坑：两个线程同时写同一个全局变量，导致结果随机。后来我养成了习惯——凡是并行区域里有写操作的变量，先想清楚它该私有还是用原子操作保护。

下面这张图概括了 OpenMP 的核心执行流程，我建议你多看几遍，后面所有知识点都围绕它展开。

OpenMP Fork-Join 执行模型 主线程（串行） Fork 线程 0 线程 1 线程 N-1 并行区域（parallel region） Join 主线程（串行） 说明：每个并行区域都会重复 Fork→并行计算→Join 的流程；工作共享构造（parallel for 等）就发生在并行计算阶段。 线程数可由 OMP_NUM_THREADS 环境变量或 num_threads 子句控制。

4.2 编译指令与并行区域

OpenMP 用 #pragma omp 引导编译指令。最基本的指令就是创建一个并行区域：

#pragma omp parallel
{
    // 这段代码会被多个线程同时执行
    printf("Hello from thread %d\n", omp_get_thread_num());
}

每个线程都会执行大括号内的全部语句。你想想看，如果里边有个累加操作，不保护的话结果肯定不对。所以我个人习惯是在并行区域内尽量只做读操作，如果有写操作一定加上同步或原子约束。

4.3 工作共享构造

实际开发中我们很少让所有线程做相同的事，更多是把工作分配到线程。OpenMP 提供了三种主要的工作共享构造：parallel for、sections 和 single。它们必须出现在并行区域内，或者直接与 parallel 组合成复合指令。

4.3.1 parallel for：循环并行化

这是用得最多的。把串行 for 循环的迭代分给多个线程执行：

#pragma omp parallel for
for (int i = 0; i < N; i++) {
    a[i] = b[i] + c[i];
}

编译器会自动计算迭代区间，并分配给各个线程。我曾在一个图像处理项目里用 parallel for 加速了 4 倍——但要注意循环体内不能有依赖关系（比如当前迭代依赖上一次的结果）。

调度模式（schedule）：可以控制迭代分配策略。

  • static：编译期分配，开销最小，但负载可能不均。
  • dynamic：运行时动态分配，适合迭代计算量差异大的情况。
  • guided：动态分配的改进版，一开始给大块，逐渐缩小。
  • runtime：运行时通过环境变量 OMP_SCHEDULE 指定。

4.3.2 sections：任务并行

如果不同的代码段需要被不同的线程同时执行，就用 sections。每个 section 只被一个线程执行一次：

#pragma omp parallel sections
{
    #pragma omp section
    {
        // 任务 A
        process_image();
    }
    #pragma omp section
    {
        // 任务 B
        analyze_sound();
    }
    #pragma omp section
    {
        // 任务 C
        compute_statistics();
    }
}

任务 A、B、C 并行执行。如果线程数少于 section 数，某些线程会依次执行多个 section。如果线程数多于 section 数，多出的线程空闲。我一般用 sections 来并行化相互独立的初始化操作或后处理流程。

4.3.3 single：单线程执行

有时候并行区域里有一段代码只需要一个线程执行（比如打印结果、更新进度条），就用 single：

#pragma omp parallel
{
    // 所有线程做计算
    compute_contributions();

    #pragma omp single
    {
        printf("Total: %f\n", total);
        fflush(stdout);
    }

    // 其他线程等待 single 完成后继续
    more_work();
}

默认在 single 块结尾有隐式障碍（barrier），确保所有线程执行完 single 内的操作后再继续。如果你希望其他线程不等，可以加 nowait 子句。但慎用——我曾经因为 nowait 导致后续代码读到了尚未初始化的全局变量，调试了整整一个下午。

构造 用途 典型场景 隐式同步
parallel for 将循环迭代分给多个线程 向量加法、矩阵运算、像素处理 循环结束处同步
sections 不同的代码块并行执行 多路数据预处理、独立计算 所有 section 完成后同步
single 只让一个线程执行指定代码 日志输出、单次初始化 块结尾同步（可取消）

4.4 数据环境与变量作用域

变量默认是共享的——所有线程看到的是同一个内存地址。这经常出问题。你需要显式声明哪些变量是私有的：

  • private(var)：每个线程有一个私有副本，不初始化。
  • firstprivate(var)：私有副本，但用主线程的值初始化。
  • lastprivate(var)：私有副本，最后一个迭代/最后一个 section 的值会写回主线程。
  • reduction(op:var)：规约操作（+、*、min、max 等），每个线程私有累加，最后合并。

避坑： 我曾经犯过把循环变量 i 忘记声明为 private 的错误。多个线程同时修改 i，导致死循环。后来我一律在 parallel for 里让循环变量自动私有——OpenMP 会默认将 for 的索引变量私有化，但如果是嵌套循环，外层索引必须手动私有。

4.5 环境变量与运行时函数

几个常用的环境变量：

环境变量 作用 示例
OMP_NUM_THREADS 设置默认线程数 export OMP_NUM_THREADS=8
OMP_SCHEDULE 设置默认调度模式 export OMP_SCHEDULE="dynamic,128"
OMP_PLACES 绑定线程到物理核心 export OMP_PLACES=cores
OMP_PROC_BIND 线程是否绑定 CPU export OMP_PROC_BIND=true

运行时函数在 <omp.h> 中声明：

int omp_get_thread_num();    // 当前线程编号
int omp_get_num_threads();   // 当前线程组大小
double omp_get_wtime();      // 墙钟时间（秒）
void omp_set_num_threads(int n);  // 动态设置线程数

我记得第一次用 omp_get_wtime() 来测量并行区域的加速比时，发现线程数超过核数后性能反而下降——这就是典型的并行开销超过了收益。所以建议你写代码时预留设置线程数的接口，方便在不同机器上调优。

← 上一章 📖 返回目录 下一章 →