3. HPC集群需求分析方法

HPC集群规划最忌讳“先买机器、再想用途”。需求分析的目标,是把业务语言翻译成可量化的硬件与网络参数,让后续的节点选型、网络拓扑、存储配置都有据可依。本节围绕五个核心维度展开:应用场景调研、性能指标定义、计算密度、内存带宽、存储IOPS与网络吞吐估算。它们之间存在明确的依赖关系——场景决定指标,指标推导出计算、内存、存储、网络四类资源需求。

一、应用场景调研:从业务到负载画像

调研不是简单问“你们要跑什么软件”,而是要形成可量化的负载画像。建议按以下要素逐项采集:

  • 应用类型:是CFD/结构力学这类紧耦合MPI并行,还是参数扫描、蒙特卡洛这类高吞吐任务,或是AI训练这类GPU密集型负载。
  • 并行模式:MPI进程数、OpenMP线程数、是否使用GPU加速、是否依赖集合通信(Allreduce、Alltoall)。
  • 作业规模分布:小作业(1–8核)、中作业(32–128核)、大作业(512核以上)各占比例,这直接决定调度策略与节点粒度。
  • 峰值并发:同时运行的作业数、最大作业核数,用于估算集群总核数与网络收敛比。
  • 数据特征:单作业读写数据量、文件大小分布、是否频繁checkpoint、是否共享同一数据集。

例如,某CAE团队反馈:日常以32核作业为主,每周有2–3个512核大作业,单次求解读取网格约200GB,每2小时写一次checkpoint约50GB。这条信息已经能推导出内存容量、存储带宽和网络规模的下限。

二、性能指标定义:把“快”变成数字

性能指标必须可测量、可验收。常用指标包括:

  • 计算性能:单节点双精度浮点峰值(FLOPS)、实测LINPACK效率(通常70%–90%)。
  • 并行效率:强扩展(固定问题规模增加核数)与弱扩展(问题规模随核数增长)下的加速比。
  • 内存带宽:STREAM Triad实测值,反映每核可用带宽。
  • 存储性能:顺序读写带宽(GB/s)、随机IOPS、元数据操作速率。
  • 网络性能:点对点带宽、消息延迟(微秒级)、集合通信带宽。

指标定义要与应用绑定。例如CFD求解器对内存带宽和网络延迟敏感,而参数扫描类作业更看重吞吐与调度效率。定义时应给出目标值与验收方法,如“STREAM Triad ≥ 12 GB/s/节点”“MPI延迟 ≤ 2 μs”。

三、计算密度:每机柜能装多少算力

计算密度决定机房空间、供电与散热成本。它由单节点核数、TDP、机柜U数和供电上限共同约束。以双路Intel Xeon Platinum 8480+(56核/颗,TDP 350W)为例,单节点112核,整机功耗约800–1000W。若机柜供电上限为15kW,则最多约15台,即1680核/柜;若采用液冷或高密度机柜(30kW),可翻倍。

计算密度估算公式可简化为:
机柜核数 = min(机柜U数 / 节点U数, 机柜供电 / 节点功耗) × 单节点核数

规划时需预留20%–30%余量给交换机和突发功耗,避免满载跳闸。

四、内存带宽:被忽视的性能瓶颈

很多HPC应用是内存带宽受限型,而非浮点受限型。每核可用带宽 = 单节点内存带宽 / 核数。以8通道DDR5-4800为例,单节点理论带宽约307 GB/s,112核下每核仅2.7 GB/s。若应用每核需求超过此值,增加核数反而降低效率。

估算方法:先测单核STREAM Triad值,再乘以核数得到需求,与节点实测带宽对比。若需求 > 实测的80%,说明内存带宽将成为瓶颈,应考虑减少每节点核数、增加内存通道或选用高带宽内存(HBM)平台。

HPC集群需求分析:从场景到资源参数的推导链 ① 应用场景调研 CFD / 结构力学 / 参数扫描 / AI训练 · MPI进程数 · 作业规模分布 · 峰值并发 · 数据特征 示例:32核日常作业 + 512核大作业,单次读200GB,每2h写50GB checkpoint ② 性能指标定义 双精度FLOPS · LINPACK效率 · 强/弱扩展加速比 · STREAM Triad · 顺序带宽/随机IOPS · MPI延迟/集合通信带宽 目标示例:STREAM ≥ 12 GB/s/节点,MPI延迟 ≤ 2 μs ③ 计算密度 核数 × TDP × U数 受机柜供电约束 示例:15kW柜 ≈1680核/柜 ④ 内存带宽 每核带宽 = 节点带宽 / 核数 示例:307GB/s ÷ 112 ≈ 2.7 GB/s/核 ⑤ 存储IOPS 并发作业数 × 单作业IOPS checkpoint带宽 元数据操作速率 ⑥ 网络吞吐 东西向流量为主 收敛比 = 节点端口 : 上行带宽 示例:200G HDR/NDR 输出:节点选型 · 网络拓扑 · 存储配置 · 机柜规划

五、存储IOPS与网络吞吐估算

存储需求常被低估。估算分三步:

  1. 容量:原始数据 + 中间结果 + checkpoint + 副本,通常按原始数据的3–5倍预留。
  2. 带宽:并发作业数 × 单作业读写带宽。例如20个作业同时写checkpoint,每个500 MB/s,则需10 GB/s写入带宽。
  3. IOPS:小文件密集场景(如EDA、AI小样本)需重点估算元数据IOPS,NVMe全闪存可提供数十万IOPS,而HDD仅数百。

网络吞吐方面,HPC以东西向流量为主。关键参数是收敛比:若32个节点各配200G端口,上行仅400G,收敛比为16:1,适合中等并行;紧耦合MPI应用建议收敛比≤4:1甚至1:1(无阻塞)。估算公式:
所需上行带宽 = 峰值并发节点数 × 单节点通信带宽 × 通信占比

例如512核大作业跨16节点,每节点通信200G,通信占比60%,则上行需约1.9T,需配置多台交换机组成胖树或DragonFly+拓扑。

实用提示:需求分析完成后,建议输出一份《资源需求基线表》,至少包含:总核数、单节点核数、内存容量/带宽、存储容量/带宽/IOPS、网络端口速率与收敛比、机柜数与供电。该表是后续选型与验收的直接依据。
常见误区:只按峰值核数采购,忽略内存带宽与存储IOPS的匹配;或只关注南北向存储流量,低估MPI集合通信的东西向压力。两者都会导致集群“算力够、跑不快”。

综上,需求分析的本质是建立“场景→指标→资源”的量化映射。应用场景提供输入,性能指标定义验收标准,计算密度、内存带宽、存储IOPS与网络吞吐四者相互约束,任何一项短板都会限制整体效率。规划时应以最紧约束为基准,并预留20%–30%的扩展余量。