2、基础知识：AI算力集群的组成、能耗模型与能效指标

2.1 AI算力集群的物理组成与能耗边界

要理解能效调优，首先必须明确“算力集群”的物理边界。一个典型的AI训练/推理集群并非只有GPU服务器，而是由IT设备与基础设施设备共同构成的复杂系统。从能耗审计的角度，我们通常将集群划分为以下层次：

• 计算层（IT负载）：GPU/AI加速卡、CPU、内存、本地NVMe SSD。这是真正执行矩阵乘法和张量运算的部分，功耗随负载剧烈波动。
• 网络层：Leaf/Spine交换机、光模块、RDMA网卡（如CX-6/CX-7）。在万卡集群中，网络功耗可占IT总功耗的10%～15%。
• 存储与管理层：并行文件系统存储节点、登录节点、管理网交换机。
• 供配电系统：UPS、PDU、变压器、母线槽。其效率直接影响电能从电网到芯片的转化率。
• 制冷散热系统：CRAH/CRAH、冷水机组、冷却塔、液冷CDU（冷量分配单元）、二次侧管路。

下图展示了AI算力集群的典型能耗拓扑与测量点位置，这是后续计算PUE/DCiE的基础：

2.2 能耗模型：从芯片到集群的功率分解

AI集群的能耗模型遵循“功率叠加”与“时间积分”两条主线。瞬时功率决定配电容量，累计电量决定电费成本。在能效调优中，我们更关注功率的时间分布特性——AI训练任务具有明显的波峰-波谷特征：

• 数据加载阶段：GPU空闲，CPU/存储IO繁忙，整机功耗约为峰值的30%～40%。
• 前向计算阶段：GPU利用率攀升至80%以上，功耗快速上升。
• 反向传播与梯度同步：GPU计算与网络通信叠加，达到功耗峰值（如H100满载约700W/卡）。
• 检查点保存（Checkpoint）：GPU暂停计算，存储写入爆发，功耗短暂回落。

一个实用的集群级能耗估算公式如下：

P_cluster = N_gpu × P_gpu_avg + N_cpu × P_cpu_avg + P_network + P_storage + P_loss
其中：
  P_gpu_avg = P_idle + (P_max - P_idle) × GPU_utilization
  P_loss = P_IT × (1/η_power - 1) + P_cooling
  η_power 为供配电效率（通常0.92～0.95）
  P_cooling 由制冷系统COP（能效比）决定：P_cooling = Q_heat / COP

2.3 核心能效指标：PUE、DCiE与部分PUE

能效指标是衡量集群“有多少电真正用于计算”的标尺。以下是行业最核心的几项指标：

2.4 能效指标测量方法与常见误区

正确的能效测量需要遵循以下流程，否则数据将失去可比性：

1. 确定测量边界：明确电表M1（总输入）和M2（IT输入）的物理位置，绘制配电单线图。
2. 同步时间窗口：PUE是时间平均值，建议以15分钟为粒度采集，至少持续24小时覆盖完整训练周期。
3. 区分负载类型：训练任务（高功耗持续型）与推理任务（低功耗间歇型）的PUE差异显著，需分开统计。
4. 记录环境参数：室外温度、冷却水温度、IT负载率需同步记录，否则无法解释PUE波动原因。
5. 计算与归档：按公式计算PUE/DCiE，并生成趋势曲线用于调优前后对比。

以下是测量与解读中的典型误区：

• 误区一：只看瞬时PUE。夜间低负载时PUE可能高达2.0，而白天满载时仅1.15，取瞬时值会严重误导决策。
• 误区二：忽略IT负载率对PUE的影响。PUE随负载率升高而降低（因为基础设施功耗相对固定），因此对比PUE必须注明负载率。
• 误区三：将芯片功耗与服务器功耗混淆。GPU功耗≠服务器功耗，后者还包括CPU、内存、电源转换损耗（约8%～12%）。
• 误区四：未考虑液冷系统的二次能耗。液冷虽然降低了PUE，但CDU泵、二次侧管路泵、冷却塔风机同样耗电，需计入总输入。