1. 课程导入：学习目标、课程结构、能效在GPU集群中的重要性

1.1 为什么此刻必须正视GPU集群能效

过去十年，单颗GPU的功耗从约250W（NVIDIA V100）攀升至700W以上（H100 SXM），而下一代加速卡已明确突破1000W。与此同时，一个千卡级集群的峰值功耗动辄达到1.5MW～3MW，接近一座小型工厂的用电规模。若将散热、配电损耗、网络与存储设备计入，集群总功耗（PUE口径）往往再放大1.3～1.6倍。

能效问题不再是“电费账单”层面的成本问题，而是直接决定集群能否稳定运行、能否扩容、能否在碳约束下获得审批的硬性门槛。具体而言，能效瓶颈会以三种方式反噬业务：

热密度失控：单机柜功率密度从10kW/柜攀升至40～80kW/柜，传统风冷已无法带走热量，导致GPU降频、节点宕机，实际算力输出远低于理论峰值。
电力容量锁死：数据中心园区供电容量有限，能效低意味着同样电力下可部署的GPU数量减少，直接压缩算力供给。
碳排与合规压力：越来越多地区对数据中心PUE、CUE（碳利用效率）提出硬性指标，能效不达标将面临限电或无法新建机房的处罚。

课程定位：本课程不讨论芯片级电路设计，而是聚焦于“已部署或即将部署的GPU集群”这一现实场景，从硬件选型、散热架构、调度策略、软件调优、运维治理五个层面，系统性地拆解能效瓶颈并给出可落地的节能方案。

1.2 学习目标：学完本课程你将具备什么能力

本课程共30章，按“认知—诊断—优化—治理”四个阶段递进。学完本课程，你应该能够独立完成以下工作：

能力维度	具体表现	对应章节
能效度量	准确计算PUE、DCeP（数据中心能效）、GPU利用率与功耗的关联曲线，识别虚假节能	第2～4章
瓶颈定位	通过功耗采样、温度场分析、调度日志交叉比对，定位是散热、供电、代码还是调度导致的能效劣化	第5～9章
方案设计	针对风冷/液冷/浸没式散热、动态功耗上限（power capping）、任务整形等场景设计节能组合方案	第10～18章
调度与调优	利用GPU虚拟化、MIG、容器资源限制、任务优先级抢占等手段提升单位焦耳的算力产出	第19～24章
运维治理	建立能效监控看板、制定节能降载预案、评估节能改造ROI并形成闭环治理机制	第25～30章

需要特别强调的是，本课程的目标不是“把GPU功耗压到最低”，而是在满足业务SLA（服务等级协议）的前提下，最大化单位能耗的算力产出。盲目降频或强制休眠可能导致任务超时，反而造成更大的资源浪费。

1.3 课程结构：从物理层到治理层的完整链路

课程内容按照“自下而上、从硬到软”的逻辑组织，每一章都建立在前一章的基础上，同时保持相对独立，便于按需查阅。

第1章  课程导入（本章）
第2～4章  能效度量体系：PUE/DCeP/GPU功耗模型
第5～9章  硬件层瓶颈：供电链路、散热架构、信号完整性、NVLink/PCIe拓扑
第10～13章 散热与制冷：风冷优化、液冷设计、浸没式冷却、免费冷却
第14～18章 软件层节能：功耗上限控制、动态电压频率调整、内核优化、CUDA节能编程
第19～24章 调度与资源管理：GPU虚拟化、MIG切分、容器调度、任务整形、混合负载
第25～30章 运维与治理：监控告警、容量规划、节能改造、ROI分析、组织流程

这种结构的核心逻辑是：先建立度量标准，再定位物理瓶颈，然后通过软硬件协同优化，最后固化为运维制度。如果你只关心某一层（比如液冷改造），可以直接跳到对应章节，但建议至少通读第2～4章的度量体系，否则后续优化效果无法量化。

1.4 能效在GPU集群中的核心地位：三个真实场景

为了帮助你在学习具体技术前建立直观认知，这里给出三个来自生产环境的典型场景。这些场景将在后续章节中反复出现，作为案例分析的素材。

场景一：风冷集群的“热循环”陷阱

某互联网公司部署了512卡A100集群，采用传统风冷机柜。运行三个月后，运维团队发现GPU平均利用率只有62%，但节点温度频繁触及85℃降频阈值。排查后发现：机房空调设定温度为22℃，但机柜后排热风回流严重，导致GPU进风温度实际达到32℃。空调系统为了维持机房整体温度，持续加大制冷量，PUE从设计值1.35恶化到1.58。最终通过调整冷通道封闭、优化气流组织，PUE降至1.38，GPU降频次数减少70%。

场景二：功耗上限（Power Capping）的误用

某AI公司为了节省电费，将A100的功耗上限从400W强制限制到300W。结果发现训练任务耗时增加了45%，而总能耗只下降了18%。原因是A100在300W功耗下无法维持基础频率，导致计算单元空转等待。这个案例说明：功耗上限必须结合任务特性设置，不能一刀切。对于计算密集型任务，适度放宽功耗上限反而能提升能效；对于访存密集型任务，功耗上限可以适当下调。

场景三：液冷改造的ROI误判

某智算中心计划将风冷集群改造为冷板式液冷，初期投入约1200万元。财务部门以“节省电费”为单一指标测算，认为回收期需要6年，项目被否决。但技术团队补充了三个隐性收益：液冷后GPU可维持更高频率，算力提升约8%；服务器密度提升一倍，节省机房空间租金；PUE从1.5降至1.15，满足当地碳配额要求，避免了限电风险。综合计算后，实际回收期缩短至2.8年，项目获批。这个案例说明能效评估必须采用全生命周期成本（TCO）视角。

常见误区：很多团队将“能效优化”等同于“降低功耗”，这是片面的。能效的核心指标是“每瓦算力”（FLOPS/W）或“每焦耳业务产出”。一个GPU如果功耗降低20%但算力下降40%，能效反而恶化。本课程所有优化手段都以“不牺牲业务SLA”为前提。

1.5 本章小结与学习路径建议

本章作为课程导入，明确了三个关键认知：

能效是GPU集群的硬约束，直接影响算力供给、运行稳定性和合规性，而非单纯的财务成本。
能效优化是一个系统工程，涉及硬件、散热、软件、调度、运维五个层面，需要建立统一的度量体系才能避免“按下葫芦浮起瓢”。
优化目标是“单位能耗的算力产出最大化”，而不是功耗绝对值最小化。

建议你在进入第2章之前，先完成一项准备工作：梳理你所在集群的基础能效数据——包括但不限于：

集群总功耗（IT设备+制冷+配电损耗）
GPU型号、数量、当前功耗上限设置
机房PUE历史数据（至少最近3个月）
典型训练/推理任务的GPU利用率曲线