1. 课程导入与Supermicro AI服务器全景
在开始规划与部署Supermicro AI服务器之前，需要先建立一张“全景地图”：Supermicro在AI基础设施中处于什么位置、它的产品线如何划分、不同应用场景该选哪一类平台，以及从需求到上线要经历哪些阶段。只有把这些问题理清，后续的选型、上架、组网、调优和运维才不会变成零散操作的堆砌。
学习目标
本课程面向AI基础设施的规划者、部署工程师与运维人员，目标是让读者能够独立完成从需求分析到平台落地的关键决策。具体包括：理解Supermicro AI服务器在GPU计算、高速互联、存储与散热方面的设计逻辑；能够根据模型规模、并发量和预算，在GPU服务器、存储服务器、网络交换与液冷方案之间做出合理组合；掌握机柜规划、供电与散热评估、GPU互联拓扑、集群部署与基础验证的方法；并能在出现性能不达预期或硬件告警时，按结构化路径定位问题。
Supermicro在AI基础设施中的定位
Supermicro的核心竞争力在于“快速集成”与“形态覆盖”。它并不只卖单一型号的服务器，而是围绕GPU、CPU、内存、存储、网络和散热，提供从单机到整机柜、从风冷到液冷的多种组合。对于AI集群而言，这意味着用户可以在同一供应商体系内完成计算节点、管理节点、存储节点和网络交换的选型，减少多厂商兼容性验证的成本。
在AI基础设施的层级中，Supermicro主要覆盖“计算与存储硬件平台”这一层，向上对接AI框架与调度平台，向下依赖供电、制冷和机房环境。它的典型价值体现在：支持最新一代GPU的快速导入、提供多种GPU密度与互联方案、支持液冷以应对高功率密度，以及通过整机柜交付缩短部署周期。
产品线概览
Supermicro的AI相关产品可以按“计算密度”和“散热方式”两个维度理解。GPU服务器方面，常见形态包括：4U多GPU风冷平台，适合中小规模训练与推理；8U或更高密度的GPU平台，支持8卡甚至更多GPU通过NVLink或PCIe互联；以及面向大规模训练的整机柜方案，将多个GPU节点、交换机和液冷分配单元集成在一起。存储方面，有高密度NVMe存储服务器，用于训练数据缓存和检查点写入。网络方面，则包括InfiniBand和以太网交换机，用于构建计算网络、存储网络和管理网络。
散热是AI服务器规划中容易被低估的一环。风冷平台通常支持单机柜功率在20～30kW左右，而高密度GPU平台单柜功率可能超过40kW甚至更高，此时液冷成为必要选项。Supermicro提供从冷板式液冷到整机柜液冷的方案，规划时需要确认机房是否具备相应的冷却水回路和漏液检测能力。
典型应用场景与选型思路
不同AI场景对硬件的要求差异很大。大模型训练通常需要多机多卡、高带宽GPU互联和高速存储，单节点可能配置8块GPU，通过NVLink或NVSwitch实现卡间通信，节点间则依赖InfiniBand或RoCE网络。推理服务更关注低延迟和弹性扩缩，可能采用较少GPU但更高主频的配置，并利用多实例GPU（MIG）提高利用率。高性能计算场景则强调双精度浮点性能和存储吞吐，对GPU互联的要求相对训练略低，但对CPU和内存带宽更敏感。
选型时可以先回答三个问题：模型参数量与训练数据量有多大？推理的并发请求数和延迟要求是多少？机房能提供多少电力和制冷能力？这三个答案基本决定了GPU型号、节点数量、网络带宽和散热方式。例如，一个70B参数模型的训练任务，若采用8卡GPU节点，通常需要多台节点通过高速网络组成集群，单柜功率可能超过30kW，此时应优先考虑液冷方案。
部署生命周期
Supermicro AI服务器的部署不是“上架开机”这么简单，而是一个从需求到运维的闭环。需求分析阶段要明确模型规模、并发量、预算和机房条件；选型与拓扑设计阶段要确定GPU型号、互联方式、存储容量和网络带宽；机柜与供电散热规划阶段要计算功率密度、确认PDU容量、评估液冷回路和承重；上架与集群部署阶段要完成BIOS/BMC配置、驱动安装、调度平台部署和网络调通；验证与运维阶段则通过GPU压测、带宽验证和监控告警确认系统达到预期，并建立故障定位流程。
这个生命周期不是单向的。例如，在机柜规划阶段发现单柜功率超过风冷上限，就需要回到选型阶段调整GPU密度或改用液冷；在验证阶段发现GPU间带宽不达标，可能需要检查NVLink连接或网络配置。规划者应把每个阶段的关键参数记录下来，形成可追溯的部署文档。
从全景到行动
理解全景之后，下一步是把抽象需求转化为具体配置。例如，某团队需要部署一个用于推理的AI集群，预计同时处理200路并发请求，单路延迟要求低于100ms，机房可提供每柜25kW电力。根据这些条件，可以初步判断：采用4U风冷GPU服务器，每节点配置4块推理优化GPU，配合高速以太网交换机和NVMe存储节点，单柜功率控制在20kW左右，留出余量。这个判断不是最终方案，但它是从全景走向详细设计的起点。