4. GPU与加速卡集成规划
在 Supermicro AI 服务器平台规划中，GPU 与加速卡的集成规划决定了整机的算力上限、扩展路径和运维方式。Supermicro 的 GPU 服务器产品线（如 SYS-821GE-TNHR、AS-8125GS-TNHR 等）通常围绕特定加速卡做机箱、供电、散热和 PCIe 拓扑的联合设计，因此选卡不是“插上去能用”这么简单，而是要与主板 PCIe 通道、GPU 基板、NVSwitch 背板和电源冗余一起匹配。
一、加速卡兼容性：先看平台认证，再看物理与供电
NVIDIA H100、H200、B200 在 Supermicro 平台上的集成方式差异明显。H100 有 SXM5 与 PCIe 两种形态：SXM5 版本必须安装在 8-GPU HGX 基板上，通过 NVLink 4.0 互联，单 GPU 双向带宽约 900 GB/s；PCIe 版本则走标准 PCIe 5.0 x16 插槽，适合 4U/5U 通用服务器，但 GPU 间通信需依赖 PCIe 或桥接器。H200 与 H100 同为 Hopper 架构，SXM 版本可直接沿用 HGX H100 的基板与 NVSwitch 设计，主要变化在 HBM3e 容量提升至 141 GB，规划时需确认 BMC/BIOS 固件版本是否已加入 H200 的 SDR（System Definition Record）。B200 属于 Blackwell 架构，采用 SXM6 形态，功耗与互联密度更高，必须搭配支持 Blackwell 的 HGX B200 基板和对应 NVSwitch，不能与 H100/H200 基板混用。
AMD MI 系列（MI250X、MI300X）在 Supermicro 平台上多以 PCIe 或 OAM 形式出现。MI300X 的 OAM 版本需要专用基板，其 Infinity Fabric 互联拓扑与 NVIDIA NVLink 不同，规划时要确认服务器是否提供对应的 AMD 基板选项。Intel GPU（如 Data Center GPU Max 系列）则常见于 PCIe 形态，兼容性判断重点在 PCIe 插槽供电能力（单槽 300 W 以上需辅助供电）和散热风道。无论哪家加速卡，第一步都应查 Supermicro 官方兼容性列表（OS/GPU Support Matrix），确认“服务器型号 + GPU 型号 + 固件版本”三者同时被认证，而不是只看 GPU 是否插得进去。
二、NVLink 与 NVSwitch：决定 GPU 间通信是否成为瓶颈
NVLink 是 GPU 之间的点对点高速互联，NVSwitch 则是把多张 GPU 全互联的交换芯片。以 8 卡 HGX H100 为例，8 张 GPU 通过 4 颗 NVSwitch 实现任意两卡之间的 NVLink 连接，形成全互联（full mesh）拓扑，聚合双向带宽可达 7.2 TB/s 量级。如果只有 NVLink 而没有 NVSwitch，GPU 之间往往是部分互联或环形拓扑，跨卡通信需要多跳转发，训练时 All-Reduce 效率会明显下降。
规划时要区分三种典型配置：8×SXM + NVSwitch（全互联，适合大模型训练）、4×SXM + NVLink 桥接（部分互联，适合中小规模微调）、PCIe-only（无 NVLink，跨卡走 PCIe/NVMe，适合推理或单卡任务）。判断依据是模型并行策略：若使用张量并行（Tensor Parallelism）跨 8 卡切分，NVSwitch 几乎是必需；若只是数据并行，PCIe 版本也能接受，但梯度同步会占用 PCIe 带宽。
三、GPU 直通与虚拟化模式：按业务隔离需求选
在虚拟化环境中，GPU 的使用方式主要有三类。第一类是 GPU 直通（PCIe Passthrough），把整张物理 GPU 通过 IOMMU 直接分配给一台虚拟机，性能几乎等同裸机，适合训练和独占推理。配置时需在 BIOS 开启 VT-d/IOMMU、ACS，并在宿主机将 GPU 的 PCIe 设备 ID 绑定到 vfio-pci 驱动，再把设备挂给 VM。第二类是 vGPU 或 MIG 切分：NVIDIA vGPU 需要授权，把一张卡按显存和算力切成多个 vGPU 实例；MIG（Multi-Instance GPU）是 A100/H100 硬件级切分，最多可切 7 个实例，实例间显存和计算隔离，适合多租户推理。第三类是 时间片共享，多容器轮流占用同一 GPU，隔离性最弱，只适合轻量任务。
选择逻辑可以归纳为：需要跨卡高速通信的训练任务，必须用 SXM + NVSwitch 并采用直通；需要多租户隔离的推理平台，优先 MIG 或 vGPU；只是开发测试或小模型服务，时间片共享即可。Supermicro 平台在 BIOS 中通常提供 SR-IOV、Above 4G Decoding、PCIe ARI 等选项，这些是直通和 MIG 能否正常工作的前置条件，规划阶段就要确认。
四、集成规划检查清单（示例）
以下清单可作为选型评审时的对照表，字段按实际项目填写：
| 检查项 | 示例值 | 判断依据 |
|---|---|---|
| 服务器型号 | SYS-821GE-TNHR | 在 Supermicro GPU 兼容列表中 |
| GPU 型号/形态 | H100 SXM5 ×8 | 与 HGX 基板匹配 |
| 互联方式 | NVSwitch 全互联 | 支持 8 卡张量并行 |
| 固件版本 | BIOS 2.5 / BMC 1.3 | 已加入 H200/B200 SDR |
| 虚拟化模式 | 直通 + MIG 混合 | 训练直通、推理 MIG |
| 供电冗余 | 4×3000 W 钛金 | 满足 8 卡峰值功耗 |
nvidia-smi topo -m 查看 GPU 互联矩阵，确认 NVLink 连接状态；用 nvidia-smi mig -lgip 查看 MIG 实例配置。若拓扑显示为 SYS（PCIe 跨 NUMA）而非 NVLink，说明 NVSwitch 未生效或固件未正确加载，需要回查基板连接与 BIOS 设置。综上，GPU 集成规划的核心是“先认证、再拓扑、后虚拟化”。认证解决能不能用，拓扑解决跑得快不快，虚拟化解决怎么分给业务。三者顺序不能颠倒，否则容易出现硬件已上架、性能却不达标的返工。