4. 存储子系统选型与配置

在Supermicro企业虚拟化服务器平台上,存储子系统的选型直接决定虚拟机的IOPS上限、故障域边界以及vSAN能否通过就绪校验。本节从介质、控制器、直通模式与vSAN就绪四个层面展开,给出可落地的判断依据与配置示例。

一、介质层:NVMe、SAS、SATA的定位差异

NVMe SSD通过PCIe总线直连CPU,单盘顺序读可达6~7 GB/s、随机读可达百万级IOPS,延迟通常在100 μs以内,适合vSAN缓存层、数据库与高密度VDI。SAS SSD/HDD走12 Gb/s SAS链路,具备双端口与完整SCSI命令集,适合对双路径冗余有要求的共享存储或混合层。SATA盘成本最低,但为单端口、队列深度仅32,通常只用于容量层或备份盘。

选型时先看三个参数:DWPD(每日全盘写入次数)、TBW与稳态随机写IOPS。以vSAN缓存盘为例,建议选择DWPD≥3的NVMe或企业级SAS SSD;容量层可用DWPD≤1的高容量NVMe或SAS HDD。若单节点规划缓存:容量为1:10,例如2×1.92 TB NVMe缓存配8×3.84 TB NVMe容量,则缓存层可提供约1.4 PBW的写入寿命,足以覆盖5年生命周期。

二、控制器层:RAID控制器与HBA的本质区别

RAID控制器(如Supermicro AOC-S3908L-H8iR,基于Broadcom 3908)内置缓存、BBU/超级电容与RAID固件,向上呈现为逻辑卷。它适合传统VMFS数据存储:把多块盘做成RAID 5/6/10,再在其上创建VMFS。优点是管理简单、有写缓存加速;缺点是逻辑卷对vSAN不可见,且缓存掉电保护依赖BBU状态。

HBA(如AOC-S3008L-L8i或AOC-S3808L-L8i)工作在IT/JBOD模式,把每块物理盘直接透传给操作系统,不做RAID运算。vSAN、ZFS、Ceph等软件定义存储必须使用HBA直通,因为vSAN需要直接管理每块盘的元数据与故障域。若使用RAID控制器,必须切换到JBOD/Pass-through模式,并确认固件版本支持。

注意:部分RAID控制器在JBOD模式下仍会隐藏部分SMART信息,导致vSAN就绪检查报“无法获取磁盘健康状态”。此时应升级到厂商推荐的IT固件,或改用原生HBA。

三、vSAN/VSAN就绪存储方案

vSAN就绪节点(vSAN ReadyNode)要求:至少一块缓存盘(NVMe或SSD)+至少一块容量盘;缓存盘不参与容量统计;所有盘必须由HBA直通;每台主机至少一个磁盘组,最多5个。以Supermicro SYS-620C-TN12R为例,可配置2个磁盘组,每组1×1.92 TB NVMe缓存+4×3.84 TB NVMe容量,单节点原始容量约30.7 TB,扣除镜像与校验后可用约15 TB。

网络方面,vSAN要求至少10 GbE,推荐25 GbE。若使用RDMA(RoCEv2),需在BIOS与网卡固件中启用DCB/PFC,并在vSAN集群中开启RDMA支持。就绪检查可通过ESXi命令行执行:

esxcli vsan storage list
esxcli vsan cluster get
python /usr/lib/vmware/vsan/bin/vsan-health-check.py

若返回“Host is not vSAN ready”,优先检查磁盘是否为HBA直通、缓存盘是否被其他分区占用、以及网卡是否在同一子网。

四、配置示例与判断依据

假设一台Supermicro 2U节点用于vSAN ESA(Express Storage Architecture),配置如下:

层级型号/参数数量作用
缓存NVMe 1.92 TB,DWPD≥32写缓冲与读缓存
容量NVMe 3.84 TB,DWPD≤18持久化容量
控制器HBA 3808L,IT模式1直通所有NVMe
网络25 GbE双口,RoCEv21vSAN承载

判断就绪的四个条件:①所有盘在ESXi中显示为“SSD/NVMe”且无RAID卷;②缓存盘容量≥容量盘的10%;③至少10 GbE链路且无丢包;④集群中所有主机的vSAN版本一致。满足后,vSAN数据存储可正常挂载,虚拟机可启用“vSAN存储策略”并设置FTT=1或2。

Supermicro vSAN就绪存储信号链与判断路径 介质层 NVMe / SAS / SATA DWPD、TBW、IOPS 控制器层 RAID控制器 vs HBA IT/JBOD直通模式 网络层 10/25 GbE RoCEv2 / DCB vSAN ESA/OSA FTT策略 vSAN就绪判断路径 ① 磁盘是否HBA直通? esxcli vsan storage list 是 ② 缓存盘≥容量10%? 缓存:容量 = 1:10 是 ③ 网络≥10 GbE? 无丢包、同子网 否 切换IT固件或换HBA 检查SMART透传 否 增加缓存盘或调整比例 建议1:10以内 否 升级25 GbE或启用RoCEv2 检查PFC/DCB配置 ✓ vSAN数据存储可挂载

最后给出一个可直接使用的检查清单,用于上架前逐项确认:

  • BIOS中SATA/NVMe模式设为AHCI或NVMe原生,禁用Intel VROC软RAID。
  • RAID控制器固件为IT/JBOD模式,且已关闭“SafeStore”加密。
  • 每块盘在ESXi中可见,且“Is SSD”与“Is Local”均为true。
  • 缓存盘未创建VMFS分区,容量盘可被vSAN格式化。
  • vmknic绑定到vSAN流量,MTU 9000(若启用RDMA则需一致)。
  • 集群中所有主机的vSAN版本、磁盘组数量与网络配置一致。

按上述路径配置后,Supermicro节点即可作为vSAN就绪节点加入集群,后续通过存储策略实现FTT=1或2的冗余,并在故障域中按主机或机架划分。若后续扩容,只需增加磁盘组或主机,vSAN会自动重新平衡数据。