4. 存储子系统选型与配置
在Supermicro企业虚拟化服务器平台上,存储子系统的选型直接决定虚拟机的IOPS上限、故障域边界以及vSAN能否通过就绪校验。本节从介质、控制器、直通模式与vSAN就绪四个层面展开,给出可落地的判断依据与配置示例。
一、介质层:NVMe、SAS、SATA的定位差异
NVMe SSD通过PCIe总线直连CPU,单盘顺序读可达6~7 GB/s、随机读可达百万级IOPS,延迟通常在100 μs以内,适合vSAN缓存层、数据库与高密度VDI。SAS SSD/HDD走12 Gb/s SAS链路,具备双端口与完整SCSI命令集,适合对双路径冗余有要求的共享存储或混合层。SATA盘成本最低,但为单端口、队列深度仅32,通常只用于容量层或备份盘。
选型时先看三个参数:DWPD(每日全盘写入次数)、TBW与稳态随机写IOPS。以vSAN缓存盘为例,建议选择DWPD≥3的NVMe或企业级SAS SSD;容量层可用DWPD≤1的高容量NVMe或SAS HDD。若单节点规划缓存:容量为1:10,例如2×1.92 TB NVMe缓存配8×3.84 TB NVMe容量,则缓存层可提供约1.4 PBW的写入寿命,足以覆盖5年生命周期。
二、控制器层:RAID控制器与HBA的本质区别
RAID控制器(如Supermicro AOC-S3908L-H8iR,基于Broadcom 3908)内置缓存、BBU/超级电容与RAID固件,向上呈现为逻辑卷。它适合传统VMFS数据存储:把多块盘做成RAID 5/6/10,再在其上创建VMFS。优点是管理简单、有写缓存加速;缺点是逻辑卷对vSAN不可见,且缓存掉电保护依赖BBU状态。
HBA(如AOC-S3008L-L8i或AOC-S3808L-L8i)工作在IT/JBOD模式,把每块物理盘直接透传给操作系统,不做RAID运算。vSAN、ZFS、Ceph等软件定义存储必须使用HBA直通,因为vSAN需要直接管理每块盘的元数据与故障域。若使用RAID控制器,必须切换到JBOD/Pass-through模式,并确认固件版本支持。
三、vSAN/VSAN就绪存储方案
vSAN就绪节点(vSAN ReadyNode)要求:至少一块缓存盘(NVMe或SSD)+至少一块容量盘;缓存盘不参与容量统计;所有盘必须由HBA直通;每台主机至少一个磁盘组,最多5个。以Supermicro SYS-620C-TN12R为例,可配置2个磁盘组,每组1×1.92 TB NVMe缓存+4×3.84 TB NVMe容量,单节点原始容量约30.7 TB,扣除镜像与校验后可用约15 TB。
网络方面,vSAN要求至少10 GbE,推荐25 GbE。若使用RDMA(RoCEv2),需在BIOS与网卡固件中启用DCB/PFC,并在vSAN集群中开启RDMA支持。就绪检查可通过ESXi命令行执行:
esxcli vsan storage list
esxcli vsan cluster get
python /usr/lib/vmware/vsan/bin/vsan-health-check.py
若返回“Host is not vSAN ready”,优先检查磁盘是否为HBA直通、缓存盘是否被其他分区占用、以及网卡是否在同一子网。
四、配置示例与判断依据
假设一台Supermicro 2U节点用于vSAN ESA(Express Storage Architecture),配置如下:
| 层级 | 型号/参数 | 数量 | 作用 |
|---|---|---|---|
| 缓存 | NVMe 1.92 TB,DWPD≥3 | 2 | 写缓冲与读缓存 |
| 容量 | NVMe 3.84 TB,DWPD≤1 | 8 | 持久化容量 |
| 控制器 | HBA 3808L,IT模式 | 1 | 直通所有NVMe |
| 网络 | 25 GbE双口,RoCEv2 | 1 | vSAN承载 |
判断就绪的四个条件:①所有盘在ESXi中显示为“SSD/NVMe”且无RAID卷;②缓存盘容量≥容量盘的10%;③至少10 GbE链路且无丢包;④集群中所有主机的vSAN版本一致。满足后,vSAN数据存储可正常挂载,虚拟机可启用“vSAN存储策略”并设置FTT=1或2。
最后给出一个可直接使用的检查清单,用于上架前逐项确认:
- BIOS中SATA/NVMe模式设为AHCI或NVMe原生,禁用Intel VROC软RAID。
- RAID控制器固件为IT/JBOD模式,且已关闭“SafeStore”加密。
- 每块盘在ESXi中可见,且“Is SSD”与“Is Local”均为true。
- 缓存盘未创建VMFS分区,容量盘可被vSAN格式化。
- vmknic绑定到vSAN流量,MTU 9000(若启用RDMA则需一致)。
- 集群中所有主机的vSAN版本、磁盘组数量与网络配置一致。
按上述路径配置后,Supermicro节点即可作为vSAN就绪节点加入集群,后续通过存储策略实现FTT=1或2的冗余,并在故障域中按主机或机架划分。若后续扩容,只需增加磁盘组或主机,vSAN会自动重新平衡数据。