VIP20

本课程属于：021-GPU数据中心：AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

超大规模GPU数据中心硬件架构速览

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · GPU数据中心在AI时代的核心地位

课程导入学习目标

GPU架构演进 · GPU与CPU的区别 · GPU在并行计算中的优势

GPU架构演进

GPU服务器硬件

GPU板卡类型（如A100 · H100） · CPU

GPU服务器硬件

GPU服务器形态

风冷与液冷服务器 · 机架式与刀片式 · 典型配置示例

GPU服务器形态

网络架构基础

数据中心网络分层 · 以太网与InfiniBand · RDMA与RoCE

网络架构基础数据

GPU集群网络

Fat-Tree拓扑 · Spine-Leaf架构 · GPU集群中的东西向流量

GPU集群网络

NVSwitch与NVLink

NVSwitch的作用 · NVLink域 · 全互联（All-to-All）通信

分布式存储 · 并行文件系统（如Lustre） · NVMe over Fabric

存储系统分布式存储

液冷方案（冷板式 · 浸没式） · 液冷在GPU数据中心的应用与优势

液冷技术液冷方案

电源与散热

高功率密度机柜的供电 · UPS · 散热设计（风冷

GPU虚拟化与容器

GPU直通 · MIG（多实例GPU） · Kubernetes与GPU调度

集群管理软件

Slurm · Kubernetes · GPU监控与运维工具

集群管理软件Slurm

典型超大规模GPU集群案例

如NVIDIA DGX SuperP… · Google TPU Pod · 微软Azure等

GPU典型超大规模

性能基准与测试

GPU基准测试（如MLPerf） · 网络性能测试 · 存储性能测试

性能基准测试

故障排查与可靠性

GPU故障类型 · 冗余设计 · 高可用架构

故障排查可靠性

安全与合规

物理安全 · 网络安全 · 数据安全

硬件成本 · 运营成本 · TCO（总拥有成本）优化

成本分析硬件成本

绿色数据中心

节能技术 · 可再生能源 · 碳足迹管理

绿色数据节能技术

GPU数据中心设计流程

需求分析 · 架构设计 · 部署实施

GPU集群的扩展性

横向扩展与纵向扩展 · 集群规模设计

GPU集群的扩展性

多租户与资源隔离

多租户架构 · 资源配额 · QoS保障

多租户资源隔离

GPU数据中心运维

监控告警 · 日志管理 · 自动化运维

AI训练与推理对硬件的需求

训练集群与推理集群的差异 · 硬件选型

GPU数据中心与云服务

公有云GPU实例 · 混合云架构 · 边缘计算

下一代GPU（如H200 · B100） · 光互连

未来趋势GPU

搭建一个小型GPU集群（模拟或真实） · 包括硬件选型 · 网络配置

案例实战GPU

使用GPU集群运行分布式训练任务（如… · 并监控性能

案例实战GPU

常见问题与解决方案

网络拥塞 · GPU利用率低 · 存储瓶颈

常见问题解决方案

设计一个超大规模GPU数据中心的完整… · 包括架构图 · 硬件清单

综合提升GPU

核心要点回顾 · 学习路径建议 · 参考资料推荐

课程总结核心要点回顾