VIP20
本课程属于：012-GPU算力集群架构与运维 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

大规模GPU集群部署核心概念速览

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 大规模GPU集群的应用场景与价值
课程导入学习目标
02
GPU计算基础
GPU架构 · CUDA核心 · 显存层次
GPU计算基础
03
集群硬件组成
GPU服务器 · 高速网络（InfiniBand/Ro… · 存储系统（NVMe/分布式存储）
集群硬件组成GPU
04
集群拓扑设计
胖树 · 叶脊 · 环状等拓扑结构
集群拓扑设计胖树
05
集群软件栈
操作系统 · 驱动 · CUDA工具包
集群软件栈操作系统
06
集群管理工具
Slurm · Kubernetes · HPC调度器
集群管理工具Slurm
07
资源调度与作业管理
作业提交 · 队列管理 · 资源分配策略
资源调度作业管理
08
GPU虚拟化与共享
MIG · vGPU · GPU直通
GPU虚拟化
09
集群网络通信
RDMA · GPUDirect · NCCL等通信库的作用
集群网络通信RDMA
10
分布式训练框架
TensorFlow · PyTorch · Horovod等
分布式训练框架TensorFlow
11
集群存储方案
并行文件系统（Lustre/GPFS… · 对象存储 · 缓存策略
集群存储方案Lustre/GPFS
12
集群监控与日志
GPU利用率 · 温度 · 功耗监控
集群监控日志
13
集群性能优化
通信优化 · 计算优化 · I/O优化
集群性能优化通信优化
14
集群故障处理
常见硬件故障 · 软件故障 · 容错机制
集群故障处理常见硬件故障
15
集群安全
访问控制 · 网络安全 · 数据加密
集群安全访问控制
16
集群成本管理
硬件成本 · 能耗成本 · 云上成本优化
集群成本管理硬件成本
17
集群部署实战
从零搭建一个小型GPU集群的步骤
集群部署实战GPU
18
集群配置管理
使用Ansible等工具自动化配置
集群配置管理Ansible
19
集群测试与验收
基准测试 · 压力测试 · 性能评估
集群测试验收
20
集群运维最佳实践
日常维护 · 升级 · 备份
集群运维最佳实践日常维护
21
大规模集群案例
分析一个真实的大规模GPU集群（如N…
大规模集群案例GPU
22
云上GPU集群
云服务商GPU实例 · 弹性集群 · Serverless训练
GPU云上
23
混合云与多云
跨云集群 · 数据同步 · 统一管理
混合云多云
24
集群扩展性
横向扩展 · 纵向扩展 · 扩展瓶颈
集群扩展性横向扩展
25
集群能效管理
功耗控制 · 冷却技术 · 绿色计算
集群能效管理功耗控制
26
集群自动化运维
自动扩缩容 · 自动故障恢复
集群自动化运维自动扩缩容
27
集群与AI平台集成
与MLOps · 模型仓库 · CI/CD集成
AI集群
28
集群常见问题与解决
网络延迟 · 显存不足 · 死锁等
集群常见问题解决
29
集群性能调优实战
通过实际案例调优训练性能
集群性能调优实战通过实际案例调优…
30
课程总结与进阶方向
回顾核心概念 · 展望未来趋势（如量子计算 · 光互连）
课程总结进阶方向