VIP20
本课程属于：012-GPU算力集群架构与运维 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU数据中心AI算力集群全景概览

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · AI算力集群的行业背景与价值
课程导入学习目标
02
GPU基础与架构
GPU工作原理 · CUDA核心 · 显存层次结构
GPU架构
03
AI算力需求分析
深度学习训练/推理的算力需求 · 模型规模与算力关系
AI算力需求分析
04
数据中心基础设施
供电 · 散热 · 机房布局
数据心基础设施
05
GPU服务器硬件组成
GPU型号选择 · CPU · 内存
GPU服务器硬件组成
06
GPU互联技术
NVLink · NVSwitch · InfiniBand
GPU互联技术
07
集群网络架构
计算网络 · 存储网络 · 管理网络的设计与隔离
集群网络架构计算网络
08
存储系统设计
并行文件系统 · 对象存储 · 缓存策略
存储系统设计并行文件系统
09
集群管理软件
Slurm · Kubernetes等资源调度系统的…
集群管理软件Slurm
10
容器化与虚拟化
Docker · Singularity在AI集群中的…
容器化虚拟化
11
AI框架分布式训练
TensorFlow · PyTorch的分布式策略（数据并行 · 模型并行）
AI框架分布式训练
12
集群监控与运维
GPU利用率 · 温度 · 功耗监控
集群监控运维
13
集群性能优化
通信优化 · 计算优化 · 存储优化
集群性能优化通信优化
14
集群故障处理
常见硬件故障 · 网络故障 · 软件故障的诊断与恢复
集群故障处理常见硬件故障
15
集群安全与多租户
用户隔离 · 权限管理 · 数据安全与合规
集群安全多租户
16
集群成本分析
硬件成本 · 电力成本 · 维护成本
集群成本分析硬件成本
17
案例实战
搭建一个小型GPU集群（模拟或真实） · 完成环境部署
案例实战GPU
18
案例实战
在集群上运行分布式训练任务 · 监控性能并调优
案例实战集群上运行分布式…
19
案例实战
处理大规模数据集 · 优化数据加载与预处理流程
案例实战处理大规模数据集
20
案例实战
多用户场景下的资源分配与调度策略实施
案例实战多用户场景下的资…
21
常见问题与解决
GPU利用率低 · 通信瓶颈 · 存储瓶颈等典型问题
常见问题解决
22
常见问题与解决
集群扩展性 · 异构GPU兼容性 · 驱动与库版本管理
常见问题解决
23
常见问题与解决
断电 · 散热 · 网络抖动等物理层故障应对
常见问题解决
24
综合提升
设计一个满足特定业务需求的AI算力集…
综合提升AI
25
综合提升
集群性能基准测试与评估方法（MLPe…
综合提升MLPe
26
综合提升
绿色数据中心与液冷技术趋势
综合提升绿色数据
27
综合提升
云上GPU集群与本地集群的对比与混合…
综合提升GPU
28
综合提升
AI集群的自动化运维与DevOps实…
综合提升AI
29
综合提升
未来展望：下一代GPU · 光互连 · 量子计算对集群的影响
综合提升GPU
30
课程总结
核心知识回顾 · 学习路径建议 · 实践项目指导
课程总结核心知识回顾