VIP20
本课程属于：021-GPU数据中心：AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU数据中心AI算力集群全景通识

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · AI算力集群的行业背景与价值
课程导入学习目标
02
GPU基础
GPU架构演进 · GPU与CPU的区别 · GPU在AI计算中的优势
GPU架构演进
03
AI算力需求分析
深度学习模型对算力的需求 · 算力单位（FLOPS · TOPS）及性能评估
AI算力需求分析
04
数据中心基础设施
机房布局 · 供电系统 · 冷却系统（风冷/液冷）
数据心基础设施
05
GPU服务器硬件
主流GPU型号（A100 · H100等） · 服务器组成（CPU
GPU服务器硬件
06
集群网络设计
InfiniBand与RoCE · 网络拓扑（Fat-Tree · Dragonfly）
集群网络设计InfiniBand
07
存储系统
分布式存储（Lustre · GPFS） · 对象存储
存储系统Lustre
08
集群管理软件
Slurm · Kubernetes · 容器化（Docker
集群管理软件Slurm
09
AI框架与分布式训练
TensorFlow · PyTorch的分布式模式 · 数据并行与模型并行
AI框架
10
集群调度与资源管理
GPU虚拟化 · MIG · 任务调度策略
集群调度资源管理
11
集群监控与运维
监控指标（GPU利用率 · 温度 · 功耗）
集群监控运维
12
性能优化基础
GPU利用率优化 · 数据加载瓶颈 · 混合精度训练
性能优化基础GPU
13
案例实战
搭建一个小型GPU集群（模拟环境） · 完成分布式训练任务
案例实战GPU
14
常见问题与故障排查
硬件故障 · 网络延迟 · 存储瓶颈
常见问题故障排查
15
集群安全与合规
数据安全 · 访问控制 · 多租户隔离
集群安全合规
16
成本与能耗管理
TCO分析 · 绿色数据中心 · 节能技术
成本能耗管理
17
前沿技术
液冷集群 · DPU · CXL
前沿技术液冷集群
18
综合项目
设计一个中型AI算力集群方案 · 包括硬件选型 · 网络设计
综合项目AI
19
课程总结与展望
回顾核心知识点 · 未来趋势 · 学习路径建议
课程总结回顾核心知识点
20
扩展阅读与资源
推荐书籍 · 论文 · 开源工具
扩展阅读资源
21
GPU集群基准测试
MLPerf · HPL · 性能测试方法
GPU集群基准测试
22
多租户与资源隔离
Kubernetes多租户 · GPU共享与隔离技术
多租户资源隔离
23
集群网络调优
RDMA · GPUDirect · 网络参数优化
集群网络调优RDMA
24
存储性能调优
I/O模式 · 缓存策略 · 数据预处理流水线
存储性能调优I/O
25
分布式训练进阶
混合并行 · 流水线并行 · ZeRO优化器
分布式训练进阶混合并行
26
集群容错与高可用
检查点 · 故障恢复 · 冗余设计
集群容错高可用
27
AI集群在云上的实践
云GPU实例 · 容器服务 · Serverless训练
AI集群
28
行业应用案例
互联网 · 科研 · 自动驾驶
行业应用案例互联网
29
集群规划与部署
需求分析 · 容量规划 · 部署流程
集群规划部署
30
综合提升
设计一个大规模集群（千卡级）的架构 · 并考虑扩展性 · 成本
综合提升设计一个大规模集…