VIP20
本课程属于：008-GPU数据中心AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU数据中心AI算力集群环境搭建入门

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · GPU数据中心与AI算力集群的基本概…
课程导入学习目标
02
GPU基础
GPU架构 · CUDA核心 · 显存
GPU架构
03
AI算力集群概述
集群组成 · 节点类型 · 网络拓扑
AI算力集群概述
04
硬件选型
GPU型号对比（如A100 · H100） · CPU
硬件选型GPU
05
网络基础
InfiniBand · RoCE · 以太网在集群中的应用
网络基础InfiniBand
06
存储系统
分布式存储（如Lustre · GPFS） · NVMe
存储系统Lustre
07
操作系统与驱动
Linux系统选择 · NVIDIA驱动安装 · CUDA Toolkit安装
操作系统驱动
08
容器化基础
Docker · NVIDIA Container T… · 容器镜像管理
容器化基础Docker
09
集群管理工具
Slurm · Kubernetes · NVIDIA DGX OS等介绍
集群管理工具Slurm
10
环境配置
Python环境 · 深度学习框架（PyTorch · TensorFlow）安装
环境配置Python
11
集群初始化
BIOS设置 · 固件更新 · 系统配置
集群初始化BIOS
12
GPU虚拟化与共享
MIG · vGPU · GPU池化技术
GPU虚拟化
13
作业调度
Slurm配置 · 作业提交 · 资源分配
作业调度Slurm
14
监控与日志
GPU监控（nvidia-smi） · 集群监控（Prometheus · Grafana）
监控日志
15
性能优化
GPU利用率优化 · 数据加载优化 · 通信优化（NCCL）
性能优化GPU
16
常见问题
驱动冲突 · CUDA版本不匹配 · 网络故障
常见问题驱动冲突
17
安全与权限
用户管理 · 网络安全 · 数据安全
安全权限
18
案例实战
搭建一个8节点GPU集群 · 完成深度学习训练任务
案例实战GPU
19
多节点训练
分布式训练框架（Horovod · DeepSpeed） · 数据并行
多节点训练Horovod
20
集群扩展
如何从单机扩展到多机 · 集群扩容与升级
集群扩展如何从单机扩展到…
21
成本与能效
功耗管理 · 散热方案 · 成本估算与优化
成本能效
22
云与本地对比
云GPU实例与本地集群的优劣 · 混合云架构
本地对比GPU
23
自动化部署
使用Ansible · Terraform等工具自动化配置集…
自动化部署Ansible
24
故障排查
常见故障诊断方法 · 日志分析 · 硬件检测
故障排查常见故障诊断方法
25
性能基准测试
使用MLPerf · HPL等工具评估集群性能
性能基准测试MLPerf
26
最佳实践
生产环境集群搭建的注意事项 · 经验总结
最佳实践生产环境集群搭建…
27
综合项目
设计并实现一个面向AI训练的生产级集…
综合项目AI
28
前沿技术
DPU · CXL · 液冷等新技术在集群中的应用
前沿技术DPU
29
课程总结
回顾核心知识点 · 展望未来趋势
课程总结回顾核心知识点
30
结业测试
综合考核学员对集群搭建全流程的掌握程…
结业测试综合考核学员对集…