VIP20
本课程属于：021-GPU数据中心：AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI算力集群基础概念速览

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · AI算力集群的定义与重要性
课程导入学习目标
02
AI算力集群的组成
计算节点 · 网络 · 存储
AI算力集群的组成
03
计算硬件基础
CPU · GPU · TPU
计算硬件基础CPU
04
GPU关键参数
CUDA核心数 · 显存容量 · 带宽
GPU关键参数
05
网络互联技术
InfiniBand · RoCE · 以太网在集群中的作用与区别
网络互联技术InfiniBand
06
存储系统
分布式文件系统 · 对象存储 · 并行文件系统（如Lustre）的基本…
存储系统分布式文件系统
07
集群管理软件
Slurm · Kubernetes · 容器技术（Docker）在AI集群中…
集群管理软件Slurm
08
集群架构模式
集中式 · 分布式 · 混合式架构的特点与选择
集群架构模式集中式
09
集群规模与扩展性
Scale-up与Scale-out… · 集群扩展的挑战
集群规模扩展性
10
作业调度与资源管理
调度策略 · 队列管理 · 资源分配的基本原理
作业调度资源管理
11
集群性能指标
吞吐量 · 延迟 · 利用率
集群性能指标吞吐量
12
集群性能测试
基准测试工具（如HPL · MLPerf）的使用与解读
集群性能测试HPL
13
集群监控与运维
监控系统（Prometheus · Grafana）与日志管理
集群监控运维
14
集群故障排查
常见硬件故障 · 网络故障 · 软件故障的诊断与处理
集群故障排查常见硬件故障
15
集群安全
身份认证 · 访问控制 · 数据加密
集群安全身份认证
16
集群成本管理
硬件成本 · 能耗成本 · 云服务成本优化
集群成本管理硬件成本
17
AI框架与集群的适配
TensorFlow · PyTorch等框架在集群上的分布式…
AI框架
18
分布式训练基础
数据并行 · 模型并行 · 混合并行的概念与实现
分布式训练基础数据并行
19
集群中的通信模式
All-Reduce · All-Gather等集合通信操作
集群通信模式
20
集群中的存储优化
数据加载 · 缓存 · 预取策略
集群存储优化
21
集群中的作业编排
工作流管理 · 依赖关系 · 容错机制
集群作业编排
22
集群的弹性伸缩
动态扩缩容 · 自动扩展策略
集群的弹性伸缩动态扩缩容
23
集群的能效管理
功耗控制 · 散热设计 · 绿色计算
集群的能效管理功耗控制
24
集群的虚拟化与容器化
虚拟机 · 容器 · 裸金属的对比
集群的虚拟化容器化
25
集群的云化部署
公有云 · 私有云 · 混合云中的集群管理
集群的云化部署公有云
26
案例实战
搭建一个小型AI集群（模拟或真实）的…
案例实战AI
27
案例实战
使用Slurm提交并管理一个分布式训…
案例实战Slurm
28
案例实战
监控集群性能并优化资源利用率
案例实战监控集群性能并优…
29
常见问题与解决方案
集群性能瓶颈 · 网络拥塞 · 存储延迟等
常见问题解决方案
30
综合提升
设计一个满足特定需求的AI算力集群方… · 并评估其性能与成本
综合提升AI