VIP20
本课程属于：021-GPU数据中心：AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU集群互联架构优化实践

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
GPU集群互联的背景 · 挑战与优化目标 · 学习路径概览
课程导入GPU
02
GPU集群基础
GPU计算原理 · 集群组成 · 典型应用场景
GPU集群基础
03
互联技术概览
PCIe · NVLink · InfiniBand
互联技术概览PCIe
04
网络拓扑设计
常见拓扑结构（如Fat-Tree · Dragonfly）及其优缺点
网络拓扑设计Fat-Tree
05
通信模式分析
集合通信（AllReduce · AllGather等）模式与性能特征
通信模式分析AllReduce
06
性能评估指标
带宽 · 时延 · 消息速率
性能评估指标带宽
07
网络拥塞控制
拥塞成因 · 控制算法（如DCTCP · DCQCN）及实践
网络拥塞控制拥塞成因
08
路由与流控
自适应路由 · 流控机制（如PFC）对性能的影响
路由流控
09
GPU直连通信
NVLink/NVSwitch架构 · 拓扑与优化
GPU直连通信
10
RDMA技术
RDMA原理 · RoCEv2与InfiniBand对…
RDMA技术
11
集合通信库优化
NCCL · RCCL等库的配置与调优
集合通信库优化NCCL
12
通信与计算重叠
流水线 · 多流 · 异步操作等优化技术
通信计算重叠
13
负载均衡策略
流量调度 · 哈希与动态路由
负载均衡策略流量调度
14
故障检测与容错
链路故障 · 重传机制 · 快速恢复
故障检测容错
15
性能监控与剖析
使用工具（如NVIDIA DCGM · Perf）定位瓶颈
性能监控剖析
16
案例实战
基于NCCL的AllReduce性能…
案例实战NCCL
17
案例实战
多机多卡分布式训练通信优化
案例实战多机多卡分布式训…
18
案例实战
大规模推理场景的通信瓶颈分析
案例实战大规模推理场景的…
19
常见问题
网络拥塞导致训练变慢的排查与解决
常见问题网络拥塞导致训练…
20
常见问题
通信延迟高 · 带宽利用率低的优化方法
常见问题通信延迟高
21
常见问题
拓扑感知调度与作业放置策略
常见问题拓扑感知调度
22
高级主题
集合通信算法（Ring · Tree · Rabbit）原理与选择
高级主题Ring
23
高级主题
GPU集群互联的能耗与成本优化
高级主题GPU
24
高级主题
异构集群（多厂商GPU）互联兼容性
高级主题GPU
25
综合实战
设计一个高性能GPU集群互联方案
综合实战GPU
26
综合实战
从零搭建并优化一个8节点GPU集群
综合实战GPU
27
综合实战
针对特定AI模型（如GPT）的通信优…
综合实战AI
28
前沿趋势
NVLink-C2C · CXL · 光互连等新技术
前沿趋势NVLink-C2C
29
综合提升
结合云原生与容器化部署的互联优化
综合提升结合云原生
30
课程总结
核心要点回顾 · 最佳实践与未来展望
课程总结核心要点回顾