首页
›
AI与大模型
›
014-GPU Direct与RDMA加速技术详解
›
《多GPU集群RDMA通信拓扑设计》
VIP20
本课程属于:014-GPU Direct与RDMA加速技术详解
AI与大模型 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
多GPU集群RDMA通信拓扑设计
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 多GPU集群与RDMA技术概述
课程导入
学习目标
02
RDMA基础
RDMA概念 · InfiniBand与RoCE对比 · 核心操作(send/receive/…
RDMA
概念
03
GPU通信需求
深度学习训练中的通信模式(AllRe… · AllGather等) · 通信瓶颈分析
GPU
通信需求
04
集群拓扑基础
常见网络拓扑(Fat-Tree · Torus · Dragonfly)及其特点
集群拓扑基础
Fat-Tree
05
GPU服务器内部拓扑
PCIe拓扑 · NVLink与NVSwitch · GPU间通信路径
GPU
服务器内部拓扑
06
跨节点通信架构
GPU到网卡的连接方式(PCIe s… · SmartNIC) · RDMA over PCIe
跨节点通信架构
GPU
07
网络拓扑设计原则
带宽 · 延迟 · 成本
网络拓扑设计原则
带宽
08
Fat-Tree拓扑详解
结构 · 路由 · 负载均衡
Fat-Tree
拓扑详解
09
Torus拓扑详解
多维环结构 · 路由算法 · 优缺点
Torus
拓扑详解
10
Dragonfly拓扑详解
层次化设计 · 组间连接 · 路由策略
Dragonfly
拓扑详解
11
拓扑选择方法论
根据集群规模 · 应用类型选择合适拓扑
拓扑选择方法论
根据集群规模
12
RDMA网络配置
子网管理器(Subnet Manag… · 路由配置 · QoS设置
RDMA
网络配置
13
拥塞控制机制
ECN · PFC · DCQCN等
拥塞控制机制
ECN
14
流控与死锁避免
链路级流控 · 虚拟通道 · 死锁避免策略
流控
死锁避免
15
性能评估指标
带宽 · 延迟 · 消息速率
性能评估指标
带宽
16
基准测试工具
perftest · Intel MPI Benchmar… · NCCL Tests
基准测试工具
perftest
17
案例分析
NVIDIA DGX系列 · Google TPU集群 · 微软Azure集群拓扑
案例分析
NVIDIA
18
大规模集群设计案例
万卡级集群的拓扑设计挑战与解决方案
大规模集群设计案…
万卡级集群的拓扑…
19
拓扑感知的通信优化
NCCL拓扑感知 · 路由优化 · 通信调度
拓扑感知的通信优…
NCCL
20
故障诊断与容错
链路故障检测 · 重路由 · 冗余设计
故障诊断
容错
21
安全与隔离
多租户环境下的网络隔离 · 安全策略
安全
隔离
22
新兴技术
CXL · NVMe over Fabric · 计算网络融合
新兴技术
CXL
23
模拟与仿真
网络模拟器(NS-3 · OMNeT++)在拓扑设计中的应用
模拟
仿真
24
实践项目
搭建小型RDMA集群并测试性能
实践项目
RDMA
25
实践项目
使用NCCL进行多节点训练并分析通信…
实践项目
NCCL
26
实践项目
模拟不同拓扑下的通信性能对比
实践项目
模拟不同拓扑下的…
27
常见问题与解决方案
配置错误 · 性能不达标 · 兼容性问题
常见问题
解决方案
28
综合案例
设计一个满足特定需求的GPU集群拓扑
综合案例
GPU
29
前沿趋势
AI集群网络架构演进 · 超大规模训练的网络挑战
前沿趋势
AI
30
课程总结
核心要点回顾 · 学习路径建议 · 未来发展方向
课程总结
核心要点回顾
所属VIP或分类
同VIP:GPU-Direct-P2P传输延迟优化
同VIP:GPU-Direct-RDMA生产环境部署实践
同VIP:GPU-Direct-RDMA硬件协同速览