VIP20
本课程属于：019-英伟达IB：GPU集群网络搭建 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

多GPU集群RDMA传输原理与优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 多GPU集群与RDMA技术概述
课程导入学习目标
02
RDMA基础
RDMA概念 · 与传统网络的区别 · 主要技术（InfiniBand
RDMA概念
03
GPU集群架构
GPU服务器内部结构 · PCIe拓扑 · GPU直连与NVLink
GPU集群架构
04
RDMA硬件与软件栈
网卡（HCA/RNIC） · 驱动 · RDMA verbs API
RDMA硬件
05
RDMA通信原语
发送/接收 · RDMA读写 · 原子操作
RDMA通信原语
06
RDMA内存管理
注册内存区域 · 内存窗口 · 零拷贝原理
RDMA内存管理
07
GPU与RDMA集成
GPUDirect RDMA · GPU内存注册 · 避免数据拷贝
GPURDMA
08
多GPU通信模式
点对点 · 集合通信（Allreduce · Allgather等）
GPU通信模式
09
集合通信库
NCCL · OpenMPI · MVAPICH2等
集合通信库NCCL
10
RDMA拥塞控制
流控 · 拥塞控制算法（DCQCN等） · 性能影响
RDMA拥塞控制
11
RDMA网络拓扑
Fat-Tree · Dragonfly等 · 及对性能的影响
RDMA网络拓扑
12
性能调优基础
带宽 · 延迟 · 吞吐量测量
性能调优基础带宽
13
RDMA调优参数
队列深度 · 传输大小 · 突发大小
RDMA调优参数
14
GPU通信调优
NCCL调优 · 环境变量 · 拓扑感知
GPU通信调优
15
多GPU集群中的负载均衡
通信与计算重叠 · 流水线
GPU集群
16
故障排查
常见问题（丢包 · 超时 · 连接失败）
故障排查常见问题
17
监控与性能分析
使用perf · nvidia-smi · ibstat等工具
监控性能分析
18
案例实战
搭建小型多GPU集群并配置RDMA
案例实战GPU
19
案例实战
使用NCCL实现Allreduce并…
案例实战NCCL
20
案例实战
深度学习训练中的RDMA应用（如Py…
案例实战RDMA
21
常见问题与解决方案
GPU与RDMA交互问题 · 驱动兼容性
常见问题解决方案
22
安全与隔离
多租户环境下的RDMA隔离 · QoS
安全隔离
23
RDMA与存储
NVMe over Fabric · GPUDirect Storage
RDMA存储
24
高级主题
RDMA over Converge…
高级主题RDMA
25
高级主题
InfiniBand子网管理 · 路由
高级主题InfiniBand
26
高级主题
多路径与自适应路由
高级主题多路径
27
综合项目
设计并实现一个多GPU集群的RDMA…
综合项目GPU
28
综合项目
优化一个分布式训练任务的通信性能
综合项目优化一个分布式训…
29
前沿趋势
RDMA在AI大模型训练中的应用 · 云环境中的RDMA
前沿趋势RDMA
30
课程总结
核心要点回顾 · 学习路径建议 · 未来发展方向
课程总结核心要点回顾