所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

RDMA与GPU直接通信技术详解

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程大纲 · RDMA与GPU直接通信的行业背景与…
课程导入学习目标
02
RDMA基础概念
RDMA定义 · 与传统网络通信的差异 · InfiniBand/RoCE/iW…
RDMA基础概念
03
GPU通信瓶颈
传统CPU中转路径 · PCIe拓扑 · GPU间通信的延迟与带宽痛点
GPU通信瓶颈
04
GPU Direct技术概述
GPUDirect RDMA · GPUDirect Storage · GPUDirect Async的定位…
GPUDirect
05
RDMA核心机制
内核旁路 · 零拷贝 · 消息语义
RDMA核心机制
06
RDMA编程模型
Verbs API · ibv_post_send/ibv_… · 内存注册与MR
RDMA编程模型
07
GPU内存管理
CUDA内存模型 · 固定内存（pinned memory… · GPU内存注册与映射
GPU内存管理
08
GPUDirect RDMA工作原理
GPU显存与RDMA网卡直接数据通路 · 绕过CPU与主机内存的流程
GPUDirectRDMA
09
硬件环境搭建
支持GPUDirect的GPU · 网卡 · 交换机选型
硬件环境搭建GPUDirect
10
软件环境配置
NVIDIA驱动 · CUDA Toolkit · Mellanox OFED/MLNX…
软件环境配置NVIDIA
11
GPUDirect RDMA编程实战
使用CUDA和Verbs实现GPU显…
GPUDirectRDMA
12
性能优化方法
调整QP数量 · 消息大小 · 突发传输
性能优化方法QP
13
GPUDirect Storage
GPU与存储设备直接数据交换 · 文件系统支持 · 与RDMA的协同
GPUDirectStorage
14
GPUDirect Async
GPU与网卡异步操作 · 事件驱动 · 减少CPU干预的机制
GPUDirectAsync
15
多GPU与多节点通信
集合通信（AllReduce等）在G…
GPU多节点通信
16
常见问题排查
nv_peer_mem加载失败 · GPU内存注册错误 · 性能未达预期等故障诊断
常见问题排查nv
17
性能测试与基准
使用perftest · nccl-tests · 带宽延迟测试工具评估GPUDirec…
性能测试基准
18
案例实战
基于GPUDirect RDMA的分…
案例实战GPUDirect
19
案例实战
基于GPUDirect RDMA的高…
案例实战GPUDirect
20
安全与隔离
RDMA网络的安全机制 · GPU内存保护 · 多租户环境下的资源隔离
安全隔离
21
与CUDA Aware MPI集成
OpenMPI/MPICH中启用CU…
CUDAAware
22
与NCCL集成
NCCL如何利用GPUDirect… · 以及环境变量调优
NCCL集成
23
高级主题
GPUDirect RDMA与可编程… · 在云环境中的虚拟化支持（SR-IOV…
高级主题GPUDirect
24
故障恢复与可靠性
RDMA连接管理 · GPU热插拔 · 网络故障对通信的影响及应对
故障恢复可靠性
25
性能瓶颈分析
PCIe带宽限制 · NUMA跨节点访问 · 网卡缓存
性能瓶颈分析PCIe
26
与其他技术对比
GPUDirect RDMA vs… · 适用场景分析
其他技术对比GPUDirect
27
未来趋势
RDMA与GPU直通在AI大模型 · 超大规模集群中的演进方向
未来趋势RDMA
28
综合实战项目
设计并实现一个基于GPUDirect…
综合实战项目GPUDirect
29
课程总结
核心知识点回顾 · 常见误区 · 学习路径建议与资源推荐
课程总结核心知识点回顾
30
综合考核
设计一个端到端场景 · 要求学员独立完成环境搭建 · 代码编写
综合考核设计一个端到端场…