所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。

← 返回上一级

← 返回所属目录咨询 / 购买

GPU Direct与RDMA加速技术全面解析

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程大纲 · GPU Direct与RDMA的定位…

课程导入学习目标

GPU计算基础

GPU架构 · CUDA编程模型 · GPU内存层次

GPU计算基础

RDMA技术基础

RDMA概念 · InfiniBand与RoCEv2 · RDMA操作类型（READ/WRIT…

RDMA技术基础

GPU Direct技术家族

GPU Direct P2P · GPU Direct RDMA · GPU Direct Storage

GPU Direct P2P详解

P2P通信原理 · PCIe拓扑与NVLink · P2P性能测试

GPU Direct RDMA核心机制

GPUDirect RDMA工作流程 · GPU内存注册与映射 · DMA引擎与GPU协同

RDMA网络架构与硬件

InfiniBand交换机与HCA · RoCEv2网络配置 · 网卡与GPU拓扑

RDMA网络架构

软件栈与驱动

NVIDIA驱动 · CUDA驱动 · MLNX_OFED驱动

软件栈驱动

环境搭建与验证

硬件选型 · 驱动安装 · nv_peer_mem配置

环境搭建验证

编程接口与库

CUDA Runtime与Drive… · RDMA Verbs API · UCX与MPI集成

编程接口CUDA

GPU Direct RDMA编程实战

编写第一个GPUDirect RDM… · 内存注册与通信流程 · 同步与异步操作

性能优化方法

带宽与延迟优化 · 流水线与重叠 · 多QP与多流

性能优化方法带宽

GPU Direct Storage

GPUDirect Storage原… · 文件系统与存储设备 · cuFile库

GPU Direct Async

异步操作与事件驱动 · CUDA Graphs与RDMA结合 · 减少同步开销

NCCL与GPU Direct

NCCL通信库 · Ring与Tree算法 · NCCL RDMA配置

MPI与GPU Direct

MPI+GPU编程模型 · OpenMPI与MVAPICH2 · MPI_Init与GPU内存

深度学习分布式训练案例

PyTorch与TensorFlow… · NCCL后端 · GPUDirect RDMA加速

深度学习分布式训…PyTorch

高性能计算案例

科学计算与仿真 · GPU集群通信 · 数据密集型应用

高性能计算案例科学计算

云环境与虚拟化

GPU直通与SR-IOV · 云上RDMA支持 · 容器与Kubernetes配置

云环境虚拟化

故障诊断与调试

常见错误码 · 性能瓶颈定位 · 使用perf与nvidia-smi

故障诊断调试

安全与可靠性

RDMA安全机制 · GPU内存保护 · 故障恢复

安全可靠性

性能基准测试

使用ib_write_bw · ib_read_lat · NCCL测试

性能基准测试ib

与其他加速技术对比

GPUDirect vs 传统DMA · RDMA vs TCP/IP · NVLink vs PCIe

其他加速技术对比GPUDirect

最新进展与趋势

NVLink Switch · Quantum-2 InfiniBa… · DPU与SmartNIC

最新进展趋势

综合实战项目

搭建一个多节点GPU集群 · 配置GPUDirect RDMA · 运行分布式训练

综合实战项目GPU

常见问题与解决方案

驱动不兼容 · 内存注册失败 · 性能不达标

常见问题解决方案

进阶优化技巧

使用CUDA Graphs · 减少内核启动开销 · 内存池与缓存

进阶优化技巧CUDA

生态工具与资源

NVIDIA DCGM · PerfKit · UCX

生态工具资源

课程总结与考核

核心知识点回顾 · 实战技能评估 · 常见面试题

课程总结考核

结课项目答辩

项目展示 · 性能分析报告 · 问题解答

结课项目答辩项目展示