VIP20
本课程属于：014-GPU Direct与RDMA加速技术详解 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU显存与RDMA缓冲协同调优

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · GPU与RDMA协同背景
课程导入学习目标
02
GPU显存架构
显存层次 · 带宽特性 · 访问延迟
GPU显存架构
03
RDMA技术基础
RDMA原理 · verbs API · 操作类型
RDMA技术基础
04
GPU与RDMA交互模式
GPUDirect RDMA · GPU Staging · 零拷贝
GPURDMA
05
显存与缓冲协同问题
数据拷贝瓶颈 · 同步开销 · 内存注册
显存缓冲协同问题
06
性能分析工具
nvidia-smi · nvprof · perf
性能分析工具nvidia-smi
07
显存分配策略
池化 · 复用 · 内存对齐
显存分配策略池化
08
RDMA缓冲设计
注册 · 映射 · 轮转缓冲
RDMA缓冲设计
09
协同调优核心指标
带宽 · 延迟 · CPU占用率
协同调优核心指标带宽
10
环境配置与验证
驱动 · 固件 · 库版本检查
环境配置验证
11
基础实验
简单GPU到RDMA数据传输
基础实验GPU
12
内存注册优化
减少注册开销 · 批量注册
内存注册优化减少注册开销
13
数据路径优化
避免拷贝 · 使用GPUDirect
数据路径优化避免拷贝
14
流水线设计
重叠计算与传输
流水线设计重叠计算
15
多GPU与多网卡协同
负载均衡 · 拓扑感知
GPU多网卡协同
16
故障排查
常见错误 · 调试方法
故障排查常见错误
17
性能调优方法论
瓶颈分析 · 迭代优化
性能调优方法论瓶颈分析
18
案例实战
深度学习训练中的数据加载优化
案例实战深度学习训练
19
案例实战
科学计算中的大规模数据传输
案例实战科学计算
20
案例实战
分布式机器学习梯度同步
案例实战分布式机器学习梯…
21
高级主题
GPU显存与RDMA缓冲的动态调整
高级主题GPU
22
高级主题
使用CUDA流与RDMA事件同步
高级主题CUDA
23
高级主题
多租户环境下的资源隔离
高级主题多租户环境下的资…
24
常见问题与解决方案
内存泄漏 · 死锁 · 性能下降
常见问题解决方案
25
性能基准测试
设计测试 · 分析结果
性能基准测试设计测试
26
调优工具脚本
自动化监控与调参
调优工具脚本自动化监控
27
综合项目
端到端协同调优实战
综合项目端到端协同调优实…
28
前沿技术
NVLink与RDMA融合 · CXL
前沿技术NVLink
29
课程总结
核心要点回顾 · 学习路径建议
课程总结核心要点回顾
30
综合提升
设计一个高性能GPU集群通信方案
综合提升GPU