VIP20
本课程属于：090-集群故障排查调度亲和校准 云原生架构与平台工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

performance tuning中GPU亲和性调度优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
GPU亲和性概述
定义GPU亲和性 · 为什么需要亲和性调度 · 性能瓶颈分析
GPU性概述
02
GPU架构基础
SM/CU单元 · 内存层次结构 · PCIe拓扑与NUMA节点
GPU架构基础
03
CPU-GPU数据路径
PCIe带宽与延迟 · 统一内存访问 · P2P通信
CPU-GPU数据路径
04
NUMA架构与GPU
NUMA节点概念 · CPU与GPU的物理拓扑 · 跨NUMA访问代价
NUMAGPU
05
GPU亲和性检测工具
nvidia-smi拓扑查询 · rocminfo · hwloc/lstopo
GPU性检测工具
06
hwloc库详解
API使用 · 拓扑树遍历 · 位图操作
hwloc库详解
07
CUDA运行时API
cudaSetDevice · cudaGetDevice · 设备枚举与选择
CUDAAPI
08
CUDA驱动API
cuDeviceGet · cuCtxCreate · 上下文管理与亲和性
CUDAAPI
09
OpenCL设备选择
clGetDeviceIDs · clCreateContext · 子设备划分
OpenCL设备选择
10
HIP运行时API
hipSetDevice · hipGetDevice · AMD GPU亲和性
HIPAPI
11
进程级GPU绑定
CUDA_VISIBLE_DEVIC… · HIP_VISIBLE_DEVICE…
GPU进程级
12
线程级GPU绑定
pthread_setaffinit… · cudaSetDevice结合使用
GPU线程级
13
MPI+GPU亲和性
MPI进程与GPU映射 · MPI_Comm_split_typ… · rank-to-device映射
MPI+GPUMPI
14
OpenMP+GPU亲和性
OMP_PLACES · OMP_PROC_BIND · target offload设备选择
OpenMP+GPUOMP
15
GPU亲和性调度策略
First-touch策略 · Round-robin策略 · 拓扑感知策略
GPU性调度策略
16
拓扑感知调度
基于距离矩阵的分配 · 最小化跨NUMA访问 · 负载均衡
拓扑感知调度基于距离矩阵的分…
17
GPU内存亲和性
cudaMalloc与NUMA节点 · pinned memory分配 · page migration
GPU内存亲
18
MIG与亲和性
MIG实例划分 · 实例绑定 · 多实例调度优化
MIG实例划分
19
GPU虚拟化亲和性
vGPU · GPU直通 · SR-IOV下的亲和性挑战
GPU虚拟化亲
20
容器化GPU亲和性
nvidia-container-t… · Kubernetes device… · NRI
GPU容器化
21
Slurm作业调度
--gpus · --gres · --gpu-bind
Slurm作业调度
22
PBS/Grid Engine
资源选择 · gpu独占 · 亲和性脚本
PBS/GridEngine
23
Kubernetes GPU调度
device plugin · node affinity · pod spec配置
KubernetesGPU
24
性能分析工具
Nsight Systems · Nsight Compute · rocProf
性能分析工具Nsight
25
亲和性性能指标
GPU利用率 · PCIe带宽利用率 · 内核启动延迟
性性能指标GPU
26
常见性能陷阱
隐式数据迁移 · 跨NUMA分配 · 设备上下文切换
常见性能陷阱隐式数据迁移
27
多GPU通信优化
NCCL拓扑感知 · Ring/Tree算法 · P2P带宽测试
GPU通信优化
28
混合精度与亲和性
FP16/INT8计算 · Tensor Core亲和性 · 显存带宽匹配
混合精度FP16/INT8
29
实际案例一
深度学习训练中的GPU亲和性调优（R…
实际案例一GPU
30
实际案例二
科学计算（LAMMPS/GROMAC…
实际案例二LAMMPS/GROMA…