VIP20

本课程属于：001-GPU集群训练 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

GPU调度核心技巧实战课程

📚 共计 30 章节

GPU调度全景图

GPU架构演进史 · 调度器位置 · 工作流概览

CUDA编程模型核心

线程层次 · 内存层次 · Kernel启动流程

Warp调度机制

Warp概念 · 调度器 · 上下文切换

组成单元 · 寄存器 · 共享内存 · 调度单元

Occupancy优化

计算公式 · 影响因素 · 调优策略

性能占用率

Warp Divergence

分支发散 · 性能影响 · 优化技巧

Memory Coalescing

全局内存访问 · 合并条件 · 对齐步长

共享内存调度技巧

Bank Conflict · 避免方法 · 动态分配

共享内存Bank

Register Pressure

寄存器分配 · Spilling · 减少技巧

寄存器压力

Stream与异步调度

CUDA Stream · 调度顺序 · 多Stream并发

Dynamic Parallelism

GPU端Kernel Launch · 嵌套调度 · 限制

Persistent Threads

持久线程模式 · 实现 · 动态负载均衡

MPS (Multi-Process Service)

MPS架构 · 上下文共享 · 性能提升

多进程共享

MIG (Multi-Instance GPU)

分区原理 · 调度隔离 · A100/H100实践

GPU虚拟化调度

vGPU技术 · Passthrough vs vGPU · 资源分配

Kubernetes GPU调度

Device Plugin · 资源上报 · Pod调度策略

Slurm GPU调度

GRES配置 · 资源分配 · 排他性调度

GPU时间片调度

时间片轮转 · 抢占 · 优先级 · 公平性

时间片调度

GPU内存调度与管理

内存池化 · Unified Memory · 迁移策略

内存统一内存

GPU拓扑感知调度

NVLink/NVSwitch · NUMA亲和性 · PCIe优化

GPU功耗与频率调度

DVFS · 功耗墙 · 温度感知调度

GPU任务队列调度

硬件队列 · 软件队列 · 优先级排序

GPU中断与事件调度

中断处理 · 事件回调 · 轮询 vs 中断

多GPU协同调度

Peer-to-Peer · 任务划分 · 负载均衡

GPU调度性能分析工具

Nsight Systems · Nsight Compute · nvprof/ncu

GPU调度常见性能瓶颈

PCIe带宽 · CPU-GPU同步 · Kernel Launch延迟

GPU调度调优方法论

Profiling-Driven · 瓶颈定位 · 迭代优化

方法论调优

深度学习训练中的GPU调度

Data/Model/Pipeline Parallelism调度

推理场景中的GPU调度

批处理 · 动态批处理 · 延迟与吞吐量

推理批处理

GPU调度未来趋势

Chiplet · 存算一体 · AI驱动调度器