VIP20
本课程属于：018-AI DevOps实战：从代码到部署全自动化 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

云端AI集群GPU资源调度瓶颈诊断与优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 云端AI集群与GPU资源调度概述
课程导入学习目标
02
GPU资源调度基础
GPU工作原理 · 调度器角色 · 常见调度策略
GPU资源调度基础
03
云端AI集群架构
典型架构 · 组件（如Kubernetes · Slurm）
AI云端
04
瓶颈诊断方法论
性能分析工具 · 监控指标 · 诊断流程
瓶颈诊断方法论性能分析工具
05
GPU利用率分析
利用率指标 · 计算与内存瓶颈识别
GPU利用率分析
06
调度延迟分析
排队时间 · 调度周期 · 抢占与优先级
调度延迟分析排队时间
07
资源碎片化问题
碎片化成因 · 影响 · 检测方法
资源碎片化问题碎片化成因
08
多租户隔离与公平性
配额管理 · 公平调度算法 · 隔离机制
多租户隔离公平性
09
拓扑感知调度
NVLink/PCIe拓扑 · 通信瓶颈 · 亲和性调度
拓扑感知调度NVLink/PCIe
10
异构GPU管理
不同型号混合 · 算力差异 · 调度适配
GPU异构
11
弹性伸缩与动态调度
自动扩缩容 · 突发流量处理 · 资源预留
弹性伸缩动态调度
12
作业级优化
批处理作业 · 分布式训练 · 数据并行与模型并行
作业级优化批处理作业
13
案例实战
诊断一个真实集群的GPU利用率低问题
案例实战GPU
14
案例实战
优化调度策略降低作业排队时间
案例实战优化调度策略降低…
15
案例实战
解决资源碎片化导致的资源浪费
案例实战解决资源碎片化导…
16
常见问题与解决方案
GPU显存不足 · OOM · 驱动兼容性
常见问题解决方案
17
监控与告警
Prometheus · Grafana · 自定义指标
监控告警
18
日志分析与追踪
调度日志 · 作业日志 · 分布式追踪
日志分析追踪
19
性能基准测试
标准测试集 · 基准工具 · 结果解读
性能基准测试标准测试集
20
成本优化
资源定价 · Spot实例 · 抢占式调度
成本优化资源定价
21
安全与合规
多租户安全 · 数据隔离 · 审计
安全合规
22
前沿技术
GPU共享 · 时间切片 · MIG（多实例GPU）
前沿技术GPU
23
综合实战
设计一个优化方案并模拟实施
综合实战设计一个优化方案…
24
综合实战
从零搭建一个GPU调度监控系统
综合实战GPU
25
综合实战
对比不同调度策略的性能差异
综合实战对比不同调度策略…
26
综合提升
结合机器学习工作负载特征进行调度优化
综合提升结合机器学习工作…
27
综合提升
大规模集群调度挑战与解决方案
综合提升大规模集群调度挑…
28
综合提升
自动化瓶颈诊断与优化工具开发
综合提升自动化瓶颈诊断
29
课程总结
核心要点回顾 · 最佳实践 · 学习路径建议
课程总结核心要点回顾
30
结业项目
完成一个完整的GPU资源调度优化项目…
结业项目GPU