VIP20
本课程属于：021-GPU数据中心：AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU集群资源碎片化整合精讲

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · GPU集群资源碎片化问题概述
课程导入学习目标
02
GPU集群基础
GPU架构 · 集群组成 · 资源管理基本概念
GPU集群基础
03
资源碎片化定义
碎片化类型（显存碎片 · 计算碎片 · 网络碎片）
资源碎片化定义碎片化类型
04
碎片化影响
资源利用率下降 · 任务调度延迟 · 成本增加
碎片化影响资源利用率下降
05
资源监控与度量
监控指标（利用率 · 碎片率） · 工具（nvidia-smi
资源监控度量
06
碎片化检测方法
静态分析 · 动态检测 · 预测模型
碎片化检测方法静态分析
07
资源整合策略概览
整合目标 · 策略分类（调度优化 · 迁移
资源整合策略概览整合目标
08
调度优化
bin-packing算法 · 拓扑感知调度 · 优先级调度
调度优化bin-packing
09
资源迁移技术
GPU任务迁移 · 容器迁移 · 状态保存与恢复
资源迁移技术GPU
10
显存碎片整理
显存池化 · 内存复用 · 碎片整理算法
显存碎片整理显存池化
11
计算碎片整合
GPU共享 · 时间切片 · MIG技术
计算碎片整合GPU
12
网络资源整合
网络拓扑优化 · 流量调度 · RDMA优化
网络资源整合网络拓扑优化
13
容器化与编排
Kubernetes GPU调度 · 设备插件 · 资源配额
容器化编排
14
虚拟化与资源抽象
GPU虚拟化 · vGPU · 远程资源池
虚拟化资源抽象
15
深度学习工作负载分析
典型模型资源需求 · 碎片化模式
深度学习工作负载…典型模型资源需求
16
案例实战
使用Kubernetes和GPU共享…
案例实战Kubernetes
17
案例实战
基于迁移的碎片整理流程实现
案例实战基于迁移的碎片整…
18
案例实战
利用MIG提升GPU利用率
案例实战MIG
19
常见问题
调度冲突 · 迁移开销 · 兼容性问题
常见问题调度冲突
20
常见问题
监控数据不准确 · 策略选择困难
常见问题监控数据不准确
21
性能优化
整合后的性能调优 · 负载均衡
性能优化整合后的性能调优
22
成本效益分析
整合ROI · TCO降低
成本效益分析ROI
23
自动化运维
策略自动化 · 告警与自愈
自动化运维策略自动化
24
大规模集群实践
超大规模集群碎片管理经验
大规模集群实践超大规模集群碎片…
25
异构资源整合
CPU/GPU/DPU协同 · 混合精度
异构资源整合CPU/GPU/DPU
26
安全与隔离
多租户隔离 · 安全风险
安全隔离
27
前沿技术
AI驱动的调度 · 预测性整合
前沿技术AI
28
综合实战
设计并实现一个碎片整合系统
综合实战设计并实现一个碎…
29
课程总结
核心要点回顾 · 最佳实践
课程总结核心要点回顾
30
综合提升
拓展学习资源 · 未来趋势
综合提升拓展学习资源