VIP20
本课程属于：012-GPU算力集群架构与运维 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

容器化GPU资源分配与隔离

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 核心概念 · 整体框架
课程导入学习目标
02
GPU基础
GPU架构 · CUDA/ROCm基础 · GPU虚拟化技术概述
GPU架构
03
容器基础
Docker与Kubernetes基… · 容器运行时 · 容器资源管理
容器基础Docker
04
GPU资源抽象
GPU设备插件 · 资源模型 · 显存与计算单元
GPU资源抽象
05
GPU调度策略
调度器原理 · GPU拓扑感知调度 · binpack与spread策略
GPU调度策略
06
GPU隔离技术
时间切片 · MIG · vGPU
GPU隔离技术
07
显存隔离
显存限制 · 显存共享 · 显存监控
显存隔离显存限制
08
计算隔离
算力限制 · 并发控制 · QoS保障
计算隔离算力限制
09
容器运行时GPU支持
NVIDIA Container T… · ROCm容器 · CDI
GPU容器运行时
10
Kubernetes GPU管理
设备插件机制 · GPU节点池 · 自动扩缩容
KubernetesGPU
11
GPU资源分配策略
静态分配 · 动态分配 · 超卖与回收
GPU资源分配策略
12
多租户隔离
命名空间 · RBAC · 资源配额
多租户隔离命名空间
13
GPU监控与可观测性
指标采集 · 日志 · 追踪
GPU监控
14
性能优化
GPU利用率提升 · 内存带宽优化 · 通信优化
性能优化GPU
15
故障排查
常见问题 · 诊断工具 · 案例分析
故障排查常见问题
16
安全加固
容器安全 · GPU隔离安全 · 权限控制
安全加固容器安全
17
案例实战
在Kubernetes中部署GPU工…
案例实战Kubernetes
18
案例实战
使用MIG进行GPU分区
案例实战MIG
19
案例实战
配置GPU时间切片
案例实战GPU
20
案例实战
实现GPU超卖与回收
案例实战GPU
21
案例实战
多租户GPU集群管理
案例实战GPU
22
案例实战
GPU监控与告警系统搭建
案例实战GPU
23
案例实战
性能调优实战
案例实战性能调优实战
24
常见问题
GPU资源分配不均 · 显存溢出 · 调度延迟
常见问题GPU
25
常见问题
隔离失效 · 性能下降 · 兼容性问题
常见问题隔离失效
26
综合提升
设计高可用GPU基础设施
综合提升GPU
27
综合提升
GPU资源成本优化
综合提升GPU
28
综合提升
混合云GPU资源管理
综合提升GPU
29
综合提升
AI训练与推理场景下的GPU资源管理
综合提升AI
30
课程总结
知识回顾 · 最佳实践 · 未来趋势
课程总结知识回顾