VIP20

本课程属于：076-Kubernetes平台容量调优 云原生架构与平台工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

K8s集群容量调优：GPU资源管理与调度

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

GPU资源概述

GPU在K8s中的价值 · GPU与CPU的差异 · GPU资源管理的挑战

GPU资源概述

K8s GPU基础架构

Device Plugin机制 · NVIDIA GPU Operato… · GPU节点标签与污点

NVIDIA驱动与容器运行时

驱动安装要求 · nvidia-docker2与con… · CUDA基础镜像选择

GPU节点部署与验证

节点打标 · 部署NVIDIA Device Pl… · 验证GPU可调度性

GPU节点部署

GPU资源声明与限制

resources.limits与r… · nvidia.com/gpu资源类型 · 整数与MIG资源声明

GPU资源声明

GPU共享与时间切片

时间切片原理 · MIG（多实例GPU）技术 · vGPU与虚拟化方案对比

MIG配置与管理

MIG模式启用 · MIG分区策略 · MIG资源在K8s中的暴露

GPU Operator深度解析

Operator架构 · 自动驱动管理 · 节点Feature Discover…

GPU监控与可观测性

DCGM与DCGM-Exporter · Prometheus指标采集 · Grafana仪表盘构建

GPU节点资源规划

节点GPU型号选择 · 显存与算力评估 · 集群GPU总量计算

GPU节点资源规划

Pod调度策略

nodeSelector与nodeA… · Pod优先级与抢占 · GPU Pod的QoS保障

Pod调度策略

GPU拓扑感知调度

NVIDIA Topology Ma… · NUMA亲和性 · 带宽敏感型负载调度

GPU拓扑感知调度

Binpack与Spread调度策略

GPU节点Binpack策略 · Spread拓扑分布 · 自定义调度器插件

GPU资源碎片整理

碎片产生原因 · 碎片整理策略 · 重调度与Pod驱逐

GPU资源碎片整理

GPU资源超卖

超卖原理与风险 · 基于Request的超卖 · 基于实际利用率的动态超卖

GPU资源超卖

GPU资源配额管理

ResourceQuota配置 · LimitRange设置 · 多租户GPU资源隔离

GPU资源配额管理

GPU节点自动扩缩容

Cluster Autoscaler… · 节点池配置 · 弹性伸缩策略

GPU节点自动扩缩容

GPU工作负载类型

训练任务 · 推理服务 · 视频转码

GPU工作负载类型

训练任务资源优化

分布式训练通信模式 · 梯度累积与显存优化 · 混合精度训练配置

训练任务资源优化分布式训练通信模…

推理服务资源优化

动态批处理 · 模型量化 · Triton Inference S…

推理服务资源优化动态批处理

GPU节点故障处理

XID错误检测 · GPU健康检查 · 故障Pod自动迁移

GPU节点故障处理

GPU节点维护与升级

节点排水 · 驱动热升级 · MIG配置热更新

GPU节点维护

GPU成本分析

按需与预留实例成本 · GPU利用率成本模型 · Spot实例使用策略

GPU成本分析

GPU资源审计与计费

多团队成本分摊 · GPU使用时长统计 · 资源利用率报表

GPU资源审计

GPU安全与隔离

容器级GPU隔离 · MIG硬件隔离 · Pod安全策略

GPU网络优化

RDMA与GPUDirect · NCCL通信优化 · 网络拓扑感知调度

GPU网络优化

GPU存储优化

本地NVMe缓存 · 分布式文件系统选择 · 数据加载流水线

GPU存储优化

GPU集群容量规划

容量模型建立 · 历史趋势分析 · 容量预测与预警

GPU集群容量规划

GPU资源调度案例分析

典型企业GPU集群问题 · 优化前后对比 · 最佳实践总结

GPU资源调度案例分析

GPU资源管理未来趋势

可组合式GPU · CXL与内存池化 · K8s对GPU的原生支持演进

GPU资源管理未来趋势