VIP10

本课程属于：034-云原生AI算力与GPU平台工程 后端、数据与云原生工程 · 共 10 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

KubeRay分布式AI平台工程

共计 30 章节

可可资料掘金营 · 点击在线试看

KubeRay平台工程导论

目标=KubeRay的定位 · 核心价值 · 与Kubernetes及Ray的关系

KubeRay平台工程导论

Ray核心概念与KubeRay映射

目标=Ray集群 · Head节点 · Worker节点

KubeRay CRD体系解析

目标=RayCluster · RayJob · RayService等自定义资源的字…

Kubernetes基础回顾与KubeRay依赖

目标=Pod · Deployment · Service

KubernetesKubeRay

KubeRay Operator部署与验证

目标=使用Helm或Kustomiz… · 检查控制器状态 · 验证CRD注册与版本兼容性

KubeRayOperator

创建第一个RayCluster

目标=编写RayCluster YA… · 配置Head与Worker组 · 提交到Kubernetes并观察Po…

RayCluster创建第一个

RayCluster网络与Service暴露

目标=Head节点Service · Client端口 · Dashboard端口

RayClusterService

RayCluster自动扩缩容

目标=基于Ray Autoscale… · 空闲超时 · 最小最大副本数配置与扩缩容事件观测

RayCluster自动扩缩容

RayCluster资源管理与调度

目标=CPU · 内存 · GPU资源请求与限制

RayCluster资源管理

RayCluster存储与持久化

目标=EmptyDir · HostPath · PVC在Ray Head与Worke…

RayCluster存储

RayJob提交与生命周期管理

目标=使用RayJob CRD提交批… · 配置Entrypoint · RuntimeEnv

RayService部署在线推理服务

目标=RayService CRD结… · Serve配置 · 流量入口

RayService部署

Ray Serve与KubeRay集成

目标=部署模型服务 · 配置多副本 · 路由策略

KubeRay中的GPU调度与异构资源

目标=NVIDIA Device P… · GPU资源声明 · MIG

分布式训练任务在KubeRay上的编排

目标=使用Ray Train · Ray Tune与Ray Data提…

KubeRay分布式训练任务

KubeRay与Kubernetes生态集成

目标=Prometheus监控 · Grafana看板 · 日志采集

KubeRayKubernetes

KubeRay安全与多租户

目标=RBAC · ServiceAccount · NetworkPolicy

KubeRay高可用与容灾

目标=Head节点故障恢复 · Worker重建 · etcd备份

KubeRay高可用

KubeRay性能调优

目标=Ray Object Stor… · 并发度 · 批处理大小

KubeRay性能调优

KubeRay升级与版本管理

目标=Operator升级 · Ray版本升级 · CRD迁移

KubeRay故障排查实战

目标=Pod Pending · CrashLoopBackOff · Ray集群无法连接

KubeRay故障排查实战

KubeRay生产环境部署规划

目标=集群规模 · 节点池 · 网络插件

KubeRay生产环境部署规划

基于KubeRay的MLOps流水线

目标=与Argo Workflows · Kubeflow Pipelines · MLflow

KubeRay在LLM推理场景的工程实践

目标=大模型部署 · 量化 · 张量并行

KubeRay在推荐与搜索场景的工程实践

目标=特征工程 · 向量检索 · 在线推理与离线训练的Ray化改造

KubeRay成本治理

目标=资源配额 · 优先级调度 · Spot实例

KubeRay成本治理

KubeRay平台API与自动化

目标=使用Kubernetes Cl… · Python SDK · GitOps工具管理RayClust…

KubeRay可观测性体系构建

目标=Ray Dashboard · Prometheus指标 · 日志聚合

KubeRay可观测性体系构建

KubeRay平台工程综合实战

目标=从零搭建一个支持训练 · 调参 · 推理的分布式AI平台

KubeRay平台工程综合实战

KubeRay前沿与演进

目标=KubeRay社区路线 · Ray 2.x新特性 · 与Kubernetes Gatewa…