VIP10
本课程属于：034-云原生AI算力与GPU平台工程 后端、数据与云原生工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

云原生AI算力与GPU生产实践与可靠性治理

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入与全景认知
目标=云原生AI算力的定义 · GPU生产实践的核心挑战 · 可靠性治理的目标与课程整体学习路径
课程导入全景认知
02
GPU硬件与算力基础
目标=GPU架构 · 显存层次 · CUDA核心与Tensor Core
GPU硬件
03
云原生AI算力平台架构
目标=Kubernetes · 容器运行时 · 设备插件
AI云原生
04
GPU资源管理与调度
目标=nvidia-device-p… · MIG · 时间片
GPU资源管理
05
GPU虚拟化与多租户隔离
目标=vGPU · MIG · MPS
GPU虚拟化
06
AI训练任务生产实践
目标=分布式训练框架 · AllReduce通信 · 数据并行与模型并行
AI训练任务生产实践
07
AI推理服务生产实践
目标=Triton · TensorRT · vLLM
AI推理服务生产实践
08
GPU集群存储与数据供给
目标=高速缓存 · 并行文件系统 · 数据流水线
GPU集群存储
09
GPU节点可观测性建设
目标=DCGM · Prometheus · Grafana
GPU节点可观测性建设
10
GPU故障模式与诊断
目标=ECC错误 · XID错误 · 掉卡
GPU故障模式
11
GPU可靠性治理体系
目标=SLO/SLI设计 · 健康检查 · 主动巡检
GPU可靠性治理体系
12
GPU节点运维与生命周期管理
目标=驱动/CUDA版本管理 · 固件升级 · 节点池划分
GPU节点运维
13
AI任务容错与弹性训练
目标=弹性训练 · 断点续训 · 任务优先级
AI任务容错
14
GPU资源成本与效率治理
目标=利用率分析 · 碎片整理 · 超卖策略
GPU资源成本
15
多集群与异构GPU管理
目标=多集群调度 · GPU型号差异 · 算力池化
GPU多集群
16
GPU性能分析与调优
目标=Nsight · PyTorch Profiler · 算子优化
GPU性能分析
17
AI平台稳定性保障
目标=限流 · 熔断 · 降级
AI平台稳定性保障
18
GPU安全与合规治理
目标=镜像安全 · 供应链安全 · 租户隔离
GPU安全
19
故障演练与混沌工程
目标=GPU故障注入 · 节点宕机演练 · 网络异常模拟
故障演练混沌工程
20
GPU生产环境变更管理
目标=配置管理 · GitOps · 自动化发布
GPU生产环境变更管理
21
大规模训练平台可靠性实战
目标=千卡集群训练稳定性 · 通信故障处理 · 慢节点检测与任务SLA保障
大规模训练平台可…目标=千卡集群训…
22
在线推理服务可靠性实战
目标=高可用部署 · 多副本容灾 · 流量调度
线推理服务可靠性…目标=高可用部署
23
GPU资源池化与弹性伸缩实战
目标=HPA/VPA · KEDA · 队列驱动伸缩
GPU资源池化
24
GPU监控告警与根因分析实战
目标=告警规则设计 · 降噪 · 关联分析
GPU监控告警
25
GPU节点自动化运维实战
目标=Ansible/Operato… · 节点自愈 · 驱动自动修复
GPU节点自动化运维实…
26
AI算力平台容量规划与压测
目标=基准测试 · 压力测试 · 容量模型
AI算力平台容量规划
27
GPU可靠性数据治理
目标=日志 · 指标 · 事件
GPU可靠性数据治理
28
云原生AI算力平台SRE实践
目标=On-Call · 事故响应 · 复盘机制
AISRE
29
典型生产事故案例剖析
目标=训练中断 · 推理雪崩 · GPU批量掉卡
典型生产事故案例…目标=训练
30
课程总结与演进方向
目标=核心知识回顾 · 可靠性治理成熟度模型 · 新技术趋势与持续优化路线
课程总结演进方向