VIP20
本课程属于：072-模型风险管理异常波动复盘 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Spark模型监控异常排查实战指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导论与监控体系总览
Spark模型监控的重要性 · 常见异常类型 · 课程目标与学习路径
课程导论监控体系总览
02
Spark作业基础架构回顾
Driver · Executor · Cluster Manager角色
Spark作业基础架构回顾
03
监控基础设施搭建
Prometheus + Grafa…
监控基础设施搭建Prometheus
04
Spark UI深度解读
Jobs · Stages · Storage
SparkUI
05
日志收集与聚合
YARN日志 · Spark日志 · Container日志的收集策略与E…
日志收集聚合
06
模型训练作业资源监控
CPU · 内存 · 磁盘IO
模型训练作业资源…CPU
07
内存溢出(OOM)异常排查
堆内/堆外内存 · Spark内存模型 · OOM常见场景与解决方案
OOM内存溢出
08
数据倾斜异常排查
Key倾斜 · Join倾斜 · GroupBy倾斜的检测方法与调优策…
数据倾斜异常排查Key
09
Shuffle异常排查
Shuffle Write/Read… · Shuffle文件损坏 · FetchFailed异常处理
Shuffle异常排查
10
任务长尾与慢任务排查
数据本地性 · 资源竞争 · GC停顿
任务长尾慢任务排查
11
模型训练收敛异常监控
Loss曲线异常 · 梯度爆炸/消失 · 过拟合/欠拟合的监控指标
模型训练收敛异常…Loss
12
模型推理服务异常监控
推理延迟 · 吞吐量 · 模型版本一致性
模型推理服务异常…推理延迟
13
Spark Streaming模型监控
批处理时间 · 调度延迟 · 背压机制
SparkStreaming
14
MLflow与模型生命周期监控
实验追踪 · 模型注册 · 版本管理
MLflow模型生命周期监控
15
特征工程流水线监控
特征计算延迟 · 特征缺失率 · 特征分布漂移
特征工程流水线监…特征计算延迟
16
数据质量监控
空值率 · 异常值 · 重复数据
数据质量监控空值率
17
Spark作业失败重试机制
Task重试 · Stage重试 · Application重试策略与监控
Spark作业失败重试机制
18
资源队列与调度异常
YARN队列资源争抢 · Fair/ Capacity调度器问… · 资源碎片化
资源队列调度异常
19
Spark动态资源分配异常
Executor动态伸缩问题 · 闲置Executor回收 · 资源申请超时
Spark动态资源分配异常
20
网络与IO异常排查
数据本地性失败 · 网络抖动 · 磁盘IO瓶颈
IO网络
21
Spark配置参数调优监控
spark.sql.shuffle.… · spark.executor.mem…
Spark配置参数调优监控
22
GPU资源监控与异常
GPU利用率 · 显存占用 · CUDA错误
GPU资源监控
23
模型部署与A/B测试监控
流量分配 · 模型响应对比 · 业务指标回退检测
A/B模型部署
24
告警规则设计与告警收敛
阈值告警 · 趋势告警 · 智能告警
告警规则设计告警收敛
25
异常根因分析(RCA)方法论
时间线分析 · 依赖链分析 · 指标关联分析
RCA异常根因分析
26
Spark作业性能基准测试
TPC-DS基准 · 自定义基准 · 基线对比与回归检测
Spark作业性能基准测试
27
自动化异常检测与自愈
基于规则的自愈 · 基于ML的异常检测 · 自动扩缩容策略
自动化异常检测自愈
28
多租户环境下的监控隔离
租户资源隔离 · 监控数据隔离 · 告警路由与权限控制
多租户环境下的监…租户资源隔离
29
实战案例一
模型训练OOM导致作业失败的全链路排…
实战案例一OOM
30
实战案例二
推理服务延迟飙升导致SLA违约的根因…
实战案例二SLA