VIP20

本课程属于：046-机器学习数据流水线 数据工程与实时数据平台 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

Airflow机器学习数据管道监控与告警

📚 共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

监控体系总览

为什么需要监控、黄金指标（USE、RED、Four Golden Signals），以及监控与可观测性的核心差异。

黄金指标可观测性

核心指标采集

延迟、吞吐量、错误率、数据质量（空值率、异常值）及资源利用率（CPU、内存、IO）的采集方法。

数据质量资源监控

日志管理基础

结构化 vs 非结构化日志、日志级别（DEBUG~ERROR）、轮转与归档策略，构建可靠日志体系。

结构化日志日志轮转

指标存储选型

Prometheus（拉模式）、InfluxDB（推模式）、Elasticsearch 对比，时序数据库选型深度分析。

时序数据库选型对比

Prometheus 实战

安装配置、Exporter 机制（Node Exporter、JMX Exporter）、PromQL 基础查询与聚合操作。

Grafana 可视化

数据源配置、仪表盘设计、变量与模板、告警规则及折线图、热力图、甘特图等图表选择。

仪表盘告警规则

告警规则设计

阈值告警、趋势预测、多条件组合、告警抑制与聚合，以及告警风暴的预防策略。

趋势告警告警抑制

告警通知渠道

邮件、Slack/钉钉/飞书 Webhook、PagerDuty、短信/电话及告警升级策略配置。

Webhook升级策略

告警管理平台

Alertmanager 配置、路由与分组、静默与抑制、告警生命周期管理最佳实践。

Alertmanager生命周期

数据质量监控

Great Expectations 框架、完整性检查、Schema 校验、分布偏移检测，保障数据可信。

Great ExpectationsSchema校验

流水线健康检查

心跳检测、Liveness/Readiness Probe、端到端合成监控，确保流水线持续可用。

探活机制合成监控

异常检测算法

静态阈值、移动平均、3-Sigma、IQR 箱线图、季节性分解（STL）等经典算法详解。

3-SigmaSTL分解

机器学习辅助告警

基于 Prophet、LSTM 的时间序列异常检测，孤立森林无监督聚类与告警降噪。

Prophet孤立森林

分布式追踪

OpenTelemetry 标准、Trace/Span 概念、头采样与尾采样，以及 Jaeger 和 Zipkin 实践。

OpenTelemetry采样策略

SLO/SLI/SLA 体系

定义服务等级目标、SLI 指标选择、错误预算机制与燃烧率告警，驱动可靠性提升。

错误预算燃烧率

事件响应流程

告警分级（P0-P4）、On-Call 轮值、Runbook 自动化与事后复盘（Postmortem）文化。

监控数据管道

Logstash/Fluentd 采集、Kafka 缓冲、Spark Streaming/Flink 流处理与实时聚合。

基础设施监控

Docker（cAdvisor）、Kubernetes（kube-state-metrics）、CloudWatch 等云原生监控方案。

cAdvisorkube-state-metrics

自定义 Exporter 开发

Python 编写 Prometheus Exporter，详解 Counter、Gauge、Histogram、Summary 指标类型。

PythonHistogram

告警自动化修复

Webhook 触发自动化脚本、Kubernetes HPA 弹性伸缩、自愈 Pipeline 设计模式。

多集群/多区域监控

联邦 Prometheus、Thanos 与 Cortex 架构，全局视图与租户隔离的最佳实践。

成本监控与优化

数据流水线成本分析、Spot 实例管理、资源预留 vs 按需、成本告警阈值设置。

成本分析Spot实例

安全监控与审计

访问日志审计、敏感数据泄露检测、异常登录告警及 GDPR 合规监控要点。

安全审计GDPR

混沌工程与韧性测试

Chaos Monkey 原理、故障注入实验，以及监控系统在混沌工程中的关键作用。

混沌工程故障注入

监控系统高可用

Prometheus 高可用（Thanos Receive）、Alertmanager 集群、Grafana 多副本架构。

高可用Thanos Receive

告警疲劳管理

告警去重、相似告警聚类、静默规则优化与告警频率限制，减少无效打扰。

告警去重频率限制

监控数据生命周期

数据保留策略、降采样（Downsampling）、冷热数据分离、备份与恢复方案。

降采样冷热分离

监控即代码

Terraform 管理监控资源、Grafana Dashboard as Code、PrometheusRule CRD 实践。

TerraformDashboard as Code

实战案例一：实时流处理

基于 Kafka + Flink + ClickHouse 的实时流处理 Pipeline 监控全流程。

KafkaFlinkClickHouse

实战案例二：批处理 ETL

Airflow + Spark + Hive 批处理 ETL 监控，总结与最佳实践分享。

AirflowSparkHive