01
实时指标概述
什么是实时指标、实时指标与离线指标的区别、实时指标的应用场景。
概念对比
02
技术选型
实时计算引擎对比(Flink vs Spark Streaming vs Storm)、消息队列选型(Kafka vs Pulsar)、存储选型(HBase vs ClickHouse vs Redis)。
引擎消息队列存储
03
Flink基础
Flink架构、Flink运行模式、Flink DataStream API入门、Flink时间语义。
入门架构
04
Flink进阶
Flink状态管理、Flink Checkpoint与Savepoint、Flink Watermark机制、Flink窗口函数。
状态容错时间
05
Flink SQL
Flink Table API与SQL、动态表与连续查询、Flink SQL窗口聚合、Flink SQL与CDC集成。
SQLCDC
06
Kafka实战
Kafka核心概念、Kafka生产者与消费者、Kafka Exactly-Once语义、Kafka Connect与实时管道。
消息语义
07
实时数据采集
日志采集(Filebeat/Fluentd)、业务数据库采集(Debezium/Canal)、埋点采集架构。
采集CDC
08
实时ETL
数据清洗与转换、维表关联(异步IO/广播状态)、数据质量监控、实时数据脱敏。
ETL质量
09
实时指标计算模型
预聚合模型、累加器模型、滑动窗口模型、Lambda架构与Kappa架构。
架构模型
10
实时指标体系设计
指标分类(原子指标、派生指标、复合指标)、指标命名规范、指标元数据管理。
规范元数据
11
实时数仓分层
ODS层设计、DWD层设计、DWS层设计、ADS层设计、实时数仓与离线数仓对比。
分层数仓
12
实时维度建模
退化维度、维表实时同步、缓慢变化维(SCD)在实时场景的处理、多流关联。
维度SCD
13
实时指标存储
Redis数据结构选型、HBase RowKey设计、ClickHouse表引擎选择、实时指标查询优化。
存储优化
14
实时指标服务化
实时指标API设计、查询缓存策略、限流与降级、指标血缘追踪。
API治理
15
实时指标可视化
实时大屏技术选型、WebSocket实时推送、ECharts实时图表、大屏性能优化。
可视化大屏
16
实时告警系统
告警规则引擎、告警阈值动态调整、告警降噪与聚合、告警通知渠道(钉钉/企微/邮件)。
告警通知
17
实时数据质量保障
数据延迟监控、数据准确性校验、数据完整性检查、异常数据自动修复。
质量监控
18
实时任务运维
Flink任务监控(Metrics)、任务自动扩缩容、任务版本管理、任务血缘分析。
运维监控
19
实时数据治理
元数据采集与同步、数据字典管理、数据权限控制、数据生命周期管理。
治理权限
20
实时指标测试
单元测试(Flink Test Harness)、集成测试、性能测试、混沌工程在实时系统中的应用。
测试混沌
21
实时计算性能优化
算子链与资源调度、反压处理、状态后端优化、序列化优化。
性能调优
22
实时数据一致性
端到端Exactly-Once、分布式事务在实时场景的应用、数据对账机制、数据回溯方案。
一致性事务
23
实时指标平台建设
平台架构设计、任务开发IDE、任务调度与依赖管理、平台权限与租户隔离。
平台架构
24
实时数据湖
Apache Iceberg/ Hudi/ Delta Lake与Flink集成、实时入湖、湖仓一体架构。
数据湖湖仓
25
实时机器学习
在线特征计算、实时模型推理、特征存储(Feast)、实时推荐系统案例。
ML推荐
26
行业案例-电商
实时GMV、实时转化率、实时库存、实时风控。
电商案例
27
行业案例-金融
实时交易监控、实时反欺诈、实时KYC、实时风控指标。
金融风控
28
行业案例-物联网
设备实时监控、实时异常检测、实时预测性维护、实时数据管道。
IoT监控
29
实时指标未来趋势
流批一体、云原生实时计算、AI for Real-time、实时数据网格。
趋势云原生
30
综合实战
从0到1搭建实时指标平台(需求分析、架构设计、技术选型、开发实现、测试部署、运维监控)。
实战全流程