VIP20
本课程属于:047-湖仓元数据治理 数据工程与实时数据平台 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

CDC数据入湖元数据采集与同步

📚 共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
CDC概念与数据湖基础
CDC技术原理(日志解析、触发器、时间戳)、数据湖架构演进(从数仓到湖仓一体)、CDC入湖场景分析。
日志解析湖仓一体
02
元数据管理核心概念
元数据分类(技术元数据、业务元数据、操作元数据)、元数据标准与模型、元数据生命周期。
技术元数据生命周期
03
CDC入湖链路架构设计
Source端选型(MySQL/Oracle/PostgreSQL)、中间件选型(Debezium/Canal/DataX)、Sink端适配(Hudi/Iceberg/Delta Lake)。
DebeziumHudi
04
元数据采集与同步机制
全量元数据扫描、增量元数据捕获(DDL/DML事件监听)、元数据版本管理。
增量捕获版本管理
05
元数据存储与索引
元数据存储选型(MySQL/Neo4j/Elasticsearch)、元数据关系图谱构建、元数据检索优化。
Neo4j检索优化
06
数据血缘与影响分析
CDC链路中的血缘追踪、字段级血缘解析、反向影响分析(上游变更对下游的影响)。
血缘追踪字段级
07
数据质量与元数据校验
入湖数据质量规则定义、元数据一致性校验(源端vs湖端)、异常告警与修复机制。
一致性校验告警
08
数据安全与权限管控
元数据脱敏策略、列级权限控制、审计日志与合规要求。
脱敏列级权限
09
数据目录与自助发现
元数据资产目录构建、标签与分类体系、搜索与推荐引擎。
资产目录推荐引擎
10
实时元数据同步与延迟优化
CDC实时同步中的元数据延迟问题、基于Flink的元数据实时同步方案、延迟监控与补偿机制。
Flink延迟补偿
11
Schema Evolution管理
源端Schema变更检测、兼容性策略(向前/向后/完全兼容)、自动演进与人工审批流程。
兼容性审批流程
12
多源异构元数据融合
不同数据源(关系型、NoSQL、消息队列)的元数据统一建模、冲突解决与映射规则。
统一建模冲突解决
13
元数据API与开放平台
RESTful元数据API设计、GraphQL查询接口、SDK与插件机制。
RESTfulGraphQL
14
元数据治理平台架构
平台功能模块划分(采集、存储、检索、可视化)、技术栈选型(Spring Boot/微服务)、高可用设计。
微服务高可用
15
元数据可视化与报表
元数据地图、血缘关系图、数据热度分析、存储成本分析。
血缘图成本分析
16
CDC入湖性能优化
并行度调优、Checkpoint机制、背压处理、资源隔离。
并行度背压
17
数据湖文件布局优化
分区策略(时间/地域/业务)、文件大小控制(小文件合并)、压缩算法选型。
分区策略小文件合并
18
元数据缓存与加速
本地缓存(Caffeine)、分布式缓存(Redis)、元数据预加载策略。
CaffeineRedis
19
异常场景处理
断流恢复、数据重复处理(Exactly-Once语义)、Schema冲突回滚。
Exactly-Once回滚
20
监控与告警体系
元数据健康度指标、CDC链路延迟告警、元数据变更事件告警。
健康度延迟告警
21
数据湖版本管理与回滚
基于时间旅行的数据恢复、元数据快照机制、回滚操作的最佳实践。
时间旅行快照
22
跨机房/跨云CDC同步
网络延迟与带宽优化、数据一致性保障(最终一致性)、灾备切换策略。
最终一致性灾备
23
元数据与AI/ML集成
特征元数据管理、模型训练数据溯源、ML Pipeline元数据追踪。
特征管理ML Pipeline
24
合规与审计
GDPR/CCPA合规要求、数据保留策略、元数据变更审计链。
GDPR审计链
25
成本优化
存储成本(冷热分层)、计算成本(查询优化)、元数据存储成本控制。
冷热分层查询优化
26
案例实战:电商订单CDC入湖
从MySQL到Hudi的完整链路、元数据管控落地、常见问题与解决方案。
电商Hudi
27
案例实战:金融交易日志CDC入湖
高并发场景下的元数据管理、数据一致性保障、监管合规实现。
金融高并发
28
案例实战:IoT设备数据CDC入湖
海量小文件处理、时序元数据建模、实时监控看板。
IoT时序建模
29
未来趋势
Data Mesh与元数据联邦、Active Metadata(主动元数据)、元数据驱动的自动化治理。
Data Mesh主动元数据
30
课程总结与最佳实践
CDC入湖元数据管控的常见误区、企业级落地路线图、推荐工具与资源。
落地路线图工具推荐