01
Catalog选型概述
什么是数据Catalog,为什么需要Catalog,主流产品对比:Hive Metastore、AWS Glue、Unity Catalog、Polaris。
选型对比
02
Hive Metastore深度解析
架构原理、元数据存储机制、与Spark/Flink集成方式、常见问题与调优策略。
Hive调优
03
AWS Glue Catalog实战
Glue Data Catalog架构、爬网程序配置、与EMR/Redshift/Athena集成、权限管理。
AWSGlue
04
Unity Catalog详解
Databricks统一治理方案、三层级命名空间、细粒度权限控制、Lineage追踪。
Databricks权限
05
Polaris Catalog开源方案
Apache Polaris架构、REST API设计、多引擎兼容性(Spark/Trino/Iceberg)、部署配置。
开源Polaris
06
Catalog选型决策矩阵
功能对比表、性能基准测试、成本分析、生态兼容性评估及选型建议。
决策矩阵
07
湖仓一体架构演进
从数据仓库到数据湖再到湖仓一体,Lakehouse核心特征,开放表格式(Delta/Iceberg/Hudi)的作用。
架构Lakehouse
08
Apache Iceberg核心概念
表格式演进、快照隔离、分区演进、隐藏分区、时间旅行查询。
Iceberg快照
09
Apache Hudi核心概念
Copy-on-Write与Merge-on-Read、索引机制、增量查询、Clustering与Compaction。
Hudi增量
10
Delta Lake核心概念
事务日志、Schema强制与演进、时间旅行、Z-Order优化、Change Data Feed。
Delta事务
11
开放表格式对比与选型
Iceberg vs Hudi vs Delta Lake功能、性能、生态支持对比及选型建议。
对比选型
12
Catalog与表格式集成
Catalog如何管理表格式元数据、多格式支持策略、跨格式查询挑战。
集成元数据
13
Spark与Catalog集成
Spark Catalog Plugin机制、自定义Catalog实现、多Catalog联邦查询。
Spark联邦
14
Flink与Catalog集成
Flink Catalog接口、Hive Catalog集成、自定义Catalog实现、实时写入Catalog。
Flink实时
15
Trino与Catalog集成
Trino Connector架构、Hive/Iceberg/Delta Lake Connector配置。
TrinoConnector
16
Presto/Trino联邦查询
多数据源联合查询、Catalog动态注册、跨Catalog Join优化。
联邦Join
17
Catalog权限与安全
RBAC与ABAC模型、列级权限、行级过滤、审计日志、数据脱敏。
权限安全
18
Catalog元数据同步
CDC同步方案、事件驱动同步、定时同步策略、一致性保障。
同步CDC
19
Catalog高可用与扩展性
主从架构、读写分离、缓存策略、水平扩展方案、故障恢复。
高可用扩展
20
Catalog性能优化
元数据缓存、分区裁剪优化、统计信息收集、查询计划缓存、连接池调优。
性能缓存
21
Catalog监控与告警
关键指标(QPS、延迟、错误率)、Prometheus集成、Grafana仪表盘、自定义告警规则。
监控告警
22
Catalog迁移实战
从Hive Metastore迁移到Unity Catalog、Glue迁移到Polaris、迁移工具与脚本、数据校验。
迁移实战
23
多Catalog统一管理
Catalog注册中心、统一命名空间、跨Catalog查询路由、元数据血缘聚合。
统一路由
24
Catalog与数据质量
数据质量规则管理、异常检测、质量评分、与Catalog元数据联动。
质量规则
25
Catalog与数据发现
数据搜索、标签管理、数据血缘可视化、数据热度分析、推荐系统。
发现血缘
26
Catalog与数据治理
数据分类分级、生命周期管理、合规审计、数据资产盘点。
治理合规
27
云原生Catalog方案
AWS Lake Formation、Azure Purview、GCP Dataplex、阿里云DataWorks。
云原生方案
28
开源Catalog生态
Apache Atlas、Amundsen、DataHub、Marquez功能对比与选型。
开源生态
29
Catalog选型实战案例
金融行业、互联网行业、制造业选型案例与经验总结。
案例行业
30
湖仓集成最佳实践
架构设计原则、部署模式、运维策略、未来趋势(AI驱动Catalog、实时Catalog)。
最佳实践趋势