01
数据目录概述
定义、核心价值、与数据字典的区别,在企业数据治理中的角色定位。
治理基础
02
元数据基础
元数据定义、三种类型(技术、业务、操作元数据),DMBOK / ISO 8000 标准。
标准分类
03
数据目录核心功能
资产搜索与发现、数据血缘追踪、质量评估、权限管理。
搜索血缘
04
调度系统基础
调度系统定义、核心组件(调度器、执行器、触发器),定时/依赖/事件驱动模式。
调度架构
05
调度元数据模型
任务元数据、执行实例、依赖关系、资源分配元数据模型设计。
模型依赖
06
数据目录与调度系统集成
元数据同步机制、任务与资产关联、调度依赖对血缘的影响。
集成同步
07
Apache Atlas 入门
Atlas 架构、核心概念(Type、Entity、Classification),与 Hive/HBase 集成。
AtlasHive
08
Atlas 数据目录构建
使用 API 注册资产、自定义类型与属性、构建业务术语表。
API术语表
09
Atlas 数据血缘
通过 Hook 采集血缘、手动构建、血缘可视化与查询。
血缘Hook
10
Atlas 与调度系统集成
监听调度任务、注册 Process Entity、关联输入输出数据集。
Process集成
11
DataHub 入门
DataHub 架构、核心概念(Dataset、Chart、Dashboard),元数据摄入框架。
DataHub摄入
12
DataHub 数据目录构建
Python SDK 摄入元数据、构建数据平台视图、搜索与发现。
SDK搜索
13
DataHub 数据血缘
SQL 解析构建血缘、Airflow 集成、血缘可视化。
SQLAirflow
14
DataHub 与调度系统集成
Airflow 插件自动注册 DAG/Task 元数据,关联 Task 与 Dataset。
插件DAG
15
Apache DolphinScheduler 元数据管理
元数据表结构、通过 API 获取任务与流程元数据。
DolphinAPI
16
DolphinScheduler 与数据目录集成
同步任务元数据至 Atlas/DataHub,构建任务级数据血缘。
同步血缘
17
Airflow 元数据管理
元数据库表结构、通过 API 获取 DAG 与 Task Instance 元数据。
Airflow实例
18
Airflow 与数据目录集成
回调机制同步元数据、Lineage Backend 自动构建血缘。
回调Lineage
19
调度依赖管理
任务依赖类型(串行、并行、条件分支)、依赖解析算法、循环依赖检测。
依赖算法
20
调度元数据一致性
元数据变更影响、版本管理策略、回滚与重跑机制。
一致性版本
21
数据目录搜索优化
基于 Elasticsearch 的元数据索引、搜索语法与过滤、排序推荐。
ES索引
22
数据目录权限管理
基于角色的访问控制(RBAC)、敏感度分级、审计日志。
RBAC审计
23
调度系统高可用元数据
主备切换元数据同步、执行器状态恢复、任务幂等性设计。
高可用幂等
24
元数据质量监控
完整性检查、时效性监控、异常告警。
质量告警
25
数据目录与数据质量平台集成
质量规则与结果注册为元数据,通过目录查看质量报告。
质量报告
26
调度元数据可视化
使用 Grafana 展示任务状态、执行时长趋势、失败率统计。
Grafana可视化
27
数据目录与数据治理平台集成
治理门户、脱敏策略、数据生命周期管理。
治理生命周期
28
大规模元数据管理挑战
采集性能优化、存储选型(Neo4j vs JanusGraph)、缓存策略。
性能存储
29
最佳实践
元数据模型设计原则、自动化采集策略、团队协作流程。
实践协作
30
综合实战
企业级平台需求分析、技术选型、架构设计、实施步骤与验收标准。
实战架构