1. 课程导入与全景认知

在 Azure 数据平台上,数据质量与元数据治理并不是两个可以分开推进的“附加项”,而是同一套数据可信体系的左右手。数据质量回答的是“这份数据能不能用、准不准、全不全、是否及时”;元数据治理回答的是“这份数据是什么、从哪来、谁负责、被谁用过、口径是否一致”。前者关注数据内容本身的可信度,后者关注数据资产的可发现、可理解、可追溯与可问责。缺少元数据,质量问题往往只能靠人工猜测定位;缺少质量校验,元数据描述得再完整也无法保证下游分析结论可靠。

从业务价值看,这两项能力直接决定数据平台能否从“能存能算”走向“可被信任地决策”。一个典型场景是:财务部门发现某张 Power BI 报表的月度收入比上月骤降 18%,如果平台没有元数据血缘,分析师需要逐层翻查 ADF 管道、Databricks Notebook 和 Synapse 视图;如果平台同时具备质量规则与血缘信息,就能快速定位到上游 CRM 客户主数据中“客户状态”字段在 3 月 15 日被批量置为“失效”,从而判断是业务口径变化还是数据异常。可见,元数据治理提供“地图”,数据质量提供“仪表盘”,二者结合才能把排障时间从数小时压缩到数分钟。

在 Azure 数据平台中,这两项能力有明确的落点。数据质量通常依托 Azure Data Factory 或 Synapse Pipeline 在数据流转关键节点插入校验活动,也可通过 Databricks 的 Great Expectations、dbt tests 或 Delta Live Tables 期望规则实现;校验结果可写入 Azure SQL Database、Log Analytics 或 Microsoft Purview 的定制属性。元数据治理则以 Microsoft Purview 为核心,自动扫描 Azure SQL、Synapse、ADLS Gen2、Databricks 等数据源,采集技术元数据、业务术语、分类标签和血缘关系。Purview 的数据资产、术语表、分类规则与血缘图谱,正好为质量规则提供“作用对象”和“责任归属”。

Azure 数据质量与元数据治理全景关系 数据源 → 采集与治理 → 质量校验 → 可信消费,元数据贯穿全链路 数据源 Azure SQL Database ADLS Gen2 文件 Databricks 表 本地/第三方 API 元数据治理(Purview) 自动扫描 · 技术元数据 业务术语表 · 分类标签 血缘图谱 · 责任归属 敏感数据识别 数据质量校验 完整性 · 唯一性 · 有效性 一致性 · 及时性 · 准确性 ADF 校验活动 / DLT 期望 质量分数 · 告警阈值 可信数据消费 Power BI 报表 Synapse 分析 机器学习特征 数据产品 / API 服务 扫描采集 数据流入校验节点 规则作用对象 血缘追溯 质量门禁 问题反馈与规则迭代 学习路径: ① 概念与价值 → ② Purview 元数据采集 → ③ 质量规则设计 → ④ 监控与告警 → ⑤ 治理运营闭环

上图展示了本课程的核心逻辑:数据源经过 Purview 扫描形成元数据资产,元数据为质量规则提供作用对象与责任归属;质量校验在数据流入消费层之前设置门禁,消费端的问题又反向驱动规则迭代。这个闭环不是一次性项目,而是持续运营的治理机制。

为了后续 29 章能够顺利动手实践,建议先准备好实战环境。以下是一份可直接参照的环境准备清单,所有资源均可在 Azure 门户中创建,示例命名仅作参考,实际使用时请替换为全局唯一名称。

资源类型 示例名称 用途 关键配置
资源组 rg-dq-governance-dev 统一管理本课程所有资源 区域建议选 East US 2 或 Southeast Asia
Azure SQL Database sql-dq-demo 模拟业务源库与质量结果存储 基本层,启用公有访问,防火墙放行客户端 IP
ADLS Gen2 stdqdemo001 存放原始文件与质量报告 启用分层命名空间,创建 raw/ 与 quality/ 容器
Azure Data Factory adf-dq-demo 编排数据流与质量校验活动 托管标识开启,授予 ADLS 与 SQL 相应权限
Microsoft Purview pv-dq-demo 元数据扫描、血缘与术语表 标准版,配置托管标识并注册上述数据源
Log Analytics law-dq-demo 集中存储质量告警与审计日志 按需付费,保留 30 天

环境就绪后,建议用一条最小链路验证连通性:在 Azure SQL 中创建 dbo.Customer 表,插入 5 条示例数据,其中 1 条 Email 为空、1 条 CustomerID 重复;在 ADF 中建立到该库的 Linked Service,使用“Lookup”活动执行 SELECT COUNT(*) FROM dbo.Customer WHERE Email IS NULL,预期返回 1。若返回值正确,说明数据源、ADF 与权限链路已打通,后续章节即可在此基础上逐步叠加 Purview 扫描、质量规则和告警配置。

本课程所有示例参数、数据和结果均为教学演示用途,实际执行时请根据你的订阅、区域和业务数据替换。建议每完成一章后保留资源组快照,便于回滚和对比。