1. 课程导入与验收交付全景

Databricks Lakehouse 项目的验收与工程交付,不是项目末尾的一次性签字动作,而是贯穿需求、开发、上线、运维全过程的工程闭环。很多团队在技术上完成了数据管道、指标模型和作业调度,却在验收阶段陷入反复返工:口径对不上、权限没交接、作业没有监控、成本无人认领。本章先建立一张全景图,明确验收的定义、交付的边界、生命周期位置、角色职责,以及本课程的学习路径与实战项目设定。

一、什么是 Databricks Lakehouse 项目验收

验收(Acceptance)是甲方与乙方(或内部业务方与数据平台团队)依据事先约定的验收标准,对交付物进行可复核的确认过程。它的本质是把“做完了”转化为“可证明做对了”。在 Lakehouse 场景中,验收对象通常不是单一系统,而是四类资产的组合:

  • 数据资产:Bronze/Silver/Gold 分层表、Delta 表结构、分区与 Z-Order 策略、数据质量约束。
  • 计算资产:Notebook、Delta Live Tables 管道、Workflow 作业、SQL Warehouse、集群策略。
  • 服务资产:Unity Catalog 权限模型、服务主体、连接配置、SLA 与告警规则。
  • 知识资产:数据字典、血缘说明、运维手册、成本归属与交接文档。

验收的判定依据必须可量化。例如“数据准确”不是标准,“订单事实表与源系统在 T-1 日全量比对,主键重复率为 0,金额合计偏差绝对值 ≤ 0.01%,且连续 7 个自然日通过”才是可执行标准。验收结论通常分为通过、有条件通过(限期整改)、不通过三类,并需记录未通过项的整改责任人与复验时间。

二、工程交付的边界

交付边界决定了“谁负责到哪一步”。边界不清是验收争议的最大来源。建议在项目启动阶段就用一份边界清单固化以下内容:

维度典型在范围内典型在范围外
数据范围约定的 12 个源系统、58 张核心表后续新增源系统接入
加工深度Bronze→Silver→Gold 三层建模机器学习特征工程与模型训练
调度与运维作业上线、告警配置、交接培训7×24 一线值班
成本提供成本分摊视图与优化建议承担运行期全部云成本
权限Unity Catalog 目录/表级授权企业统一身份源改造

边界之外并非不管,而是明确“由谁承接、以什么方式承接”。例如模型训练不在交付范围,但 Gold 层需提供符合特征口径的宽表,并在文档中标注字段含义与刷新频率,这就是边界的清晰表达。

三、验收与交付在项目生命周期中的位置

把验收理解为“最后一道关”是常见误区。更合理的做法是设置多个验收关口,让风险前移。下图展示了从立项到运维的完整链路,以及各阶段对应的验收动作与交付物。

Lakehouse 项目生命周期中的验收关口与交付物 ① 立项与需求 验收标准定义 ② 架构与设计 设计评审关口 ③ 开发与测试 数据质量验证 ④ 上线与验收 正式验收关口 ⑤ 运维与交接 知识转移关口 交付物 验收标准清单 范围边界说明 角色职责矩阵 里程碑计划 交付物 分层架构图 表结构设计 权限模型草案 评审纪要 交付物 DLT 管道代码 质量校验规则 测试用例与报告 血缘与字典 交付物 验收测试报告 性能与成本报告 告警与 SLA 配置 验收签字单 交付物 运维手册 培训与录屏 成本分摊视图 交接确认单 风险前移原则 • 需求阶段锁定验收口径,避免“做完再谈标准” • 设计阶段评审分层与权限,避免上线后重构 • 开发阶段持续跑质量规则,验收时用历史通过率说话,而非临时补测

图中五个关口对应五类交付物。可以看到,验收标准在①阶段就要产出,而不是等到④阶段才讨论;权限模型在②阶段评审,避免上线后因授权问题阻塞;质量规则在③阶段持续运行,验收时直接引用历史通过率,而不是临时补测。这种“关口前移”的结构,能显著降低末期返工概率。

四、常见角色与职责

Lakehouse 项目通常涉及以下角色,职责边界需要在项目章程中写清:

  • 业务方/数据消费方:提出指标口径、确认 Gold 层语义、参与 UAT 验收,对“数据是否可用”做最终判断。
  • 数据平台工程师:负责 Bronze/Silver 管道、Delta 表设计、DLT 作业与调度,是交付物的主要生产者。
  • 数据架构师:把关分层规范、命名约定、Unity Catalog 权限模型与成本策略,主持设计评审。
  • 数据质量/测试工程师:编写校验规则、执行回归测试、输出质量报告,是验收证据的主要提供者。
  • 项目经理/交付经理:管理范围、进度、风险与验收流程,组织签字与整改跟踪。
  • 运维/SRE:承接告警、SLA、成本监控与故障响应,是交接阶段的接收方。

一个常见误区是让平台工程师同时充当验收方。验收必须由独立的业务方或质量角色执行,否则“自测自签”会掩盖口径偏差。建议采用 RACI 方式明确每项交付物的负责人、审批人、咨询人与知会人。

五、本课程学习路径与实战项目

本课程共 30 章,围绕一条主线展开:从验收标准定义,到交付物准备,到验收执行,再到交接与复盘。学习路径大致分为四段:

  1. 全景与标准(第 1–6 章):验收定义、边界、角色、验收标准编写、数据质量指标、SLA 与成本口径。
  2. 交付物准备(第 7–16 章):分层建模交付、DLT 管道、Unity Catalog 权限、作业调度、血缘与数据字典、测试用例设计。
  3. 验收执行(第 17–24 章):UAT 组织、性能与并发验证、成本核对、安全与合规检查、验收报告与签字流程。
  4. 交接与复盘(第 25–30 章):运维手册、培训与知识转移、告警交接、成本分摊、项目复盘与持续改进。

实战项目设定为一个典型的零售 Lakehouse 交付:源系统包括订单、商品、门店、库存四类,目标是在 Databricks 上构建 Bronze→Silver→Gold 三层,产出销售日报、库存周转、门店排名三张核心 Gold 表,并通过 Unity Catalog 完成目录与表级授权。项目约定验收指标示例:

验收指标示例(教学假设值)
- 数据时效:Gold 表每日 07:00 前就绪,连续 7 天达标
- 数据准确性:订单金额合计与源系统偏差 ≤ 0.01%
- 主键唯一性:订单事实表主键重复率 = 0
- 作业稳定性:近 30 天作业成功率 ≥ 99%
- 查询性能:核心看板查询 P95 ≤ 8 秒
- 成本:月度 DBU 消耗不超过预算的 110%