1. 课程导入与验收交付全景
Databricks Lakehouse 项目的验收与工程交付,不是项目末尾的一次性签字动作,而是贯穿需求、开发、上线、运维全过程的工程闭环。很多团队在技术上完成了数据管道、指标模型和作业调度,却在验收阶段陷入反复返工:口径对不上、权限没交接、作业没有监控、成本无人认领。本章先建立一张全景图,明确验收的定义、交付的边界、生命周期位置、角色职责,以及本课程的学习路径与实战项目设定。
一、什么是 Databricks Lakehouse 项目验收
验收(Acceptance)是甲方与乙方(或内部业务方与数据平台团队)依据事先约定的验收标准,对交付物进行可复核的确认过程。它的本质是把“做完了”转化为“可证明做对了”。在 Lakehouse 场景中,验收对象通常不是单一系统,而是四类资产的组合:
- 数据资产:Bronze/Silver/Gold 分层表、Delta 表结构、分区与 Z-Order 策略、数据质量约束。
- 计算资产:Notebook、Delta Live Tables 管道、Workflow 作业、SQL Warehouse、集群策略。
- 服务资产:Unity Catalog 权限模型、服务主体、连接配置、SLA 与告警规则。
- 知识资产:数据字典、血缘说明、运维手册、成本归属与交接文档。
验收的判定依据必须可量化。例如“数据准确”不是标准,“订单事实表与源系统在 T-1 日全量比对,主键重复率为 0,金额合计偏差绝对值 ≤ 0.01%,且连续 7 个自然日通过”才是可执行标准。验收结论通常分为通过、有条件通过(限期整改)、不通过三类,并需记录未通过项的整改责任人与复验时间。
二、工程交付的边界
交付边界决定了“谁负责到哪一步”。边界不清是验收争议的最大来源。建议在项目启动阶段就用一份边界清单固化以下内容:
| 维度 | 典型在范围内 | 典型在范围外 |
|---|---|---|
| 数据范围 | 约定的 12 个源系统、58 张核心表 | 后续新增源系统接入 |
| 加工深度 | Bronze→Silver→Gold 三层建模 | 机器学习特征工程与模型训练 |
| 调度与运维 | 作业上线、告警配置、交接培训 | 7×24 一线值班 |
| 成本 | 提供成本分摊视图与优化建议 | 承担运行期全部云成本 |
| 权限 | Unity Catalog 目录/表级授权 | 企业统一身份源改造 |
边界之外并非不管,而是明确“由谁承接、以什么方式承接”。例如模型训练不在交付范围,但 Gold 层需提供符合特征口径的宽表,并在文档中标注字段含义与刷新频率,这就是边界的清晰表达。
三、验收与交付在项目生命周期中的位置
把验收理解为“最后一道关”是常见误区。更合理的做法是设置多个验收关口,让风险前移。下图展示了从立项到运维的完整链路,以及各阶段对应的验收动作与交付物。
图中五个关口对应五类交付物。可以看到,验收标准在①阶段就要产出,而不是等到④阶段才讨论;权限模型在②阶段评审,避免上线后因授权问题阻塞;质量规则在③阶段持续运行,验收时直接引用历史通过率,而不是临时补测。这种“关口前移”的结构,能显著降低末期返工概率。
四、常见角色与职责
Lakehouse 项目通常涉及以下角色,职责边界需要在项目章程中写清:
- 业务方/数据消费方:提出指标口径、确认 Gold 层语义、参与 UAT 验收,对“数据是否可用”做最终判断。
- 数据平台工程师:负责 Bronze/Silver 管道、Delta 表设计、DLT 作业与调度,是交付物的主要生产者。
- 数据架构师:把关分层规范、命名约定、Unity Catalog 权限模型与成本策略,主持设计评审。
- 数据质量/测试工程师:编写校验规则、执行回归测试、输出质量报告,是验收证据的主要提供者。
- 项目经理/交付经理:管理范围、进度、风险与验收流程,组织签字与整改跟踪。
- 运维/SRE:承接告警、SLA、成本监控与故障响应,是交接阶段的接收方。
一个常见误区是让平台工程师同时充当验收方。验收必须由独立的业务方或质量角色执行,否则“自测自签”会掩盖口径偏差。建议采用 RACI 方式明确每项交付物的负责人、审批人、咨询人与知会人。
五、本课程学习路径与实战项目
本课程共 30 章,围绕一条主线展开:从验收标准定义,到交付物准备,到验收执行,再到交接与复盘。学习路径大致分为四段:
- 全景与标准(第 1–6 章):验收定义、边界、角色、验收标准编写、数据质量指标、SLA 与成本口径。
- 交付物准备(第 7–16 章):分层建模交付、DLT 管道、Unity Catalog 权限、作业调度、血缘与数据字典、测试用例设计。
- 验收执行(第 17–24 章):UAT 组织、性能与并发验证、成本核对、安全与合规检查、验收报告与签字流程。
- 交接与复盘(第 25–30 章):运维手册、培训与知识转移、告警交接、成本分摊、项目复盘与持续改进。
实战项目设定为一个典型的零售 Lakehouse 交付:源系统包括订单、商品、门店、库存四类,目标是在 Databricks 上构建 Bronze→Silver→Gold 三层,产出销售日报、库存周转、门店排名三张核心 Gold 表,并通过 Unity Catalog 完成目录与表级授权。项目约定验收指标示例:
验收指标示例(教学假设值)
- 数据时效:Gold 表每日 07:00 前就绪,连续 7 天达标
- 数据准确性:订单金额合计与源系统偏差 ≤ 0.01%
- 主键唯一性:订单事实表主键重复率 = 0
- 作业稳定性:近 30 天作业成功率 ≥ 99%
- 查询性能:核心看板查询 P95 ≤ 8 秒
- 成本:月度 DBU 消耗不超过预算的 110%