第3章 数据质量核心概念与指标体系

本章速览:数据质量评估的五大黄金维度——完整性、准确性、一致性、及时性、唯一性。面试中80%的数据质量题都围绕这五个词展开,你需要掌握定义、度量公式和常见陷阱。

五大维度定义与度量速查表

维度 核心定义 常用度量指标 典型场景
完整性 数据是否缺失(行/列) 缺失率 = 缺失值数 / 总数 用户注册信息字段为空
准确性 数据是否真实反映客观事实 准确率 = 正确值数 / 总记录数 年龄字段超出合理范围
一致性 同一数据在不同系统中的值是否一致 不一致率 = 不一致记录数 / 总数 订单金额在OMS和CRM中不同
及时性 数据从产生到可用是否满足时间要求 延迟时间 = 可用时间 - 产生时间 实时看板数据迟到5分钟
唯一性 是否存在重复记录 重复率 = 重复记录数 / 总数 用户ID多次出现
数据质量维度回答框架 1. 定义维度 2. 度量方法 3. 验证手段 4. 业务案例 完整性/准确性 缺失率/准确率 SQL断言/Pytest 电商订单/用户 一致性/及时性 不一致率/延迟 Great Expectations 归因分析

面试加分点:回答时主动补充“唯一性”的度量方法(如基于业务主键的重复检测),并指出五个维度之间存在关联(如一致性问题常由准确性不足引发)。

面试问答卡片 · 第3章

🎯 面试问题 1:请解释数据质量的五个核心维度,并分别给出一个业务示例。

面试官考察点:

  • 是否能准确说出五维度名称及其本质区别
  • 能否用具体业务案例佐证,而非死记硬背
  • 是否理解维度之间的耦合关系

回答框架:总-分-总。先快速列出五个维度;然后逐一用“定义 + 度量指标 + 业务案例”结构展开;最后总结维度间协同关系。

示例回答:“完整性指数据是否缺失,我用空值率衡量,比如订单表中收货地址为空就是不完整。准确性指数据是否正确,比如用户年龄不能超过120。一致性指跨系统数据匹配,如订单状态在ERP和CRM中一致。及时性看数据延迟,比如实时风控要求延迟<1min。唯一性指无重复,例如用户ID不能出现两次。”

可能追问:”如果五个维度同时出问题,你优先修复哪个?为什么?”

避坑提醒:不要将“一致性”与“准确性”混淆。一致性关注相同数据的跨系统同步,准确性关注单系统内数据是否符合事实。很多候选人回答时混为一谈。

🎯 面试问题 2:如何度量数据的完整性?请设计一个实际监控方案。

面试官考察点:

  • 是否掌握不同完整性场景(必填字段、关联完整性、时间序列完整性)
  • 能否给出可落地的SQL或自动化检测方法
  • 是否考虑阈值设定与报警机制

回答框架:先明确完整性分类;再给出度量公式(缺失率);接着用SQL模板说明检测逻辑;最后给出报警阈值建议。

示例回答:“完整性度量分字段和行两类。字段级用 SUM(CASE WHEN col IS NULL THEN 1 ELSE 0 END)/COUNT(*)。我会设置关键字段缺失率>1%时触发钉钉报警。同时补充外键关联完整性检查,比如订单表中的用户ID必须在用户表中存在。”

可能追问:”如果上游故意用‘-1’或‘N/A’填充缺失字段,如何判断?”

避坑提醒:不要只提空值检查,忽略“业务含义缺失”。例如年龄为0在法律意义上也是不完整。度量前要定义好业务规则下的“有效缺失”与“无效值”。

🎯 面试问题 3:数据一致性和准确性有什么区别?请用同一个业务场景说明。

面试官考察点:

  • 是否清晰区分两个维度的定义界限
  • 能否用一个连贯场景同时体现两个维度的问题
  • 是否具备系统性数据质量治理思维

回答框架:先分别解释定义;再用“交易金额”场景举例:准确性指单个系统记录的金额是否正确,一致性指两个系统之间的金额是否相等。最后给出治理优先级建议。

示例回答:“准确性是数据本身正确,比如订单金额100元记录为100。一致性是跨系统一致,比如支付系统记录100,但财务系统记录90。同一个场景:如果两个系统都记录100,则既准确又一致;如果都记录90,则一致但不准确。通常先解决准确性问题,再解决一致性问题。”

可能追问:”如果两个系统都不准确但一致,你是先修数据还是先修系统?”

避坑提醒:避免直接回答“一致性比准确性重要”,要结合业务场景。对于对账场景,一致性更重要;对于风控场景,准确性更重要。面试中要体现场景化思维。

💡 复习建议:将五个维度用一张思维导图画出,每个维度下写出至少2个度量公式、2个业务场景。面试前模拟口述一遍,控制在2分钟内。