数据质量管理基础与核心概念
数据质量是数据建模与数据工程的生命线。面试中,基础概念考察通常会从定义、维度、常见问题三个层面展开,考察你是否具备系统化的问题拆解能力和质量优先意识。本节帮你建立完整的知识框架与面试表达体系。
- 清晰复述数据质量的6大维度(完整性、准确性、一致性、及时性、唯一性、有效性)
- 掌握每类维度的典型问题与检查手段
- 用“定义→维度→案例→解决方案”路径回答所有基础题
数据质量六大维度速查表
| 维度 | 定义 | 典型问题 | 常见检查方法 |
|---|---|---|---|
| 完整性 | 数据不缺失 | NULL值、关键字段缺失 | NULL计数、外键校验 |
| 准确性 | 数据真实反映现实 | 数值错误、符号错误 | 业务规则校验、交叉验证 |
| 一致性 | 跨系统数据无矛盾 | 同字段不同值、单位不统一 | 字段映射对比、标准字典 |
| 及时性 | 数据按时可用 | 延迟到达、过期数据 | 时间戳监控、SLA跟踪 |
| 唯一性 | 无重复记录 | 主键重复、冗余行 | 去重校验、唯一索引检查 |
| 有效性 | 数据符合格式/范围约束 | 非法值、超范围、格式错误 | 正则校验、枚举检查 |
面试问答卡 1
Q1:请解释数据质量的定义,以及为什么它在数据仓库中如此重要?
🎯 考察点: 基础认知、概念边界、业务价值理解。
📐 回答框架: 定义(数据满足使用需求的程度)→ 三个层面(准确、可用、可信)→ 重要性(影响决策、增加成本、降低信任)→ 举例说明。
📝 示例回答:(约80字)数据质量是指数据是否真实、完整、及时地反映业务事实。在数仓中,低质量数据会导致报表失真、决策失误,且ETL重复修正浪费资源。比如营收表如果缺失订单,会直接误导季度分析。因此建立质量基线是数仓建设的第一道防线。
❓ 可能追问: 1. 你如何定义“数据满足使用需求”?2. 怎么衡量数据质量的好坏?3. 如果业务方觉得数据准但工程师发现有问题,怎么处理?
⚠️ 避坑提醒: 不要只背定义不举例子;避免说“数据质量就是没错误”,要包含“适用性”概念。
面试问答卡 2
Q2:数据质量的六大维度分别是什么?请针对每个维度举一个实际例子。
🎯 考察点: 维度记忆是否系统、能否结合业务场景、细节把握。
📐 回答框架: 总起(六个维度)→ 逐个:名称 + 定义 + 例子(正例+反例)→ 总结在项目中优先关注哪个维度。
📝 示例回答:(约90字)完整性:用户注册表手机号不能为空;准确性:订单金额不能为负;一致性:CRM和BI工具中客户等级需一致;及时性:交易数据需在T+1内到达;唯一性:账户ID不能重复;有效性:邮箱格式必须包含@。项目中我常优先保证一致性和完整性。
❓ 可能追问: 1. 各维度的优先级如何排序?2. 如果完整性和准确性冲突怎么办?3. 在一个实时数仓中及时性如何具体度量?
⚠️ 避坑提醒: 避免只列名称不举例;例子不要用过于抽象的描述,要用“用户表”、“订单”等具体业务。
面试问答卡 3
Q3:数据仓库中常见的质量问题有哪些?请至少给出三类并说明如何发现和处理。
🎯 考察点: 实战经验、问题分类能力、解决方案思考。
📐 回答框架: 分类(数据缺失、数据重复、数据不一致)→ 每类一个典型案例 → 发现手段(SQL校验、监控告警)→ 处理方式(修复规则、数据回刷、告警降噪)。
📝 示例回答:(约90字)三类常见:1. 缺失:ODS层源表字段NULL,导致下游聚合错误。发现用COUNT(NULL)校验,处理默认值填充或拒绝入库。2. 重复:主键重复导致Join膨胀。用ROW_NUMBER去重。3. 不一致:不同源系统同一客户年龄不同。建立字典表映射。先阻断异常数据再追溯根因。
❓ 可能追问: 1. 如何处理偶发性质量问题?2. 质量问题告警阈值怎么设置?3. 修复后如何验证问题已解决?
⚠️ 避坑提醒: 不要只说“用工具”,要说具体逻辑;避免只谈发现不谈修复闭环。