第1章 异常现象分类:常见数据异常类型、异常表现特征、紧急程度判断

1.1 现象识别

数据异常排查的第一步是准确识别“发生了什么异常”。缺乏统一分类标准时,不同角色对同一现象的表述可能完全不同——运营说“数据不准”,开发说“任务延迟”,分析说“口径对不上”。本章建立全局分类框架,将数据异常归纳为三大类:数据质量异常、数据延迟异常和数据一致性异常。

分类原则:以异常对业务链路的实际影响为判断依据,而非底层技术原因。同一个技术原因(如源端宕机)可能同时引发质量、延迟和一致性问题,但表现特征不同,排查入口也不同。

1.1.1 三大异常类型及特征

下表列出每类异常的核心子类型、典型表现及紧急等级参考:

异常大类 子类型 表现特征 典型场景 紧急程度
数据质量异常 缺失值 关键字段为 NULL 或空字符串 源端采集遗漏、ETL 过滤过严 P1
异常值 数值超出业务合理范围(如负销售额) 采集器故障、单位换算错误 P0
重复数据 主键或唯一键重复,同一条记录出现多次 重复导入、未做幂等处理 P2
数据延迟异常 批量延迟 T+1 报表在约定时间后仍未就绪 调度任务挂起、上游依赖未完成 P1
实时断流 流式指标连续 N 分钟无新数据 Kafka 连接中断、Producer 崩溃 P0
数据堆积 消费积压持续增长,延迟时间递增 消费者处理能力不足、Backpressure P2
数据一致性异常 跨源不一致 同指标在不同报表中数值不同 口径定义差异、聚合逻辑不同 P1
历史回溯差异 历史已固化数据因重跑发生变化 重跑脚本未做快照隔离 P1
引用完整性 事实表外键在维度表中无对应记录 清洗规则误过滤、维表未及时更新 P2

1.1.2 紧急程度判断标准

等级 定义 响应时限 典型场景举例
P0 核心链路阻断或数据严重错误,影响对客展示或监管报送 立即响应 ≤30 min 实时断流、关键指标异常值、主表全量缺失
P1 重要链路受影响或数据质量明显下降,需快速恢复 快速响应 ≤2 h 批量延迟、缺失值超阈值、跨源口径冲突
P2 边缘链路问题或轻度异常,不影响核心决策 常规响应 ≤24 h 重复数据、数据堆积、引用完整性告警
判断口诀:先看链路是否阻断,再看数据是否已对客,最后评估修复成本。P0 必须立即拉群响应,P1 可在当前迭代内修复,P2 纳入排期即可。
数据异常分类与紧急程度图谱 数据异常 数据质量异常 数据延迟异常 数据一致性异常 缺失值 P1 异常值 P0 重复数据 P2 批量延迟 P1 实时断流 P0 数据堆积 P2 跨源不一致 P1 历史回溯差异 ← 上一章 📖 返回目录 下一章 →