1. Kafka 核心概念与堆积定义
消息堆积是 Kafka 生产环境中最高频的故障之一。要准确诊断堆积，必须先理解 Kafka 的底层数据模型与消费进度机制。本节从 Topic、Partition、Offset、Consumer Group 四个核心概念出发，引出堆积的精确衡量指标 Lag。
1.1 核心概念速览
| 概念 | 定义 | 堆积诊断中的角色 |
|---|---|---|
| Topic | 消息的逻辑分类，类似数据库中的表 | 堆积按 Topic 粒度统计，不同 Topic 堆积原因可能不同 |
| Partition | Topic 的物理分片，每个 Partition 是一个有序日志文件 | 堆积发生在 Partition 级别，单 Partition 堆积可能拖慢整个消费组 |
| Offset | 消息在 Partition 内的唯一序号，从 0 开始递增 | 消费进度 = 当前已提交 Offset，堆积 = 最新 Offset − 已提交 Offset |
| Consumer Group | 一组消费者实例，共同消费一个或多个 Topic | Group 内各消费者负责不同 Partition，堆积分布不均可能引发局部堆积 |
| Lag | 消息堆积的量化指标，即未消费消息数 | Lag > 0 表示堆积，Lag 持续增长表示消费能力不足 |
诊断要点：堆积排查的最小粒度是
Topic:Partition:Group 三元组。只看 Topic 总 Lag 可能掩盖单 Partition 堆积的异常。
1.2 消息存储与消费模型
下图展示了 Kafka 从生产到消费的完整数据流，重点标注了 Offset 与 Lag 的计算位置。
1.3 消息堆积的定义与 Lag 公式
消息堆积是指 Producer 生产消息的速度超过 Consumer 消费消息的速度，导致未处理消息在 Broker 上持续积压。堆积的直接后果是消息处理延迟增加，严重时可能触发磁盘空间告警或消息过期丢失。
堆积的量化指标是 Lag，计算公式如下：
Lag = LogEndOffset − CommittedOffset- LogEndOffset (LEO)：Partition 中最新消息的 Offset + 1，即下一条待写入消息的位置。
- CommittedOffset：Consumer Group 已提交的消费进度 Offset，表示该 Group 已确认处理完此 Offset 之前的所有消息。
关键理解：Lag = 0 表示消费完全同步，无堆积；Lag > 0 表示存在堆积；Lag 持续增长说明消费速度长期落后于生产速度。
1.4 堆积的三种典型形态
| 形态 | 特征 | 常见原因 |
|---|---|---|
| 瞬时堆积 | Lag 短暂升高后快速回落 | 生产流量突发、Consumer 短暂 GC 或重启 |
| 持续堆积 | Lag 持续上升，不回缩 | Consumer 处理能力不足、下游 API 慢查询、数据库瓶颈 |
| 分区倾斜堆积 | 部分 Partition Lag 高，其余正常 | 消息 Key 分布不均、Consumer 分配策略不合理 |
注意：持续堆积和分区倾斜堆积是 API 设计治理与慢查询故障排查的重点场景。后续章节将深入分析这两种形态的根因定位方法。
1.5 堆积衡量指标全景
除了 Lag，实际运维中还需要关注以下辅助指标：
- Max Lag：Group 内所有 Partition 中最大的 Lag 值，反映最差情况。
- Total Lag：所有 Partition Lag 之和，反映整体堆积量。
- Lag 增长率：单位时间内 Lag 的变化量，正数表示堆积恶化。
- 消费速率：Consumer 每秒处理的消息数（records/sec），与生产速率对比可判断瓶颈。
以下命令可快速查看指定 Consumer Group 的 Lag 信息：
# 查看 group 的详细消费状态，包含每个 partition 的 Lag
kafka-consumer-groups.sh --bootstrap-server localhost:9092 \
--group order-group --describe
# 输出示例
GROUP TOPIC PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG
order-group orders 0 3 6 3
order-group orders 1 8 10 2
order-group orders 2 5 5 0
诊断建议：建立 Lag 监控基线。当 Max Lag 超过阈值（如 10000）或 Lag 增长率持续为正时，应触发告警并启动堆积排查流程。