堆积诊断基础：什么是堆积（Lag）、Lag的计算公式、Lag的监控指标
堆积（Lag）是Kafka性能诊断中最核心的量化指标，它直接反映了消费者组落后于生产者的程度。理解Lag的本质、计算方式以及监控方法，是进行性能调优的第一步。
1. 什么是堆积（Consumer Lag）
Consumer Lag（消费者滞后，简称Lag）是指消费者当前消费的偏移量（Offset）与分区最新消息偏移量之间的差值。简单来说，就是“生产者已经写入但消费者尚未处理的消息数量”。
- Lag = 0：消费者完全跟上了生产者的速度，系统处于理想状态。
- Lag > 0：消费者处理速度慢于生产者写入速度，消息开始堆积。
- Lag 持续增长：消费者存在性能瓶颈或故障，堆积正在恶化。
关键认知：Lag 是存量指标，而非速率指标。它表示当前未处理的消息总数，而不是每秒新增多少堆积。调优的目标是让 Lag 保持在一个稳定且较低的水平，而不是必须为 0。
2. Lag 的计算公式
Lag 的计算基于 Kafka 分区级别的偏移量对比。对于每个分区，计算公式如下：
Consumer Lag = Log-End Offset (LEO) - Current Consumer Offset其中：
- Log-End Offset (LEO)：分区中最新一条消息的偏移量 + 1（即下一条待写入消息的位置）。
- Current Consumer Offset：消费者组当前已提交的最新消费偏移量。
在 Kafka 内部，这个计算由 Offset Manager 或监控工具（如 Kafka Consumer Groups CLI、JMX MBean）完成。对于消费者组订阅的多个分区，总 Lag 是所有分区 Lag 的累加：
Total Lag = Σ (LEO_i - Consumer Offset_i) // i 遍历所有分区
实际案例：假设一个 Topic 有 3 个分区，LEO 分别为 [100, 200, 150]，消费者提交的 Offset 分别为 [80, 180, 120]。则各分区 Lag 为 [20, 20, 30]，总 Lag = 20 + 20 + 30 = 70。
3. Lag 的监控指标
在生产环境中，仅知道 Lag 数值是不够的，需要结合多个指标进行综合判断。下表列出了最核心的监控指标及其含义：
| 指标名称 | 来源 | 含义 | 异常阈值参考 |
|---|---|---|---|
| Consumer Lag | Kafka Consumer Group Metrics | 消费者落后生产者的消息数量（分区级/组级） | 持续 > 1000 或持续增长 |
| Producer Request Rate | Kafka Server / Broker Metrics | 生产者每秒发送到 Broker 的请求数（反映写入压力） | 接近 Broker 网络或 CPU 上限 |
| Consumer Fetch Rate | Kafka Consumer Metrics | 消费者每秒从 Broker 拉取消息的请求数 | 远低于 Producer Request Rate |
| Max Lag | Kafka Consumer Group Metrics | 所有分区中最大的单个分区 Lag | 单分区 Lag 持续 > 5000 |
以下 SVG 图展示了 Lag 在生产者-消费者模型中的位置与计算关系：
4. Producer Request Rate 与 Lag 的关系
Producer Request Rate（生产者请求速率）是衡量写入压力的关键指标。它与 Lag 之间存在以下关联：
- 高 Request Rate + 低 Lag：系统吞吐量高且消费者处理能力充足，健康状态。
- 高 Request Rate + 高 Lag 且增长：消费者处理能力不足，需要扩容消费者或优化处理逻辑。
- 低 Request Rate + 高 Lag：消费者可能已经停止消费或出现故障，需要立即排查。
常见误区：不要只监控 Lag 而忽略 Request Rate。如果生产者已经停止写入，Lag 会逐渐下降，但这不代表系统健康。必须同时观察生产者和消费者的速率，才能准确判断堆积的根本原因。
以下 SVG 图展示了 Lag 与 Producer Request Rate 在时间序列上的典型联动模式：
5. 监控实践建议
- 分区级监控：Lag 是分区级别的指标，必须监控每个分区的 Lag，而非仅看总 Lag。单个分区 Lag 过高会导致消息顺序处理延迟。
- 设置告警阈值：根据业务容忍度设置 Lag 告警。例如：单分区 Lag > 1000 持续 5 分钟触发警告，> 5000 持续 1 分钟触发严重告警。
- 结合速率指标：始终将 Lag 与 Producer Request Rate、Consumer Fetch Rate 放在同一仪表盘上，避免误判。
- 使用专用工具：Kafka 自带的
kafka-consumer-groups.sh可查看 Lag；生产环境推荐使用 Burrow、Kafka Lag Exporter 或 Confluent Control Center 进行持续监控。