1. Kafka消息堆积概述

1.1 什么是消息堆积

消息堆积（Message Backlog / Lag）是指Kafka消费者消费消息的速度持续低于生产者生产消息的速度，导致未处理的消息在Kafka分区中不断累积的现象。在Kafka的度量体系中，堆积程度通常用消费者滞后（Consumer Lag）来表示，即消费者当前已提交的偏移量（Offset）与分区最新消息偏移量之间的差值。

当Lag值持续增长且超过业务可容忍的阈值时，即构成需要关注的消息堆积问题。堆积不仅发生在消费者端，也可能因生产者发送过快、Broker处理瓶颈或网络抖动而加剧。

1.2 堆积的危害

消息堆积并非单纯的性能指标异常，它会引发一系列连锁反应，直接影响系统的稳定性、实时性和资源消耗。以下是堆积带来的主要危害：

1.3 堆积的典型场景

消息堆积并非随机发生，它通常出现在特定的业务场景或系统变更之后。识别这些典型场景有助于快速定位根因。以下是最常见的六类堆积场景：

1. 促销/秒杀流量洪峰 — 瞬时生产速率达到平时的10~100倍，消费者扩容滞后，导致Lag急剧攀升。
2. 消费者代码缺陷 — 业务逻辑中存在慢查询、远程调用超时、死循环或锁竞争，单条消息处理耗时从1ms飙升到100ms以上。
3. 分区分配不均 — 消息Key设计不合理导致数据倾斜，部分分区堆积严重而其他分区空闲。
4. Broker节点故障 — 磁盘损坏、网络分区或控制器选举导致分区Leader切换，生产者和消费者短暂不可用。
5. 消费者组重平衡风暴 — 频繁的加入/离开触发Eager Rebalance，导致消费者长时间处于STOPPED状态无法消费。
6. 下游依赖阻塞 — 消费者将消息写入数据库或调用外部API时，下游系统响应变慢或拒绝服务，形成反压。

1.4 堆积的度量与监控

要有效管理堆积，必须建立量化的监控体系。以下是Kafka生态中常用的堆积度量指标：