01
消费者组概念
什么是消费者组、消费者组的作用、消费者组与分区的关系。
基础核心
02
分区分配策略
RangeAssignor、RoundRobinAssignor、StickyAssignor、CooperativeStickyAssignor。
策略分配
03
再均衡机制
再均衡触发条件、再均衡流程、对消费的影响、如何避免不必要的再均衡。
Rebalance稳定性
04
消费者组状态机
Stable、PreparingRebalance、CompletingRebalance、Dead 状态详解。
状态协调
05
消费者组协调器
GroupCoordinator 的角色、选举机制、与消费者的交互流程。
协调器选举
06
消费者组元数据
GroupMetadata、MemberMetadata、PartitionAssignor 结构解析。
元数据内部
07
消费者组协议
JoinGroup、SyncGroup、Heartbeat、LeaveGroup 请求详解。
协议网络
08
消费者组位移管理
位移提交方式(自动/手动)、__consumer_offsets 存储、过期策略。
位移提交
09
消费者组位移重置
auto.offset.reset 配置、seek() 方法、基于时间戳的重置。
重置偏移
10
消费者组监控
JMX 指标、kafka-consumer-groups.sh、Kafka Manager 监控实践。
监控运维
11
消费者组性能优化
max.poll.records、max.poll.interval.ms、session.timeout.ms 调优。
性能调优
12
消费者组故障排查
消费者组卡住、位移提交失败、再均衡频繁等常见问题。
排错实战
13
消费者组与事务
事务性消费者、read_committed 隔离级别、Exactly-Once 语义。
事务EOS
14
消费者组与静态成员
static group membership、group.instance.id 配置与优势。
静态成员
15
消费者组与自定义分区分配
实现 PartitionAssignor 接口、自定义分配策略。
扩展分配
16
消费者组与多线程
单线程消费、多线程消费、线程安全模型与最佳实践。
并发线程
17
消费者组与流处理
Kafka Streams 中的消费者组、与普通消费者的区别。
流处理Streams
18
消费者组与跨数据中心
异地多活场景下的消费者组、延迟与一致性权衡。
跨DC容灾
19
消费者组与安全
SASL 认证、SSL 加密、ACL 权限控制。
安全认证
20
消费者组与版本演进
0.9 之前旧消费者、0.9 之后新消费者、2.4 增量再均衡。
历史演进
21
消费者组与配额
consumer byte-rate、request-percentage 配额管理。
配额限流
22
消费者组与日志压缩
compact topic 下的消费者组行为、墓碑消息处理。
压缩墓碑
23
消费者组与时间戳
消息时间戳类型、基于时间戳的消费语义。
时间戳语义
24
消费者组与拦截器
ConsumerInterceptor 使用场景、自定义拦截器实现。
拦截器扩展
25
消费者组与指标
Kafka Metrics、Micrometer 集成、Grafana 监控面板。
指标可观测
26
消费者组与弹性伸缩
动态增加/减少消费者、优雅关闭、水位线管理。
弹性伸缩
27
消费者组与背压
reactive streams、backpressure 机制、限流策略。
背压流控
28
消费者组与序列化
Avro、Protobuf、JSON 序列化、Schema Registry 集成。
序列化Schema
29
消费者组与测试
MockConsumer、集成测试、性能测试工具。
测试Mock
30
消费者组实战案例
电商订单处理、日志收集、实时风控等场景的最佳实践。
实战案例