4. Broker硬件与操作系统调优

Kafka Broker 的性能上限，往往不是被 Kafka 自身代码限制，而是被硬件资源与操作系统内核参数限制。Broker 本质上是一个“顺序写磁盘 + 零拷贝发送 + 大量网络连接”的服务：它把生产者写入的消息顺序追加到分区日志段，把消费者读取的数据通过页缓存直接送到网卡。因此，CPU、内存、磁盘、网络、文件系统、页缓存、swap、ulimit 与中断亲和性这些看似底层的参数，会直接决定吞吐、延迟与稳定性。本节围绕这些维度，给出生产级配置思路与可落地的参数示例。

CPU：把核留给真正干活的地方

Broker 的 CPU 消耗主要来自三部分：网络收发与请求处理线程、日志刷盘与索引构建、以及压缩解压（若启用 compression.type）。在吞吐型集群中，CPU 通常不是第一瓶颈，但在启用 TLS、SASL 或高压缩比时，CPU 会迅速成为限制项。生产建议：为 Broker 预留物理核而非超线程核，num.io.threads 与 num.network.threads 之和不要超过可用核数，避免线程争抢。例如 16 核机器可设 num.network.threads=8、num.io.threads=8，并保留 2～4 核给操作系统与页缓存回收。

此外，应关闭 CPU 节能调频，让频率稳定在高性能档，避免 P-state 抖动带来尾延迟。可通过 tuned-adm profile throughput-performance 或直接设置 governor 为 performance。

内存与页缓存：Kafka 的“隐形加速器”

Kafka 不依赖 JVM 堆缓存消息，而是重度依赖操作系统页缓存。生产者写入的数据先进入页缓存，消费者读取时若命中页缓存，则无需访问磁盘。因此，Broker 内存应“大部分留给页缓存，小部分留给 JVM 堆”。经验做法：JVM 堆设为 6～8 GB（大集群可到 12 GB），其余内存全部交给操作系统。若一台机器 128 GB 内存，堆设 8 GB，则约 120 GB 可用于页缓存，足以缓存大量热数据。

堆过大反而有害：GC 停顿变长，且挤占页缓存。推荐使用 G1 GC，并设置 -XX:MaxGCPauseMillis=20 左右，配合 -XX:+UseG1GC。同时注意 Kafka 的 log.segment.bytes 与 log.retention 策略，让热数据尽量落在页缓存可覆盖的范围内。

磁盘：顺序写、RAID 与文件系统选择

Kafka 的写入模式是顺序追加，因此机械盘也能获得不错的顺序吞吐，但随机读（消费者落后时）仍依赖磁盘 IOPS。生产建议：

• 使用多块盘做 JBOD（Just a Bunch Of Disks），让分区分散到不同磁盘，而不是 RAID 0 单卷。JBOD 下单盘故障只影响部分分区，恢复更快。
• 文件系统优先 XFS，其次 ext4。XFS 在大文件顺序写与并发方面表现更稳。
• 挂载参数建议 noatime,nodiratime，减少元数据写入。
• 若使用云盘，关注 IOPS 与吞吐上限，避免突发额度耗尽导致写入阻塞。

磁盘调度器方面，SSD 建议 none（或 noop），机械盘可用 mq-deadline。可通过 /sys/block/<dev>/queue/scheduler 查看与设置。

网络：带宽、中断与亲和性

Broker 是网络密集型服务，单节点万兆网卡是常见起点。关键点在于：网卡多队列与 CPU 中断亲和性要匹配。若所有网卡中断都落在 CPU0，会造成单核饱和而其他核空闲。可通过 irqbalance 或手动设置 /proc/irq/<irq>/smp_affinity，把不同队列的中断分散到不同物理核，并尽量与 Broker 的 IO 线程错开。

同时，调整内核网络参数以支撑高并发连接：

net.core.somaxconn = 32768
net.ipv4.tcp_max_syn_backlog = 16384
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.ipv4.tcp_rmem = 4096 87380 16777216
net.ipv4.tcp_wmem = 4096 65536 16777216
net.ipv4.tcp_window_scaling = 1

这些参数提升连接队列与 TCP 窗口，减少高负载下的连接拒绝与重传。

swap、ulimit 与文件描述符

Broker 必须尽量避免 swap。一旦页缓存被换出，消费者读取会触发磁盘随机读，延迟飙升。建议设置 vm.swappiness=1，并在有条件时直接关闭 swap。同时，Kafka 需要大量文件描述符与线程，ulimit 必须调高：

# /etc/security/limits.conf
kafka soft nofile 128000
kafka hard nofile 128000
kafka soft nproc  65536
kafka hard nproc  65536

若使用 systemd 管理，还需在 unit 中设置 LimitNOFILE=128000，否则 limits.conf 可能不生效。

参数关系总览

下图把上述维度组织成一张“资源—参数—影响”的关系图，帮助快速定位调优对象与作用方向。

落地检查清单

把上述内容整理成一份可直接对照执行的检查清单，便于在部署或巡检时逐项确认：