📚 课程目录第1章课程导论

1. 课程导论：微服务日志聚合与实时检索的挑战，etcd在其中的核心作用，压测沙盘的整体架构

在微服务架构中，一个用户请求往往跨越数十甚至上百个服务实例。日志不再是单机文件，而是分散在数百台容器或节点上的海量事件流。这带来了三大核心挑战：

挑战维度	具体问题	典型后果
数据分散	日志分布在不同的 Pod、主机、可用区，缺乏统一入口	排障时需逐个登录节点，效率极低
格式异构	不同微服务使用 JSON、文本、Protobuf 等不同格式	检索和解析规则难以统一
实时性要求	从日志产生到可检索，延迟需控制在秒级以内	传统批处理方案无法满足故障快速定位
元数据管理	服务名、实例 ID、版本、标签等元数据频繁变化	检索时无法准确关联上下文

  关键痛点： 日志聚合系统的瓶颈往往不在存储或检索引擎本身，而在于元数据与集群拓扑的实时一致性。当服务实例动态扩缩容时，日志路由规则、索引映射、租户配置必须同步更新，否则会产生"日志黑洞"。

etcd 作为分布式一致性的键值存储，在日志聚合与实时检索架构中承担了元数据中心和协调枢纽的角色。其核心作用体现在以下四个层面：

服务注册与发现： 每个日志采集器（Agent）启动时向 etcd 注册自身信息（IP、端口、采集路径、服务标签），检索层通过 Watch 机制实时感知采集器上下线。
动态配置下发： 日志格式解析规则、过滤条件、存储策略等配置存储在 etcd 中，配置变更后秒级推送到所有采集节点，无需重启进程。
集群拓扑管理： 记录索引分片与节点的映射关系、数据副本分布，当节点故障时通过 etcd 的 Lease 机制自动摘除失效节点。
分布式锁与选主： 在日志聚合系统中，多个管理节点通过 etcd 的分布式锁实现主备切换，确保同一时刻只有一个调度器执行索引重建或数据迁移任务。

实践建议： 在压测沙盘中，我们将 etcd 的读写延迟和 Watch 推送效率作为核心观测指标。当 QPS 超过 5000 时，etcd 的 Watch 响应延迟会从 2ms 上升到 15ms，直接影响配置下发的实时性。

本课程设计的压测沙盘是一个可复现、可观测、可调优的实验环境，用于模拟真实微服务场景下的日志产生、聚合、检索全链路，并重点压测 etcd 在其中的性能瓶颈。整体架构分为四个层次：

沙盘中的每个组件都承担明确职责，并通过 etcd 实现状态同步。下表列出各组件的功能及其与 etcd 的交互方式：

组件	功能	与 etcd 的交互	压测关注指标
Load Generator	模拟多服务日志产生，支持突发流量	从 etcd 读取日志生成配置（格式、速率）	日志产生速率、延迟抖动
Agent	采集本地日志，发送到 Kafka	向 etcd 注册自身，Watch 采集路径变更	注册延迟、Watch 事件丢失率
Collector	从 Kafka 消费，解析并写入 ES	从 etcd 获取解析规则和 ES 路由	解析吞吐、配置更新延迟
Elasticsearch	存储日志索引，提供检索能力	从 etcd 获取分片分配策略	写入 QPS、检索 P99 延迟
etcd	元数据存储、配置分发、分布式协调	自身作为压测对象	读写延迟、Watch 推送延迟、Leader 选举时间
Kibana / API	日志检索与可视化	通过 etcd 获取最新索引映射	检索响应时间、聚合查询准确率

注意： 在压测过程中，etcd 的 Watch 推送能力是最容易成为瓶颈的环节。当采集器数量超过 200 个且配置频繁变更时，etcd 的 Watch 事件积压会导致部分 Agent 无法及时收到配置更新，从而产生"配置漂移"现象。本沙盘将重点模拟和观测这一场景。

本课程将围绕以下三个递进式压测场景展开，每个场景都聚焦 etcd 的不同性能维度：

场景一：稳态压测 — 固定 100 个服务实例，日志产生速率恒定，观测 etcd 在常规负载下的读写延迟和 Watch 推送稳定性。
场景二：突发扩缩容 — 模拟 30 秒内新增 50 个服务实例，同时触发配置变更，观测 etcd 的 Leader 选举、事务写入和 Watch 事件吞吐能力。
场景三：故障注入 — 随机杀死 etcd 节点，观测集群自愈时间、日志采集中断时长以及检索降级表现。

  课程产出： 完成本课程后，你将掌握一套完整的 etcd 压测方法论，能够独立搭建日志聚合沙盘，定位 etcd 性能瓶颈，并给出针对性的调优方案（如调整心跳间隔、优化 Watch 批量推送、使用预创建 Lease 等）。