首页
›
云原生架构与平台工程
›
096-服务目录平台冷启动削峰
›
《Envoy缓存策略与服务目录冷启动性能优化》
VIP20
本课程属于:096-服务目录平台冷启动削峰
云原生架构与平台工程 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
Envoy缓存策略与服务目录冷启动性能优化
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导论
Envoy在云原生架构中的角色 · 服务目录冷启动问题的定义与挑战 · 削峰的必要性
课程导论
Envoy
02
Envoy核心架构
Listener · Cluster · Endpoint
Envoy
核心架构
03
Envoy配置基础
静态配置与动态配置(xDS协议) · Bootstrap文件结构 · Admin接口
Envoy
配置基础
04
服务发现与EDS
Endpoint Discovery… · 服务目录的注册与发现流程
EDS
服务发现
05
冷启动问题剖析
服务目录冷启动时Envoy的初始连接… · 控制面压力 · 内存与CPU尖峰
冷启动问题剖析
Envoy
06
缓存基础理论
HTTP缓存语义(Cache-Con… · ETag · Expires)
缓存基础理论
HTTP
07
Envoy本地缓存配置
基于磁盘的缓存(SimpleHttp… · 内存缓存(MemoryCache)的…
Envoy
本地缓存配置
08
缓存键与缓存策略
缓存键的生成规则 · 缓存命中率优化 · 缓存失效与驱逐策略(LRU/TTL)
缓存键
缓存策略
09
服务目录缓存设计
将服务发现结果(EDS响应)进行本地… · 减少控制面请求频率
服务目录缓存设计
EDS
10
缓存预热机制
启动时从持久化存储或控制面批量加载缓… · 避免冷启动空缓存
缓存预热机制
启动时从持久化存…
11
异步缓存更新
基于Watch/Notify机制的增… · 避免全量刷新导致的性能抖动
异步缓存更新
Watch/Notify
12
连接池与并发控制
Envoy连接池(HTTP/1.1 · HTTP/2 · TCP)配置
连接池
并发控制
13
负载均衡与重试策略
主动健康检查 · 被动健康检查 · 重试预算
负载均衡
重试策略
14
限流与速率限制
全局速率限制(Rate Limit… · 本地速率限制(Local Rate…
限流
速率限制
15
请求合并与去重
对同一服务目录的重复请求进行合并(R… · 减少后端压力
请求合并
去重
16
性能调优基础
Envoy运行时配置(Runtime… · 线程数 · 连接缓冲区大小
性能调优基础
Envoy
17
内存调优
堆内存管理 · TCMalloc参数 · 缓存大小限制
内存调优
堆内存管理
18
CPU调优
Worker线程数 · 事件循环优化 · 减少锁竞争
CPU
调优
19
控制面性能优化
xDS推送频率控制 · 增量xDS(Incremental… · 资源版本管理
控制面性能优化
xDS
20
监控与可观测性
Envoy统计(Stats) · 访问日志(Access Log) · 分布式追踪(Tracing)
监控
可观测性
21
压力测试与基准
使用Fortio · wrk · ghz对Envoy进行压力测试
压力测试
基准
22
缓存命中率分析
通过Admin接口/stats查看缓… · 优化缓存策略
缓存命
率分析
23
渐进式启动(Graceful Startup)
逐步增加流量权重 · 避免瞬间洪峰
Graceful
Startup
24
服务目录分片与分区
将大规模服务目录拆分为多个小分区 · 每个分区独立缓存与更新
服务目录分片
分区
25
多级缓存架构
L1内存缓存 + L2磁盘缓存 +… · 逐级回源
多级缓存架构
L1
26
故障演练与回退
模拟控制面故障 · 缓存失效场景下的降级策略(Stale…
故障演练
回退
27
实战案例一
基于Kubernetes + Ist…
实战案例一
Kubernetes
28
实战案例二
大规模服务网格(5000+服务)的E…
实战案例二
大规模服务网格
29
性能调优Checklist
从配置 · 缓存 · 连接池
Checklist
性能调优
30
课程总结与展望
Envoy未来发展方向(WebAss… · QUIC · 自适应并发)
课程总结
Envoy
所属VIP或分类
同VIP:Backstage插件冷启动镜像预热与资源调优
同VIP:Backstage插件开发中冷启动削峰:性能调优方法
同VIP:Backstage插件镜像预热与冷启动加速