VIP20
本课程属于：063-限流熔断治理尾延迟压测 Web后端与企业应用开发 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

分布式系统尾延迟压测中rate limiting治理方案

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导论
尾延迟与速率限制的定义 · 为什么在压测中需要治理速率限制 · 课程目标与学习路径
课程导论尾延迟
02
尾延迟基础
延迟分布与百分位（P50/P99/P… · 长尾效应的成因 · 对用户体验和系统稳定性的影响
尾延迟基础P50/P99/P
03
速率限制基础
令牌桶 · 漏桶 · 固定窗口
速率限制基础令牌桶
04
分布式压测场景
分布式压测的架构特点 · 流量模型 · 与单机压测的区别
分布式压测场景分布式压测的架构…
05
尾延迟与速率限制的关联
速率限制如何影响尾延迟 · 不当限速导致的问题（如惊群效应 · 排队积压）
尾延迟速率限制的关联
06
治理目标与挑战
降低P99延迟 · 避免过载 · 公平性
治理目标挑战
07
全局速率限制架构
集中式限速器（Redis/Etcd）…
全局速率限制架构Redis/Etcd
08
令牌桶算法实现
基于Redis的令牌桶实现细节 · 原子操作 · Lua脚本优化
令牌桶算法实现Redis
09
漏桶算法实现
基于队列的漏桶实现 · 背压机制 · 在压测中的适用性
漏桶算法实现基于队列的漏桶实…
10
滑动窗口算法实现
时间窗口分片 · 计数器合并 · 精度与内存的权衡
滑动窗口算法实现时间窗口分片
11
自适应速率限制
基于系统负载（CPU/内存/队列深度…
自适应速率限制CPU
12
基于反馈的限速
PID控制器在速率限制中的应用 · 目标延迟追踪
基于反馈的限速PID
13
客户端侧限速
客户端自限速（Client-Side… · 退避策略（Exponential B…
客户端侧限速Client-Side
14
服务端侧限速
请求排队 · 拒绝策略（HTTP 429/503） · 优雅降级
服务端侧限速请求排队
15
分布式一致性限速
使用一致性哈希分配限速桶 · 避免热点 · 协调开销
分布式一致性限速使用一致性哈希分…
16
压测工具集成
在wrk · ghz · locust
压测工具集成wrk
17
压测场景设计
阶梯压测 · 突发压测 · 持续压测下的限速策略配置
压测场景设计阶梯压测
18
尾延迟监控与告警
Prometheus + Grafa… · 限速命中率 · 拒绝率
尾延迟监控告警
19
限速策略的A/B测试
灰度发布限速规则 · 对比不同算法对尾延迟的影响
A/B限速策略的
20
常见问题与反模式
限速粒度太粗/太细 · 限速器成为瓶颈 · 限速与重试风暴
常见问题反模式
21
案例研究1
电商大促场景下的全局限速与尾延迟优化
案例研究1电商大促场景下的…
22
案例研究2
微服务调用链中的逐跳限速与级联效应
案例研究2微服务调用链
23
案例研究3
实时流处理系统中的背压与速率限制
案例研究3实时流处理系统
24
高级主题
基于机器学习的预测性限速 · 异常检测驱动的限速
高级主题基于机器学习的预…
25
性能基准测试
限速器本身的性能测试（吞吐 · 延迟 · CPU开销）
性能基准测试限速器本身的性能…
26
限速配置管理
动态配置中心（Apollo/Naco… · 热加载 · 版本回滚
限速配置管理Apollo/Naco
27
安全与容错
限速器高可用设计 · 降级策略 · 熔断与限速联动
安全容错
28
成本与资源权衡
限速带来的额外延迟开销 · 计算资源消耗 · 网络往返
成本资源权衡
29
最佳实践总结
设计原则 · 实施步骤 · 常见陷阱
最佳实践总结设计原则
30
课程总结与展望
未来趋势（eBPF限速 · Serverless限速） · 进一步学习资源
课程总结eBPF