2. 限流基础理论：四大核心算法原理

在金融模型服务中，限流（Rate Limiting）是保障系统稳定性的第一道防线。本章深入剖析四种经典限流算法的核心原理、数学基础与适用场景，为后续的令牌桶与漏桶实战配置打下坚实的理论基础。

2.1 计数器算法（Counter Algorithm）

计数器算法是最直观的限流实现，在固定时间窗口内统计请求总数，超过阈值则拒绝后续请求。

• 工作原理：将时间划分为固定大小的窗口（如1秒），每个窗口维护一个计数器。请求到达时计数器加1，若计数器超过预设阈值则触发限流；窗口结束时计数器清零。
• 临界问题：窗口切换瞬间可能出现两倍阈值的突发流量。例如窗口大小为1秒、阈值为100，若第0.9秒到第1.1秒的0.2秒内集中到达200个请求，由于分属两个窗口，均不会被限流。
• 适用场景：对突发容忍度较高、实现简单的非关键路径限流。

2.2 滑动窗口算法（Sliding Window Algorithm）

滑动窗口算法是计数器算法的改进版本，通过将时间窗口细分为多个小格（slot），以滑动方式统计请求量，消除边界突发问题。

• 工作原理：将固定窗口划分为N个更小的子窗口（如1秒窗口划分为10个100ms子窗口）。每个子窗口独立计数，总窗口统计当前时间点前N个子窗口的累计值。随着时间推移，最旧的子窗口被丢弃，新子窗口加入。
• 精度控制：子窗口数量越多，统计精度越高，但内存开销也线性增长。通常N取10~100。
• 与计数器对比：滑动窗口将突发流量分散到多个子窗口，避免了“双倍突发”问题。

2.3 漏桶算法（Leaky Bucket Algorithm）

漏桶算法将请求视为水滴，以恒定速率从桶底漏出，桶满则溢出（拒绝请求）。其核心是强制平滑流量，无论入口流量多突发，出口速率始终恒定。

• 工作原理：桶容量（buffer）用于暂存突发请求，漏水速率（rate）决定处理速度。请求到达时若桶未满则入桶等待，否则被丢弃。
• 数学表达：设桶容量为C，漏水速率为R（请求/秒），当前水量为W。每来一个请求，若W < C则W+1，否则拒绝；每单位时间W减少R（最小为0）。
• 适用场景：数据库写入、消息队列消费、第三方API调用等需要严格限制输出速率的场景。

2.4 令牌桶算法（Token Bucket Algorithm）

令牌桶算法是金融模型服务中最推荐的限流方案。它以固定速率向桶中添加令牌，请求必须获取令牌才能被处理，允许一定程度的突发流量。

• 工作原理：令牌生成器以速率R向桶中添加令牌，桶容量上限为B。请求到达时从桶中取走一个令牌，若桶中有令牌则放行，否则拒绝或等待。
• 突发能力：当桶满时（B个令牌），可瞬间处理B个请求的突发流量，之后速率被限制为R。
• 与漏桶对比：令牌桶允许突发，漏桶强制平滑；令牌桶关注“能否进入”，漏桶关注“何时流出”。

2.5 算法对比与选型建议

2.6 代码示例：令牌桶核心逻辑

以下为令牌桶算法的核心实现片段，展示了令牌生成与消费的原子操作逻辑：

public class TokenBucket {
    private final long capacity;          // 桶容量
    private final double refillRate;       // 令牌生成速率（个/秒）
    private double tokens;                 // 当前令牌数
    private long lastRefillTimestamp;      // 上次补充时间戳

    public TokenBucket(long capacity, double refillRate) {
        this.capacity = capacity;
        this.refillRate = refillRate;
        this.tokens = capacity;
        this.lastRefillTimestamp = System.nanoTime();
    }

    public synchronized boolean tryConsume(int tokensToConsume) {
        refill();
        if (tokens < tokensToConsume) {
            return false;  // 令牌不足，拒绝请求
        }
        tokens -= tokensToConsume;
        return true;
    }

    private void refill() {
        long now = System.nanoTime();
        double elapsedSeconds = (now - lastRefillTimestamp) / 1_000_000_000.0;
        double tokensToAdd = elapsedSeconds * refillRate;
        tokens = Math.min(capacity, tokens + tokensToAdd);
        lastRefillTimestamp = now;
    }
}