漏桶算法详解

漏桶算法（Leaky Bucket）是流量整形与限流领域最经典的算法之一。其核心思想是将突发流量“削峰填谷”，强制输出速率恒定，非常适合需要严格平滑流量的场景，如催收系统的外呼速率控制、模型推理服务的请求排队等。

算法原理

漏桶算法将请求比作水滴，系统内部维护一个固定容量的“桶”。请求到达时，先尝试放入桶中；桶满则直接丢弃请求（拒绝服务）。桶底部有一个固定速率的“漏洞”，以恒定速率将请求漏出并处理。无论外部请求如何突发，经过漏桶后，输出到下游服务的流量始终是平滑的。

参数配置

漏桶算法有两个关键参数，直接决定限流效果与系统吞吐能力：

适用场景：平滑流量

漏桶算法最适合对输出流量平滑度有严格要求的场景，而非追求最大吞吐。典型应用包括：

• 催收外呼速率控制： 防止瞬间大量外呼导致运营商封号或被叫方投诉，强制外呼速率恒定。
• Model Serving 请求排队： GPU 推理服务无法承受突发高并发，漏桶可将请求均匀喂给模型，避免显存溢出（OOM）。
• 数据库写入限流： 防止业务高峰期突发写入导致主从延迟或锁竞争。
• 第三方 API 调用： 对方服务有严格的 QPS 配额，漏桶确保不超限。

与令牌桶对比

令牌桶（Token Bucket）是另一种主流限流算法，常与漏桶混淆。两者核心区别在于对突发流量的处理哲学：

代码示例：漏桶限流器（Go 语言）

以下是一个基于时间戳的漏桶实现，适用于催收外呼或模型推理的请求排队：

package main

import (
    "sync"
    "time"
)

// LeakyBucket 漏桶限流器
type LeakyBucket struct {
    rate       float64       // 漏出速率（请求/秒）
    capacity   int64         // 桶容量
    water      int64         // 当前水量（排队请求数）
    lastLeakMs int64         // 上次漏水时间戳（毫秒）
    mu         sync.Mutex
}

// NewLeakyBucket 创建漏桶
func NewLeakyBucket(rate float64, capacity int64) *LeakyBucket {
    return &LeakyBucket{
        rate:       rate,
        capacity:   capacity,
        water:      0,
        lastLeakMs: time.Now().UnixMilli(),
    }
}

// Allow 判断是否允许请求通过
func (lb *LeakyBucket) Allow() bool {
    lb.mu.Lock()
    defer lb.mu.Unlock()

    now := time.Now().UnixMilli()
    // 1. 先漏水：根据时间间隔计算漏出量
    elapsed := float64(now - lb.lastLeakMs)
    leakAmount := int64(elapsed * lb.rate / 1000)
    if leakAmount > 0 {
        if leakAmount > lb.water {
            lb.water = 0
        } else {
            lb.water -= leakAmount
        }
        lb.lastLeakMs = now
    }

    // 2. 判断桶是否已满
    if lb.water < lb.capacity {
        lb.water++
        return true
    }
    // 桶满，拒绝请求
    return false
}