3. 限流算法（上）：固定窗口计数器算法原理、滑动窗口计数器算法原理、算法对比与适用场景

限流算法是模型服务保障稳定性的第一道防线。本章聚焦两种最基础的计数器算法：固定窗口计数器与滑动窗口计数器。理解它们的原理、缺陷与适用场景，是后续学习令牌桶、漏桶等高级算法的基础。

3.1 固定窗口计数器算法原理

固定窗口计数器是最直观的限流实现。它将时间划分为固定的窗口（如 1 秒、1 分钟），每个窗口内维护一个计数器，请求到达时计数器加 1；当计数器超过预设阈值时，拒绝后续请求；窗口结束时计数器归零。

3.2 滑动窗口计数器算法原理

滑动窗口计数器通过将时间窗口细分为多个小格子（子窗口），并随着时间推移动态滑动窗口，解决了固定窗口的边界突刺问题。每个小格子独立计数，窗口总计数为所有子窗口计数之和。

3.3 算法对比与适用场景

两种算法各有优劣，选择时需结合模型服务的流量特征、精度要求和资源限制。下表从多个维度进行对比：

3.4 代码示例：滑动窗口计数器核心逻辑

以下为滑动窗口计数器的简化实现，展示子窗口维护与滑动求和的核心逻辑：

class SlidingWindowCounter:
    def __init__(self, window_size_ms=1000, sub_window_count=10, limit=100):
        self.window_size = window_size_ms
        self.sub_window_count = sub_window_count
        self.sub_window_size = window_size_ms // sub_window_count
        self.limit = limit
        # 使用循环数组存储子窗口计数
        self.counters = [0] * sub_window_count
        self.current_index = 0
        self.total = 0
        self.last_time_ms = 0

    def allow_request(self, current_time_ms):
        # 1. 计算当前时间所属子窗口索引
        elapsed = current_time_ms - self.last_time_ms
        if elapsed >= self.window_size:
            # 超过一个窗口，全部重置
            self.counters = [0] * self.sub_window_count
            self.total = 0
            self.current_index = 0
        else:
            # 滑动：将过期的子窗口计数从 total 中减去
            steps = elapsed // self.sub_window_size
            for _ in range(int(steps)):
                self.total -= self.counters[self.current_index]
                self.counters[self.current_index] = 0
                self.current_index = (self.current_index + 1) % self.sub_window_count

        # 2. 更新当前子窗口计数
        self.counters[self.current_index] += 1
        self.total += 1
        self.last_time_ms = current_time_ms

        # 3. 判断是否超过阈值
        return self.total <= self.limit

3.5 小结