4、请求路由与负载均衡：基于地理位置、集群负载、网络延迟的智能路由策略、一致性哈希与权重轮询的实现

在跨集群调度场景中，请求路由与负载均衡是决定调度质量与系统吞吐的核心环节。传统轮询或随机策略无法感知集群间的物理距离、实时负载与网络质量，容易导致跨地域延迟高企、热点集群过载、冷集群资源闲置。本章从智能路由策略与一致性哈希/权重轮询两个维度，拆解跨集群调度接口的优化路径。

4.1 智能路由策略的三维决策模型

智能路由的核心是将调度决策从“静态配置”升级为“多维实时评估”。我们定义三维决策模型：地理位置（Geo）、集群负载（Load）、网络延迟（Latency）。调度接口在收到请求时，根据这三个维度的加权评分选择最优目标集群。

4.2 智能路由流程与评分聚合

下图展示了跨集群调度接口在收到一次请求时，如何执行三维评分并选出最优集群。调度器先并行获取各维度的实时数据，然后对每个候选集群计算加权总分，最后将请求路由到得分最高的集群。

4.3 一致性哈希：最小化集群变更影响

当集群节点扩缩容时，传统哈希取模会导致大量请求重新映射，引发缓存雪崩与连接重建风暴。一致性哈希通过将哈希值空间组织成环状结构，使每次集群变更仅影响相邻节点的路由映射，大幅降低重分布比例。

一致性哈希的核心实现步骤：

1. 构建哈希环：将集群节点（或虚拟节点）的标识（如 IP:Port）通过哈希函数映射到 0~2^32-1 的环上。
2. 请求映射：对请求 key 计算哈希值，在环上顺时针查找第一个节点。
3. 虚拟节点：为每个物理节点分配 100~200 个虚拟节点，解决节点数量少时的分布不均问题。
4. 增删节点：仅需调整受影响节点的路由，其他节点路由不变。

4.4 权重轮询：带权重的平滑分发

权重轮询用于解决集群间异构配置（如不同规格的机器、不同带宽上限）下的流量分配问题。经典加权轮询（WRR）存在短时间窗口内请求集中到高权重节点的缺陷，我们采用平滑加权轮询（SWRR）算法，使请求在时间轴上均匀分布。

平滑加权轮询的伪代码实现：

// 平滑加权轮询（SWRR）核心逻辑
class SmoothWeightedRoundRobin {
    struct Node {
        string id;
        int weight;       // 静态权重
        int current;      // 当前权重
    }

    vector<Node> nodes;
    int totalWeight;

    string next() {
        int best = -1;
        int maxCurrent = -1;
        for (int i = 0; i < nodes.size(); i++) {
            nodes[i].current += nodes[i].weight;
            if (nodes[i].current > maxCurrent) {
                maxCurrent = nodes[i].current;
                best = i;
            }
        }
        nodes[best].current -= totalWeight;
        return nodes[best].id;
    }
}

4.5 一致性哈希与权重轮询的联合架构

在实际跨集群调度接口中，一致性哈希与权重轮询并非互斥，而是分层协作：第一层使用一致性哈希将请求 key 映射到逻辑分片（shard），保证相同 key 的请求始终路由到同一分片；第二层在每个分片内部，使用平滑加权轮询将请求分发到该分片下的多个物理节点，实现分片内的负载均衡。

4.6 综合优化清单

将智能路由与一致性哈希/权重轮询整合到跨集群调度接口时，建议按以下清单进行逐项优化：

• 评分缓存：三维评分结果缓存 1~3 秒，避免每次请求都触发全量探测。
• 降级策略：当某个维度的数据源超时或不可用时，自动降级为剩余维度的加权评分，或回退到权重轮询。
• 虚拟节点预热：新加入集群的节点先以低权重参与轮询，待其缓存预热后再恢复全量权重。
• 延迟探测采样：网络延迟探测采用滑动窗口 + 指数衰减，避免单次抖动影响全局路由。
• 一致性哈希均衡性监控：定期统计每个分片的请求分布标准差，标准差超过阈值时触发虚拟节点重新分配。