3、特征服务架构设计：在线特征服务 vs 离线特征服务、特征缓存策略、高并发读取设计

在额度定价决策链路中，特征服务是连接原始数据与模型推理的桥梁。本章聚焦特征服务的架构选型、缓存策略与高并发读取设计，帮助你在延迟、吞吐与一致性之间找到最佳平衡点。

3.1 在线特征服务 vs 离线特征服务

特征服务按时效性可分为在线（Online）与离线（Offline）两类，它们在数据源、计算模式、存储介质和服务目标上存在本质差异。

3.2 特征缓存策略

缓存是降低在线特征服务延迟的核心手段。合理的缓存策略需要平衡命中率、一致性、内存开销与更新频率。

3.2.1 缓存分层模型

推荐采用三级缓存架构：本地堆内缓存 → 分布式缓存 → 特征存储，逐级回退。

• L1 本地缓存（Caffeine/Guava）：毫秒级访问，适用于高频访问且变化不频繁的特征（如用户基础画像）。
• L2 分布式缓存（Redis Cluster）：亚毫秒级，适用于跨服务共享的特征（如设备指纹、历史逾期标签）。
• L3 特征存储（HBase/MySQL）：持久化层，作为兜底数据源，仅在缓存 Miss 时访问。

3.2.2 缓存更新策略对比

3.3 高并发读取设计

在线特征服务需要支撑每秒数万甚至数十万次查询，且 P99 延迟必须控制在 10ms 以内。以下是经过生产验证的高并发设计要点。

3.3.1 连接池与线程模型

• 连接池复用：对 Redis、数据库等后端资源使用连接池（如 HikariCP、Jedis Pool），避免频繁创建/销毁连接。
• 异步非阻塞 I/O：采用 Netty 或 Vert.x 等异步框架，减少线程上下文切换开销。
• 协程/纤程：在 Java 虚拟线程或 Kotlin 协程中执行特征读取，提升吞吐量。

3.3.2 批量读取与管道化

单次请求获取多个特征时，使用 mget（Redis）或 批量查询（HBase）合并网络往返。对于跨多个特征源的场景，采用 并行调用 + 超时熔断 模式。

// 伪代码：并行批量读取特征
CompletableFuture<FeatureResult> future1 = featureClient.batchGetAsync(userId, "profile", "credit");
CompletableFuture<FeatureResult> future2 = featureClient.batchGetAsync(userId, "risk", "fraud");

FeatureResult result = CompletableFuture
    .allOf(future1, future2)
    .thenApply(v -> merge(future1.join(), future2.join()))
    .get(50, TimeUnit.MILLISECONDS); // 超时熔断

3.3.3 读写分离与副本扩展

对于 Redis Cluster 或 HBase，采用 读写分离 架构：写入主节点，读取从节点或副本。在流量高峰期，动态增加从节点副本以水平扩展读取能力。

3.4 架构总览：在线特征服务流程

下图展示了在线特征服务的核心架构与数据流，涵盖缓存分层、批量读取与高并发设计的关键节点。

3.5 离线特征服务流程

离线特征服务以批处理方式生成特征，供模型训练与离线评估使用。其核心流程包括特征计算、存储与版本管理。

3.6 特征服务选型决策矩阵

在实际项目中，需要根据业务场景、数据特征与性能要求，选择合适的特征服务架构。下表总结了关键决策因素。