3. 模型服务架构选型：单体 vs 微服务、同步 vs 异步、有状态 vs 无状态
在模型服务（Model Serving）的风险决策链路中，架构选型直接决定了系统的吞吐能力、响应延迟、资源利用率以及故障隔离性。本章从三个核心维度展开对比：单体架构与微服务架构、同步推理与异步推理、无状态服务与有状态服务。每个维度都包含权衡逻辑与风险决策场景下的推荐策略。
3.1 单体架构 vs 微服务架构
单体架构将所有模型推理逻辑、预处理、后处理、路由、监控打包在同一个进程中；微服务架构则将每个模型或每个功能模块独立部署为可独立扩展的服务。两者在风险场景下的表现差异显著。
风险决策场景提示： 在风控链路中，单体架构适合模型数量少（≤3个）、调用链路简单、团队规模小的初期阶段；微服务架构适合模型数量多、需要独立扩缩容、不同模型有不同SLA要求的成熟系统。
| 对比维度 | 单体架构 | 微服务架构 |
|---|---|---|
| 部署复杂度 | 低，单进程部署 | 高，需服务发现、配置中心、API网关 |
| 故障隔离 | 差，一个模型OOM导致整个服务不可用 | 好，单个服务故障不影响其他服务 |
| 扩缩容粒度 | 粗，整体扩缩容 | 细，按模型或功能独立扩缩 |
| 延迟开销 | 低，进程内调用 | 高，网络RTT + 序列化/反序列化 |
| 模型更新风险 | 高，需全量发布 | 低，可灰度发布单个模型 |
| 适用场景 | 模型少、调用量稳定、延迟敏感 | 模型多、调用量波动大、需独立迭代 |
3.2 同步推理 vs 异步推理
同步推理中客户端发起请求后阻塞等待模型返回结果；异步推理中客户端提交请求后立即获得一个任务ID，后续通过轮询或回调获取结果。在风险决策链路中，两种模式的选择取决于对延迟和吞吐的权衡。
关键指标： 同步推理的P99延迟通常要求 < 200ms；异步推理的端到端延迟可能达到秒级甚至分钟级，但吞吐量可提升5-10倍。
| 对比维度 | 同步推理 | 异步推理 |
|---|---|---|
| 响应方式 | 请求-响应，阻塞等待 | 提交-轮询/回调，非阻塞 |
| 延迟敏感度 | 高，适合实时风控 | 低，适合批量风控或离线分析 |
| 吞吐量 | 受限于连接数和线程数 | 高，可批量处理请求 |
| 资源利用率 | 低，线程/连接长时间占用 | 高，可复用资源处理多个任务 |
| 错误处理 | 即时返回错误码 | 需设计超时、重试、死信队列 |
| 典型场景 | 在线支付风控、实时反欺诈 | 批量信用评分、事后审计分析 |
3.3 无状态服务与有状态服务的权衡
无状态服务不保存任何请求之间的上下文数据，每个请求独立处理；有状态服务会保存会话、缓存、模型中间结果等状态信息。在模型服务架构中，这个选择直接影响水平扩展能力和推理性能。
风险提示： 有状态服务在节点故障时可能导致状态丢失或数据不一致，需要额外引入分布式缓存（如Redis）或持久化存储来保证状态可靠性。无状态服务虽然扩展性好，但每次请求都需要重新加载模型或特征，可能增加延迟。
| 对比维度 | 无状态服务 | 有状态服务 |
|---|---|---|
| 水平扩展 | 容易，任意节点可处理任意请求 | 困难，需考虑状态分片或复制 |
| 故障恢复 | 快速，直接替换节点 | 慢，需恢复状态或重新计算 |
| 推理性能 | 中等，每次需加载模型/特征 | 高，可缓存模型权重和中间结果 |
| 内存开销 | 低，无额外状态存储 | 高，需维护状态缓存 |
| 典型实现 | REST API + 无状态容器 | gRPC流 + 本地缓存 + 会话亲和性 |
| 风险决策场景 | 通用风控模型、特征工程服务 | 序列模型（LSTM/Transformer）、图神经网络 |
3.4 综合选型决策矩阵
在实际的风险决策链路中，三个维度需要联合考虑。以下矩阵给出了不同场景下的推荐组合：
| 风险场景 | 架构模式 | 推理模式 | 状态模式 | 核心考量 |
|---|---|---|---|---|
| 实时支付风控 | 单体（初期）/ 微服务（后期） | 同步推理 | 无状态 | P99延迟 < 100ms |
| 批量信用评分 | 微服务 | 异步推理 | 无状态 | 高吞吐，可接受秒级延迟 |
| 序列模型风控（LSTM） | 微服务 | 同步推理 | 有状态（缓存序列状态） | 状态一致性 + 低延迟 |
| 图神经网络反欺诈 | 微服务 | 同步推理 | 有状态（缓存图嵌入） | 图数据分片 + 邻居聚合 |
| 多模型融合决策 | 微服务 | 同步 + 异步混合 | 无状态 | 模型编排 + 超时熔断 |
架构选型黄金法则： 在风险决策链路中，无状态 + 同步推理 + 微服务是最通用的组合，覆盖80%的在线风控场景。仅在需要缓存模型中间结果或处理序列/图数据时，才引入有状态服务。异步推理保留给非实时链路，避免增加系统复杂度。