3. Python Serving 技术选型：Flask vs FastAPI vs gRPC vs Tornado

在实时风控系统中，Serving 层的技术选型直接决定了接口延迟、吞吐量、资源消耗以及团队维护成本。本章从风控场景的典型需求出发，对四种主流 Python Serving 框架进行横向对比，并给出选型建议。

3.1 风控 Serving 的核心诉求

实时风控模型服务通常需要满足以下关键指标：

• 低延迟：单次推理 P99 延迟通常要求 < 50ms，部分场景要求 < 10ms。
• 高吞吐：单机 QPS 需支撑数千至数万级别，且能水平扩展。
• 异步非阻塞：风控链路常涉及多个上游特征服务调用，异步 IO 可显著降低整体耗时。
• 协议兼容性：内部服务间常用 gRPC/Thrift，外部 API 需支持 HTTP/JSON。
• 模型热加载：风控模型更新频繁，服务需支持不重启的模型版本切换。

3.2 框架核心特性对比

3.3 框架架构与请求处理流程

下图展示了四种框架在风控模型 Serving 场景下的典型请求处理路径，重点对比同步阻塞与异步非阻塞的差异。

3.4 性能基准测试参考

以下数据基于相同硬件环境（4C8G, Python 3.10）对同一逻辑回归模型进行压测，仅作相对参考：

3.5 风控场景选型决策树

根据风控系统的不同阶段和规模，推荐以下选型路径：

3.6 代码示例：FastAPI 与 gRPC 最小 Serving 对比

以下展示同一风控模型在 FastAPI 和 gRPC 下的最小 Serving 实现，突出协议和调用方式的差异。

FastAPI 版本 (RESTful)

# app.py
from fastapi import FastAPI
from pydantic import BaseModel
import joblib
import numpy as np

app = FastAPI(title="风控模型 Serving")
model = joblib.load("risk_model.pkl")

class FeatureInput(BaseModel):
    features: list[float]

@app.post("/predict")
async def predict(input_data: FeatureInput):
    X = np.array(input_data.features).reshape(1, -1)
    proba = model.predict_proba(X)[0, 1]
    return {"risk_score": round(float(proba), 4)}

# 启动: uvicorn app:app --host 0.0.0.0 --port 8000 --workers 4

gRPC 版本 (Protobuf RPC)

# proto/risk_service.proto
syntax = "proto3";

service RiskService {
    rpc Predict (PredictRequest) returns (PredictResponse);
}

message PredictRequest {
    repeated float features = 1;
}

message PredictResponse {
    float risk_score = 1;
}

# server.py
import grpc
from concurrent import futures
import risk_service_pb2
import risk_service_pb2_grpc
import joblib
import numpy as np

model = joblib.load("risk_model.pkl")

class RiskServicer(risk_service_pb2_grpc.RiskServiceServicer):
    async def Predict(self, request, context):
        X = np.array(request.features).reshape(1, -1)
        proba = model.predict_proba(X)[0, 1]
        return risk_service_pb2.PredictResponse(risk_score=round(float(proba), 4))

async def serve():
    server = grpc.aio.server(futures.ThreadPoolExecutor(max_workers=10))
    risk_service_pb2_grpc.add_RiskServiceServicer_to_server(RiskServicer(), server)
    server.add_insecure_port("[::]:50051")
    await server.start()
    await server.wait_for_termination()

# 启动: python server.py

3.7 选型总结与建议