3. 门禁与Serving基础概念
在金融模型上线体系中,门禁与Serving是两条既独立又必须咬合的主线。门禁回答“这个模型能不能上线”,Serving回答“上线后模型怎么被调用”。如果只做门禁不做Serving联动,模型可能通过审批却无法稳定提供服务;如果只做Serving不做门禁,线上就会充斥未经校验的模型版本。理解两者的定义、边界与联动关系,是后续所有实战工作的概念地基。
一、门禁的定义与核心职责
门禁(Model Gate)是指在模型从开发环境进入生产环境之前,由平台自动或半自动执行的一系列校验规则集合。它的本质是一道质量与合规的准入检查点,而不是简单的“审批按钮”。门禁通常覆盖以下维度:
- 数据合规:训练数据是否包含敏感字段、是否满足脱敏要求、样本时间窗口是否合规。
- 模型质量:离线AUC、KS、PSI、回撤、覆盖率等指标是否达到阈值。
- 稳定性:模型对扰动、缺失值、极端输入的鲁棒性是否通过。
- 可解释性:是否提供特征重要性、拒绝原因码、决策路径说明。
- 工程规范:模型文件格式、依赖版本、推理耗时、内存占用是否达标。
门禁的判定结果一般有三种状态:PASS、WARN、BLOCK。其中WARN允许带条件上线,但必须记录豁免原因和责任人;BLOCK则强制阻断,不允许进入Serving。
二、Serving的定义与核心职责
Serving(模型服务)是指将模型以标准化接口对外提供推理能力的一层运行时系统。它关注的是“模型如何被稳定、低延迟、可观测地调用”。在金融场景中,Serving通常需要支持批量评分、实时评分、流式评分三种模式,并具备以下能力:
- 版本管理:同一模型多版本共存,支持灰度、蓝绿、回滚。
- 流量治理:限流、熔断、超时、重试、降级策略。
- 特征对齐:在线特征与离线训练特征的一致性校验。
- 可观测性:QPS、P99延迟、错误率、特征缺失率、分数分布漂移。
- 安全审计:调用方鉴权、请求留痕、敏感字段脱敏。
三、门禁与Serving的联动关系
门禁与Serving的联动,本质上是把“准入结论”转化为“运行时配置”。门禁通过后,系统应自动生成一份上线凭证(Release ),其中包含模型ID、版本号、门禁报告ID、允许的流量比例、生效时间、回滚版本等。Serving在加载模型时,必须校验该凭证,否则拒绝提供服务。
联动关系可以概括为三个关键动作:
- 门禁结论写入配置中心:门禁系统将
PASS结果和阈值快照写入配置中心,作为Serving的准入依据。 - Serving拉取凭证并校验:Serving启动或热加载时,从配置中心读取凭证,校验签名、有效期和模型哈希。
- 运行时持续回传指标:Serving将线上指标回传给门禁系统,形成“上线后监控—异常触发—自动回滚”的闭环。
下面是一个典型的联动配置片段,展示了门禁结论如何被Serving消费:
{
"model_id": "credit_score_v3",
"version": "20240612-01",
"gate_report_id": "GATE-20240612-7781",
"gate_status": "PASS",
"traffic_ratio": 0.1,
"rollback_version": "20240520-03",
"effective_from": "2024-06-12T10:00:00Z",
"signature": "sha256:9f2c..."
}
四、典型架构与关键术语
一个完整的门禁与Serving联动架构通常包含五层:开发层、门禁层、配置层、Serving层、监控层。开发层产出模型和特征;门禁层执行校验并生成凭证;配置层存储凭证和流量策略;Serving层加载模型并对外服务;监控层采集线上指标并反馈给门禁层。
| 术语 | 含义 | 所属层 |
|---|---|---|
| Gate Report | 门禁校验报告,记录所有检查项、阈值、实际值和结论 | 门禁层 |
| Release | 上线凭证,绑定模型版本与门禁结论,Serving校验后放行 | 配置层 |
| Feature Store | 特征存储,保证离线训练与在线推理特征一致 | 开发/Serving层 |
| Shadow Mode | 影子模式,新模型只接收流量不返回结果,用于对比验证 | Serving层 |
| Canary Release | 金丝雀发布,按比例逐步放量,异常时自动回滚 | Serving层 |
| PSI | 群体稳定性指标,衡量线上分数分布与训练分布的偏移 | 监控层 |
五、常见误区与复盘要点
复盘时建议重点检查三件事:第一,门禁报告中的阈值是否与Serving监控指标一一对应;第二,Release 是否包含回滚版本和有效期;第三,线上PSI或特征缺失率异常时,是否能自动触发门禁侧的重新评估。只有把这三件事串起来,门禁与Serving才算真正联动,而不是两张皮。