2. 在线推理链路简介
2.1 什么是在线推理
在线推理(Online Inference)是指系统在接收到实时交易或事件后,在毫秒至秒级时间内完成模型计算、规则匹配与风险评分,并立即输出决策结果的过程。在反洗钱(AML)场景中,在线推理通常嵌入在交易处理管道中,在资金划转完成前完成拦截或放行判断。
核心特征: 在线推理是“请求-响应”模式,每次推理仅处理单条或少量交易,延迟要求严格(通常 < 500ms),且必须保证高可用与结果一致性。
2.2 在线推理 vs. 离线批处理
传统反洗钱系统多采用离线批处理(Batch Processing)方式,在每日终了或固定时间窗口内扫描大量交易,生成可疑报告。在线推理则改变了这一范式。两者的关键差异如下表所示:
| 对比维度 | 在线推理 | 离线批处理 |
|---|---|---|
| 触发方式 | 事件驱动(交易发生时立即触发) | 定时调度(每日/每小时批量启动) |
| 处理粒度 | 单条交易或小批量(1~10 条) | 全量数据(百万~亿级) |
| 延迟要求 | 毫秒~秒级(SLA 通常 < 1s) | 分钟~小时级(无严格实时要求) |
| 计算资源 | 低延迟、高并发、常驻服务 | 高吞吐、可弹性伸缩、离线集群 |
| 模型更新 | 热加载或蓝绿部署,需零停机 | 可离线更新,重启后生效 |
| 输出用途 | 实时拦截、增强验证、即时告警 | 事后分析、监管报表、回溯调查 |
| 典型 AML 场景 | 交易拦截、实时名单匹配、异常转账检测 | 可疑交易报告(STR)生成、客户风险评级 |
实践建议: 在线推理与离线批处理并非互斥关系。成熟的 AML 系统通常采用“在线拦截 + 离线回溯”的双轨架构:在线推理负责阻断高风险交易,离线批处理负责深度挖掘与合规报告。
2.3 在线推理在反洗钱场景中的核心价值
在线推理将反洗钱能力从“事后发现”提升到“事中阻断”,其核心价值体现在以下四个层面:
- 资金损失最小化: 在资金到达洗钱账户或离境前完成拦截,避免追回困难。
- 监管合规前置: 满足 FATF 及各国监管对“实时监控”的合规要求,降低处罚风险。
- 客户体验优化: 低延迟推理减少对正常交易的干扰,避免误杀导致客户投诉。
- 运营效率提升: 自动拦截低价值告警,减少人工审核量,使分析师聚焦高优案件。
2.4 在线推理链路架构概览
一个完整的反洗钱在线推理链路通常包含以下核心组件:
- 事件接入层: 接收交易消息(Kafka / HTTP / gRPC),进行协议解析与格式校验。
- 特征计算层: 实时聚合账户历史、设备指纹、IP 地理信息等上下文特征。
- 规则引擎: 执行专家规则(如单笔金额阈值、高频交易检测、名单匹配)。
- 模型推理层: 加载预训练 ML/DL 模型(XGBoost / DNN / GNN),输出风险概率。
- 决策融合层: 综合规则与模型结果,按策略矩阵输出最终动作。
- 结果分发层: 将决策结果写回交易系统、告警平台与审计日志。
架构注意点: 在线推理链路中,特征计算层是延迟瓶颈的高发区。建议将频繁使用的特征(如近 24 小时交易频次、设备历史风险分)预计算并缓存到内存 KV 存储(如 Redis),避免每次推理都从数据库全量扫描。
2.5 在线推理的延迟预算分配
一个典型的在线推理请求,其端到端延迟预算通常分配如下:
| 阶段 | 预算时间 | 占比 | 优化要点 |
|---|---|---|---|
| 网络传输与反序列化 | 50 ~ 100 ms | ~20% | 使用 Protobuf / FlatBuffers 减少序列化开销 |
| 特征计算与聚合 | 100 ~ 200 ms | ~40% | 预计算 + 缓存;避免跨服务 JOIN |
| 规则引擎匹配 | 20 ~ 50 ms | ~10% | 规则编译为 DAG 执行;索引化名单匹配 |
| 模型推理 | 30 ~ 100 ms | ~20% | 模型量化;ONNX Runtime / TensorRT 加速 |
| 决策融合与结果回写 | 20 ~ 50 ms | ~10% | 异步写日志;决策结果本地缓存 |
性能基线: 在 99 分位(P99)延迟下,整个在线推理链路应控制在 500ms 以内。超过 1s 的推理可能导致交易超时或客户体验严重下降,需立即进行链路压测与瓶颈定位。