3、特征工程导论:特征工程在反洗钱模型中的重要性、原始数据到特征向量的转换流程
3.1 为什么特征工程是反洗钱模型的“基石”?
在反洗钱(AML)领域,原始交易数据通常包含大量噪声、缺失值和无关信息。机器学习模型无法直接理解“张三在深夜向多个陌生账户转账”这样的语义,它只能处理数值向量。特征工程正是将原始业务数据转化为模型可理解的数值特征的过程,其质量直接决定了模型性能的上限。
核心观点:数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限。在AML场景中,好的特征工程能让简单模型(如逻辑回归)达到甚至超越复杂模型(如深度神经网络)的效果。
| 维度 | 原始数据(Raw Data) | 特征向量(Feature Vector) |
|---|---|---|
| 数据类型 | 文本、日期、金额、枚举值、关联ID | 浮点数、整数、One-Hot编码、Embedding |
| 可解释性 | 业务人员可直接理解 | 需要特征映射才能理解 |
| 缺失处理 | 允许空值、NULL | 必须填充或标记,不允许NaN |
| 模型输入 | 无法直接输入 | 可直接输入ML算法 |
| 信息密度 | 低,存在大量冗余 | 高,聚焦于区分洗钱与正常行为 |
3.2 原始数据到特征向量的转换流程
从原始数据到最终特征向量,通常需要经过以下五个核心步骤。每一步都直接影响特征的质量和模型效果。
- 数据采集与探查(EDA):理解数据分布、缺失率、异常值,识别可用的数据源(交易表、客户表、账户表、设备指纹等)。
- 数据清洗:处理缺失值(均值/中位数填充、特殊值标记)、去重、修正格式错误、处理离群点(如单笔交易金额超过均值10个标准差)。
- 特征构建:基于业务规则和统计方法生成新特征。这是AML特征工程的核心,包括聚合特征、时序特征、网络特征、比率特征等。
- 特征变换与编码:将非数值特征转换为数值形式。例如:对交易渠道进行One-Hot编码,对金额进行对数变换以降低偏态,对时间戳提取“小时”、“星期几”等周期性特征。
- 特征选择与降维:剔除冗余或无关特征,减少过拟合风险,提升训练速度。常用方法包括方差阈值、相关系数、基于模型的特征重要性(如XGBoost的feature_importances_)。
3.3 AML场景中的典型特征构建方法
反洗钱特征工程的核心在于“分层”与“聚合”。单一交易的特征(如金额、时间)区分能力有限,但将交易按账户、客户、设备、IP等维度聚合后,就能发现异常模式。
| 特征层级 | 构建方法 | AML应用示例 |
|---|---|---|
| 交易级 | 直接提取或简单变换 | 交易金额的对数、交易时间的小时、交易类型One-Hot |
| 账户级(日/周/月) | 滑动窗口聚合(sum/mean/max/std) | 过去7天累计交易金额、过去30天交易次数标准差、最大单笔交易占比 |
| 客户级 | 跨账户聚合 | 该客户名下所有账户的总交易量、关联账户数量、开户时长 |
| 网络级 | 图特征(PageRank、聚类系数、中心度) | 交易对手数量、二度关联节点数、是否属于已知风险团伙 |
| 行为序列级 | 时序模式提取(LSTM特征、统计特征) | 交易间隔的变异系数、夜间交易占比、金额递增模式 |
实战建议:在构建账户级聚合特征时,务必区分“历史窗口”和“当前交易”。使用严格的时间戳划分,避免未来信息泄露(Data Leakage)。例如,计算“过去7天累计交易金额”时,窗口截止时间应为当前交易时间戳,而非系统当前时间。
3.4 特征向量质量评估指标
特征构建完成后,需要通过量化指标评估其质量,确保特征向量能够有效区分洗钱行为与正常行为。
- 覆盖度(Coverage):特征在样本中的非缺失比例。低于80%的特征需要谨慎使用或进行特殊填充。
- 稳定性(Stability):特征分布随时间的变化程度。使用PSI(Population Stability Index)衡量,PSI < 0.1 表示稳定。
- 区分度(Discrimination):特征在正负样本上的分布差异。常用IV(Information Value)衡量,IV > 0.3 表示强区分能力。
- 相关性(Correlation):特征之间的线性相关程度。相关系数 > 0.9 的特征对通常需要剔除其中一个,或使用PCA降维。
3.5 常见陷阱与避坑指南
⚠️ 数据泄露(Data Leakage):这是AML特征工程中最常见且最严重的错误。例如,使用整个数据集的均值填充缺失值,或使用未来信息构建历史特征。务必在时间序列划分后再进行特征计算。
- 陷阱1:对金额特征直接使用原始值而不做对数变换,导致模型被极端大额交易主导。
- 陷阱2:对高基数类别特征(如银行卡号)直接进行One-Hot编码,导致特征维度爆炸。应使用目标编码(Target Encoding)或计数编码。
- 陷阱3:忽略时间衰减效应。洗钱行为往往集中在短期内,使用等权聚合会稀释近期行为信号。建议使用指数加权移动平均(EWMA)。
- 陷阱4:特征工程完成后不做分布漂移监控。模型上线后,业务环境变化可能导致特征分布偏移,模型效果急剧下降。
3.6 小结
特征工程是反洗钱模型从“原始数据”到“智能决策”的桥梁。本章介绍了特征工程的核心重要性、标准转换流程(采集→清洗→构建→变换→选择)、AML场景下的分层特征构建方法,以及特征质量的评估指标。掌握这些内容,将为后续学习“分层特征的具体设计与实现”打下坚实基础。