4、相关性分析与多重共线性：皮尔逊/斯皮尔曼相关系数、VIF方差膨胀因子、高相关特征处理策略

在风控建模中，特征之间的高度相关性会导致模型系数不稳定、可解释性下降，并放大过拟合风险。本章系统讲解相关性度量方法、多重共线性诊断工具以及高相关特征的筛选与处理策略。

4.1 相关性度量：皮尔逊与斯皮尔曼

相关性分析是特征筛选的第一步，用于量化两个变量之间的线性或单调关联程度。风控场景中，连续型变量（如收入、负债比）与有序型变量（如信用评分等级）需采用不同的相关系数。

4.2 多重共线性诊断：VIF方差膨胀因子

VIF衡量某个特征被其他所有特征线性解释的程度。VIF值越大，说明该特征与其他特征的多重共线性越严重。风控建模中，通常以VIF > 10作为剔除阈值。

import pandas as pd
import numpy as np
from statsmodels.stats.outliers_influence import variance_inflation_factor
from sklearn.linear_model import LinearRegression

def calculate_vif(df, features):
    """计算指定特征的VIF值"""
    vif_data = pd.DataFrame()
    vif_data["feature"] = features
    vif_data["VIF"] = [variance_inflation_factor(df[features].values, i) 
                       for i in range(len(features))]
    return vif_data.sort_values("VIF", ascending=False)

# 示例：假设df已包含风控特征
features = ['income', 'debt_ratio', 'credit_score', 'loan_amount', 'age']
vif_result = calculate_vif(df, features)
print(vif_result)

4.3 高相关特征处理策略

当特征间相关系数绝对值超过0.7或VIF超过10时，需采取以下策略之一进行降维或合并：

1. 直接剔除：保留与目标变量相关性更高、业务解释性更强的特征，剔除冗余特征。
2. 特征合并：对高度相关的特征进行加权平均、主成分分析（PCA）或线性组合，生成新特征。
3. 正则化约束：在XGBoost中通过colsample_bytree、lambda（L2正则）等参数抑制共线性影响。
4. 业务规则筛选：依据风控业务逻辑，保留最具区分度的特征，如保留“负债收入比”而非同时保留“负债”和“收入”。

4.4 相关性分析与共线性诊断流程

下图展示了从原始特征到筛选后特征集的完整诊断与处理流程：

4.5 特征筛选决策矩阵

综合相关系数与VIF结果，可按以下矩阵决定特征去留：

4.6 高相关特征处理策略对比

下表对比了四种常见处理策略的适用场景与优缺点：

4.7 风控场景中的共线性处理案例

以信贷申请评分卡为例，原始特征包含“月收入”、“年收入”、“负债总额”、“信用卡额度”等高度相关的变量。处理步骤如下：

1. 计算相关系数矩阵：发现“月收入”与“年收入”相关系数达0.95，“负债总额”与“信用卡额度”相关系数达0.82。
2. 计算VIF：“月收入”VIF=18.5，“年收入”VIF=22.3，均超过10。
3. 业务规则筛选：保留“月收入”（更稳定）和“负债收入比”（衍生特征），剔除“年收入”和“信用卡额度”。
4. 验证：处理后所有特征VIF均小于4，模型AUC提升约2%，特征重要性排序更稳定。