4. 特征工程提升命中率：特征构造、特征选择与交叉组合

在精算模型中，原始数据往往无法直接提供足够的预测信号。特征工程是将原始数据转化为模型可有效利用的特征空间的核心环节，直接决定了规则命中率的上限。本章围绕特征构造、特征选择、特征交叉与组合、高基数特征处理四大技术展开，结合精算业务场景给出可落地的实战方法。

4.1 特征构造：从原始数据中提取信号

特征构造是根据业务逻辑和统计规律，从原始字段中生成新特征的过程。精算模型中常见的特征构造方法包括：

4.2 特征选择：Filter / Wrapper / Embedded

特征选择旨在从大量候选特征中筛选出对规则命中率贡献最大的子集，降低维度、减少过拟合、提升模型可解释性。三种主流方法对比如下：

4.2.1 实战代码示例：Filter + Embedded 组合策略

import pandas as pd
import numpy as np
from sklearn.feature_selection import SelectKBest, mutual_info_classif
from sklearn.ensemble import GradientBoostingClassifier

# 假设 X_train 为特征矩阵，y_train 为二分类标签（命中/未命中）
# Step 1: Filter 初筛 — 互信息法
selector = SelectKBest(score_func=mutual_info_classif, k=100)
X_selected = selector.fit_transform(X_train, y_train)
selected_mask = selector.get_support()
selected_features = X_train.columns[selected_mask]

# Step 2: Embedded 精筛 — GBDT 特征重要性
gbdt = GradientBoostingClassifier(n_estimators=200, max_depth=4, random_state=42)
gbdt.fit(X_selected, y_train)
importance = gbdt.feature_importances_

# 保留重要性排名前 30 的特征
top_k_idx = np.argsort(importance)[::-1][:30]
final_features = selected_features[top_k_idx]

print(f"最终保留特征数: {len(final_features)}")
print(f"Top 5 特征: {final_features[:5].tolist()}")

4.3 特征交叉与组合：挖掘高阶交互信号

精算模型中，单一特征往往不足以刻画复杂风险。特征交叉通过组合两个或多个原始特征，生成能捕捉交互效应的新特征，显著提升规则命中率。

4.3.1 常见交叉方式

• 笛卡尔积交叉：类别特征两两组合，如 性别 × 职业类别，生成新类别特征。
• 多项式交叉：连续特征进行乘除或多项式运算，如 年龄² × 保额。
• 业务规则交叉：基于精算经验定义组合规则，如 年龄 > 50 且 有慢性病史 生成高风险标识。
• 模型自动交叉：使用FM（因子分解机）或DeepFM等模型自动学习特征交互。

4.4 高基数特征处理

高基数特征（如地区代码、职业编码、医院ID等）在精算数据中非常常见。直接进行独热编码会导致维度爆炸，且大量稀疏列会降低模型命中率。常用处理方法如下：

4.4.1 目标编码实战（带平滑与交叉验证）

import numpy as np
import pandas as pd
from sklearn.model_selection import KFold

def target_encoding_smooth(X, y, col, alpha=10, n_folds=5):
    """
    带平滑和交叉验证的目标编码，防止过拟合
    alpha: 平滑强度，越大越趋向全局均值
    """
    X_encoded = X.copy()
    global_mean = y.mean()
    
    kf = KFold(n_splits=n_folds, shuffle=True, random_state=42)
    X_encoded[col + '_te'] = np.nan
    
    for train_idx, val_idx in kf.split(X):
        X_train_fold = X.iloc[train_idx]
        y_train_fold = y.iloc[train_idx]
        
        # 计算每个类别的均值
        category_means = y_train_fold.groupby(X_train_fold[col]).mean()
        category_counts = y_train_fold.groupby(X_train_fold[col]).count()
        
        # 平滑公式: (count * mean + alpha * global_mean) / (count + alpha)
        smoothed = (category_counts * category_means + alpha * global_mean) / (category_counts + alpha)
        
        # 映射到验证集
        X_encoded.loc[val_idx, col + '_te'] = X.iloc[val_idx][col].map(smoothed)
    
    # 处理验证集中未出现的新类别
    X_encoded[col + '_te'] = X_encoded[col + '_te'].fillna(global_mean)
    
    return X_encoded

# 使用示例
# df_encoded = target_encoding_smooth(df, df['target'], 'region_code', alpha=15)

4.5 特征工程闭环：从构造到评估

特征工程不是一次性的流水线，而是一个迭代闭环。建议按以下步骤持续优化：

1. 基线建立：使用原始特征训练模型，记录命中率基线。
2. 特征构造：基于业务理解和统计探索，生成候选特征集。
3. 特征选择：先Filter快速过滤，再Embedded或Wrapper精筛。
4. 交叉组合：对保留特征进行有业务含义的交叉，生成高阶特征。
5. 高基数处理：对类别特征进行目标编码或频数编码。
6. 评估验证：在验证集上评估命中率提升，避免过拟合。
7. 迭代优化：根据评估结果，调整构造方向或选择策略。