4. 编码分类变量：从标签到数值的四种核心映射

分类变量（Categorical Variable）是数据中最常见的非数值特征，但绝大多数机器学习模型只能处理数值输入。因此，将分类变量转换为数值表示是特征工程中绕不开的基础操作。本章详细拆解四种最常用的编码方法：标签编码、独热编码、目标编码和频率编码，并给出各自适用场景与避坑指南。

4.1 四种编码方法总览

4.2 标签编码（Label Encoding）

标签编码将每个类别映射为一个从 0 开始的整数。例如颜色特征：红→0，蓝→1，绿→2。实现简单，输出仅占一列，内存开销极小。

# 标签编码示例（Python + scikit-learn）
from sklearn.preprocessing import LabelEncoder

le = LabelEncoder()
data['color_encoded'] = le.fit_transform(data['color'])
# 输出：红→0, 蓝→1, 绿→2

4.3 独热编码（One-Hot Encoding）

独热编码为每个类别创建一个独立的二进制列（0 或 1）。例如颜色特征有 3 个类别，则生成 3 列：is_red、is_blue、is_green。每行只有一个位置为 1，其余为 0。

优点：完全消除顺序误导，适合线性模型和神经网络。
缺点：当类别基数高（如城市名、用户ID）时，特征维度急剧膨胀，导致稀疏矩阵和计算开销剧增。

# 独热编码示例（Python + pandas）
import pandas as pd

one_hot = pd.get_dummies(data['color'], prefix='color')
data = pd.concat([data, one_hot], axis=1)
# 输出：color_red, color_blue, color_green 三列

4.4 目标编码（Target Encoding）

目标编码用每个类别对应的目标变量均值来替换原始类别。例如在房价预测中，计算每个城市的历史平均房价，然后用该均值编码城市特征。为缓解过拟合，通常加入平滑（Smoothing）或交叉验证。

平滑公式：

encoded_value = (n_i * mean_i + m * global_mean) / (n_i + m)
# n_i：类别 i 的样本数
# mean_i：类别 i 的目标均值
# m：平滑参数（控制全局均值的权重）

# 目标编码示例（Python + category_encoders）
import category_encoders as ce

encoder = ce.TargetEncoder(cols=['city'], smoothing=10)
data['city_encoded'] = encoder.fit_transform(data['city'], data['price'])

4.5 频率编码（Frequency Encoding）

频率编码将每个类别替换为该类别在数据集中出现的频次或频率。例如“北京”出现 500 次，“上海”出现 200 次，则分别编码为 500 和 200。这种方法保留了类别的分布信息，且输出仅一列，不会增加维度。

适用场景：当类别出现频次与目标变量存在相关性时（例如高频类别往往对应更高或更低的目标值），频率编码非常有效。它天然对稀有类别进行了压缩，减少了噪声影响。

# 频率编码示例（Python + pandas）
freq_map = data['city'].value_counts(normalize=True)  # 频率
data['city_freq'] = data['city'].map(freq_map)

# 也可使用频次（绝对计数）
freq_map_abs = data['city'].value_counts()
data['city_freq_abs'] = data['city'].map(freq_map_abs)

4.6 编码方法选择决策流程

4.7 实战对比：不同编码对模型的影响

以下表格展示了一个包含 3 个类别的城市特征，分别使用四种编码后的数值结果：