2、标签与特征的关系：标签的定义、特征的定义、标签质量对特征有效性的影响、标签噪声的来源

在监督学习中，标签与特征构成了模型学习的核心二元组。理解两者之间的本质区别与相互作用，是进行标签口径校准的前提。本章从定义出发，逐步剖析标签质量如何传导至特征有效性，并系统梳理标签噪声的主要来源。

2.1 标签的定义

标签（Label） 是监督学习中对样本真实结果或类别的标注，通常记作 y。它代表了模型需要预测的目标变量。在特征工程中，标签是衡量特征有效性的“金标准”——特征提取与筛选的最终目的是为了更准确地预测标签。

2.2 特征的定义

特征（Feature） 是从原始数据中提取的、用于描述样本属性的可量化变量，通常记作 X。特征是模型进行预测的输入材料，其质量直接影响模型的上限。

特征按来源可分为三类：

• 原始特征：直接从数据源获取，如年龄、金额、时间戳。
• 衍生特征：通过数学变换或业务逻辑构造，如“近30天平均消费金额”。
• 组合特征：多个原始/衍生特征的交叉，如“用户年龄×商品品类”。

特征与标签的关系可以用一个简单的公式概括：

模型目标：学习 f(X) → ŷ，使得 ŷ ≈ y
其中：
  X = [x₁, x₂, ..., xₙ]  # 特征向量
  y = 真实标签
  ŷ = 模型预测值

2.3 标签质量对特征有效性的影响

标签质量是特征有效性的“天花板”。即使特征提取再精细、特征选择再合理，如果标签本身存在系统性偏差或随机错误，特征与标签之间的统计关联将被扭曲。以下表格总结了不同标签质量问题对特征评估的具体影响：

2.4 标签噪声的来源

标签噪声并非单一来源，而是贯穿数据采集、标注、存储、对齐全生命周期。理解噪声来源是制定校准策略的第一步。以下按来源类型进行系统梳理：

2.4.1 标注过程噪声

• 标注员主观偏差：不同标注员对同一标准理解不一致，尤其在情感分析、图像分割等任务中。
• 标注疲劳与失误：长时间重复劳动导致误标、漏标。
• 标注工具限制：界面设计不合理导致点选错误，或自动标注算法引入系统性偏差。

2.4.2 数据采集噪声

• 传感器误差：IoT设备、日志采集器精度不足或环境干扰。
• 数据录入错误：人工录入时的拼写错误、格式混乱。
• 采样偏差：采集样本不能代表真实分布，导致标签分布偏移。

2.4.3 时间与口径噪声

• 标签延迟：标签的观测时间点与特征时间点不对齐，例如用“未来信息”预测“过去事件”。
• 口径漂移：业务规则变更后，新旧标签定义不一致（如“逾期”从30天改为15天）。
• 聚合层级错位：标签在用户级定义，特征在交易级提取，导致映射关系混乱。

2.4.4 系统性噪声

• 数据泄露：标签信息间接包含在特征中，造成虚假的高相关性。
• 对抗性噪声：恶意用户或系统故意制造错误标签以干扰模型。