4. 标签噪声检测：交叉验证法、模型置信度法、学习曲线法、投票法

标签噪声（Label Noise）是坏样本的主要来源之一，指训练数据中样本的真实标签被错误标注。在样本构建阶段，人工标注错误、自动标注偏差、数据爬取时的上下文混淆都可能导致标签噪声。若不加以检测和清洗，模型会拟合错误标签，导致泛化能力下降。本节介绍四种主流的标签噪声检测方法，帮助你在训练前定位并处理可疑样本。

4.1 交叉验证法（Cross-Validation Based）

交叉验证法利用模型在不同数据子集上的预测一致性来识别噪声。核心思想：如果某个样本的真实标签与模型在多次交叉验证中的预测结果频繁不一致，则该样本很可能是噪声。

实现步骤

1. 划分K折：将训练集随机分为K个互斥子集（通常K=5或10）。
2. 迭代训练与预测：对每一折，用其余K-1折训练模型，预测当前折样本的标签。
3. 统计不一致次数：对每个样本，统计K次预测中预测标签与真实标签不一致的次数。
4. 设定阈值：若不一致次数超过阈值（如K/2），则标记为噪声候选。

4.2 模型置信度法（Model Confidence Based）

模型置信度法基于训练过程中模型对每个样本的输出概率（置信度）来判断。低置信度样本往往位于决策边界附近或标签错误，是噪声的高发区。

常用指标

4.3 学习曲线法（Learning Curve Based）

学习曲线法通过观察模型在训练过程中对每个样本的损失值变化趋势来检测噪声。正常样本的损失值通常随训练轮次增加而稳定下降；噪声样本的损失值则可能持续偏高、震荡或反而上升。

检测流程

• 记录逐轮损失：在训练过程中，记录每个样本在每个epoch的损失值。
• 拟合趋势线：对每个样本的损失序列拟合线性或指数趋势线。
• 提取特征：计算趋势斜率、最终损失值、损失波动方差等。
• 异常判定：斜率接近零或为正、最终损失值高于整体均值2个标准差、波动方差过大的样本标记为噪声。

4.4 投票法（Voting / Ensemble Based）

投票法集成多个不同初始化或不同架构的模型，利用模型间的预测一致性来检测噪声。若多个模型对同一样本的预测标签不一致，或与真实标签不一致，则该样本可疑。

常见投票策略

4.5 四种方法对比与选择

4.6 标签噪声检测流程总览

下图展示了四种检测方法在样本构建与模型训练流程中的集成位置与协作关系：

4.7 组合策略与工程实践

在实际项目中，单一方法往往不够可靠。推荐采用两阶段组合策略：

• 第一阶段（快速初筛）：使用模型置信度法或学习曲线法，以较低成本筛选出高概率噪声样本（召回率优先）。
• 第二阶段（精确验证）：对初筛结果使用交叉验证法或投票法进行二次确认，降低误杀率（精确率优先）。

def detect_noise_by_confidence(model, dataloader, threshold=0.6):
    model.eval()
    noise_indices = []
    with torch.no_grad():
        for batch_idx, (inputs, labels, indices) in enumerate(dataloader):
            outputs = model(inputs)
            probs = torch.softmax(outputs, dim=1)
            max_probs, preds = torch.max(probs, dim=1)
            # 标记最大概率低于阈值的样本
            low_conf_mask = max_probs < threshold
            noise_indices.extend(indices[low_conf_mask].tolist())
    return noise_indices