2. 坏样本的定义与标注
坏样本的准确定义与高质量标注是风控模型训练的基础。本章从标签定义、标注方法与一致性校验三个层面展开,确保后续模型能够有效识别并归因坏样本。
2.1 坏样本的标签定义
坏样本的标签定义需结合业务场景与模型目标。在信贷风控中,通常以逾期天数作为核心判定标准;在反欺诈场景中,则以确认欺诈行为为准。下表列出常见坏样本标签定义方式:
| 业务场景 | 坏样本定义 | 常用指标 | 适用阶段 |
|---|---|---|---|
| 信贷风控 | 逾期 ≥ 30 天 | DPD30+ | 贷后监控 |
| 信贷风控 | 逾期 ≥ 90 天 | DPD90+ | 损失评估 |
| 反欺诈 | 确认欺诈交易 | 欺诈标签 | 实时拦截 |
| 用户流失 | 连续 30 天未登录 | 流失标记 | 运营干预 |
| 内容安全 | 违规内容举报核实 | 违规标签 | 审核系统 |
定义原则:坏样本标签应满足可观测、可复现、可量化三要素。避免使用主观判断(如"疑似欺诈"),优先采用客观业务事件(如"逾期≥30天")。
2.2 人工标注与自动标注
标注方式直接影响样本质量与成本。人工标注精度高但效率低,自动标注速度快但需规则支撑。两者对比如下:
| 维度 | 人工标注 | 自动标注 |
|---|---|---|
| 精度 | 高(专家判断) | 中(依赖规则质量) |
| 速度 | 慢(每人每天约 200-500 条) | 快(可批量处理百万级) |
| 成本 | 高(人力 + 培训) | 低(一次性规则开发) |
| 一致性 | 易波动(受个体差异影响) | 稳定(规则固定) |
| 适用场景 | 小样本、复杂边界、新业务 | 大样本、规则明确、成熟业务 |
2.2.1 人工标注流程
- 标注指南编写:明确坏样本判定标准、边界案例处理方式、标注字段格式。
- 标注人员培训:通过 100-200 条测试样本考核,标注准确率需 ≥ 95%。
- 标注执行:采用双盲标注(两人独立标注同一批样本)。
- 争议仲裁:标注不一致的样本由专家仲裁,形成最终标签。
2.2.2 自动标注规则示例
# 自动标注伪代码:信贷坏样本判定
def auto_label(loan_record):
if loan_record['overdue_days'] >= 30:
return 1 # 坏样本
elif loan_record['overdue_days'] >= 15 and loan_record['collection_fail'] == True:
return 1 # 催收失败且逾期15天以上
elif loan_record['fraud_flag'] == 1:
return 1 # 确认欺诈
else:
return 0 # 好样本
自动标注风险:规则过于严格会导致坏样本漏标(假阴性),过于宽松则引入噪声(假阳性)。建议每季度用人工标注校验自动标注的准确率,偏差超过 5% 时需调整规则。
2.3 标注一致性校验
标注一致性是衡量标注质量的核心指标。常用校验方法包括 Kappa 系数、F1 一致率、交叉验证等。下图展示一致性校验的完整流程:
2.3.1 Kappa 系数计算
Kappa 系数用于衡量两位标注员的一致性,排除随机一致的影响。计算公式如下:
Kappa = (P_o - P_e) / (1 - P_e)
其中:
P_o = 观察一致率(两位标注员标注相同的比例)
P_e = 期望一致率(随机情况下标注一致的概率)
示例:
标注员 A 和 B 对 100 条样本标注,80 条一致。
P_o = 80 / 100 = 0.80
P_e = (好样本比例² + 坏样本比例²) = (0.6² + 0.4²) = 0.36 + 0.16 = 0.52
Kappa = (0.80 - 0.52) / (1 - 0.52) = 0.28 / 0.48 = 0.583
Kappa 系数判定标准:
- Kappa ≥ 0.80:几乎完全一致,标注质量优秀
- 0.60 ≤ Kappa < 0.80:高度一致,可接受
- 0.40 ≤ Kappa < 0.60:中度一致,需改进
- Kappa < 0.40:一致性差,需重新培训或调整标注指南
2.3.2 一致性校验报告模板
| 校验批次 | 样本量 | 一致率 | Kappa 系数 | 判定结果 | 改进措施 |
|---|---|---|---|---|---|
| 2025-01 | 500 | 92% | 0.85 | 通过 | 无 |
| 2025-02 | 500 | 78% | 0.62 | 需改进 | 重新培训标注员,细化边界案例 |
| 2025-03 | 500 | 65% | 0.45 | 不通过 | 暂停标注,修订标注指南 |
2.4 坏样本标注的常见陷阱与避坑
- 标签泄漏:使用未来信息(如贷后 90 天数据)标注训练样本,导致模型过拟合。解决方案:严格按时间窗口划分样本。
- 样本选择偏差:只标注被拒绝的样本,忽略通过审批的样本。解决方案:采用拒绝推断技术补充样本。
- 标注漂移:随着时间推移,标注标准发生变化。解决方案:定期回溯校验历史标注,保持标准一致。
- 正负样本失衡:坏样本比例过低(如 < 1%)。解决方案:采用过采样、欠采样或代价敏感学习。
最佳实践:建议建立标注质量看板,实时监控每日标注量、一致率、Kappa 系数趋势。当一致率连续 3 天低于 85% 时,自动触发标注员复训流程。