3. 模型效果评估指标(上):混淆矩阵、准确率、精确率、召回率、F1-score 的定义与计算公式

在信用评分模型开发中,评估模型效果是决定模型能否上线、能否作为 Champion 模型的核心环节。本章聚焦于分类模型最基础的评估指标:混淆矩阵、准确率、精确率、召回率与 F1-score。这些指标构成了模型效果对比的基石,也是后续章节中 Champion 实验方法中模型筛选与验证的必备工具。

3.1 混淆矩阵:评估的起点

混淆矩阵(Confusion Matrix)是二分类问题中最直观的评估工具。它将模型预测结果与真实标签进行交叉统计,形成四个基本单元:

真实 \ 预测 预测为正类(1) 预测为负类(0)
实际为正类(1) TP(True Positive)
正确预测为违约
FN(False Negative)
漏报,实际违约但预测为正常
实际为负类(0) FP(False Positive)
误报,实际正常但预测为违约
TN(True Negative)
正确预测为正常
信用评分场景映射: 在信用评分中,通常将“违约/坏客户”定义为正类(1),将“正常/好客户”定义为负类(0)。因此,TP 表示模型正确识别出的坏客户,FP 表示被模型误判为坏客户的好客户(即被错误拒绝的优质客户)。
混淆矩阵结构图(信用评分场景) 实际 正类(违约) 负类(正常) 预测 正类(违约) 负类(正常) TP 正确识别违约 (命中) FN 漏报违约 (漏网之鱼) FP 误判正常为违约 (误拒) TN 正确识别正常 (正确通过) 关键理解 TP + FN = 实际违约总数;FP + TN = 实际正常总数 TP + FP = 模型预测违约总数;FN + TN = 模型预测正常总数

3.2 核心评估指标定义与计算公式

基于混淆矩阵的四个基本单元,可以推导出以下五个核心评估指标。每个指标从不同角度衡量模型性能,在信用评分中各有侧重。

3.2.1 准确率(Accuracy)

准确率衡量模型整体预测正确的比例,即所有样本中预测正确的占比。

Accuracy = (TP + TN) / (TP + TN + FP + FN)
信用评分中的陷阱: 当样本极度不平衡时(如坏客户仅占 1%),模型即使将所有样本预测为好客户,准确率也能达到 99%。因此,准确率在信用评分中通常不作为主要评估指标,必须结合其他指标综合判断。

3.2.2 精确率(Precision)

精确率衡量模型预测为正类的样本中,实际为正类的比例。在信用评分中,精确率反映了模型识别出的“违约客户”中有多少是真正的违约客户。

Precision = TP / (TP + FP)

精确率越高,说明模型误判正常客户为违约客户的比例越低,即误拒成本越低。

3.2.3 召回率(Recall)

召回率衡量实际为正类的样本中,被模型正确预测为正类的比例。在信用评分中,召回率反映了模型能够识别出多少比例的真正违约客户。

Recall = TP / (TP + FN)

召回率越高,说明模型漏报违约客户的比例越低,即信用风险敞口越小。

3.2.4 F1-score

F1-score 是精确率和召回率的调和平均数,综合衡量模型的精确性与全面性。当精确率和召回率需要平衡时,F1-score 是最常用的单一指标。

F1-score = 2 * (Precision * Recall) / (Precision + Recall)

F1-score 的取值范围为 [0, 1],值越大表示模型性能越好。当精确率和召回率都较高时,F1-score 才会接近 1。

核心指标关系与计算公式概览 混淆矩阵基础:TP、FN、FP、TN N = TP + FN + FP + TN(样本总数) 准确率(Accuracy) (TP + TN) / N 整体预测正确比例 精确率(Precision) TP / (TP + FP) 预测违约中真实违约比例 召回率(Recall) TP / (TP + FN) 真实违约中被识别比例 F1-score 2·P·R / (P + R) 精确率与召回率调和平均 P = Precision(精确率),R = Recall(召回率) F1-score 在信用评分中常用于模型 Champion 筛选

3.3 指标对比与信用评分场景选择

不同指标在信用评分中的重要性不同,需要根据业务目标选择重点关注指标。下表总结了各指标的适用场景与权衡关系:

指标 关注点 信用评分场景适用性 局限性
准确率 整体正确率 仅适用于平衡样本 不平衡样本下严重失真
精确率 误拒成本 高精确率减少优质客户流失 可能漏掉大量违约客户
召回率 风险覆盖 高召回率降低信用风险敞口 可能误拒大量正常客户
F1-score 精确率与召回率平衡 模型 Champion 筛选首选指标 无法区分精确率与召回率的相对重要性
实战建议: 在信用评分模型效果对比中,建议同时报告精确率、召回率和 F1-score。当两个模型的 F1-score 相近时,需要结合业务成本(误拒成本 vs 违约损失)进一步判断。例如,在保守型风控策略下,优先选择召回率更高的模型;在激进型获客策略下,优先选择精确率更高的模型。

3.4 计算示例

假设某信用评分模型在测试集上的预测结果如下:

  • TP = 80(正确识别出 80 个违约客户)
  • FN = 20(漏报了 20 个违约客户)
  • FP = 30(误判了 30 个正常客户为违约)
  • TN = 870(正确识别出 870 个正常客户)

根据公式计算:

Accuracy = (80 + 870) / (80 + 870 + 20 + 30) = 950 / 1000 = 0.95
Precision = 80 / (80 + 30) = 80 / 110 ≈ 0.727
Recall = 80 / (80 + 20) = 80 / 100 = 0.80
F1-score = 2 * (0.727 * 0.80) / (0.727 + 0.80) ≈ 2 * 0.5816 / 1.527 ≈ 0.762

从结果可以看出,虽然准确率高达 95%,但精确率仅为 72.7%,说明模型误判了较多正常客户。F1-score 为 0.762,综合反映了模型在精确率和召回率之间的平衡表现。