4. ROC曲线与AUC：ROC曲线绘制原理、AUC计算、Spark中AUC实现

4.1 ROC曲线核心概念

ROC（Receiver Operating Characteristic）曲线是评估二分类模型性能的标准工具，在反洗钱监测中用于衡量模型区分正常交易与可疑交易的能力。曲线通过遍历所有可能的分类阈值，绘制真正率（TPR）与假正率（FPR）的关系。

4.2 ROC曲线绘制原理

绘制ROC曲线需要以下步骤：

1. 获取预测概率：对每个样本输出模型预测为可疑类的概率值（0~1）。
2. 排序：按预测概率从高到低排序所有样本。
3. 遍历阈值：以每个样本的预测概率作为候选阈值，计算该阈值下的TPR和FPR。
4. 描点连线：以FPR为横轴、TPR为纵轴，将各阈值对应的点连接成曲线。

4.3 AUC计算

AUC（Area Under the ROC Curve）是ROC曲线下的面积，取值范围[0.5, 1.0]，数值越大表示模型区分能力越强。在反洗钱场景中，AUC用于量化模型对可疑交易与正常交易的排序能力。

4.4 Spark中AUC实现

Spark MLlib提供BinaryClassificationMetrics类，可直接计算ROC曲线数据点和AUC值。以下为完整实现代码：

import org.apache.spark.ml.evaluation.BinaryClassificationEvaluator
import org.apache.spark.mllib.evaluation.BinaryClassificationMetrics
import org.apache.spark.sql.SparkSession

// 创建SparkSession
val spark = SparkSession.builder()
  .appName("AML_AUC_Evaluation")
  .getOrCreate()

// 假设已有预测结果DataFrame：包含probability和label列
// probability: 预测为可疑类的概率 (Double)
// label: 真实标签 (1.0=可疑, 0.0=正常)
val predictions = spark.read.parquet("hdfs://aml-data/predictions.parquet")

// 方法一：使用DataFrame API的BinaryClassificationEvaluator
val evaluator = new BinaryClassificationEvaluator()
  .setLabelCol("label")
  .setRawPredictionCol("probability")
  .setMetricName("areaUnderROC")

val aucDF = evaluator.evaluate(predictions)
println(s"AUC (DataFrame API): $aucDF")

// 方法二：使用RDD API的BinaryClassificationMetrics（可获取完整ROC数据）
val scoreAndLabels = predictions
  .select("probability", "label")
  .rdd
  .map(row => (row.getDouble(0), row.getDouble(1)))

val metrics = new BinaryClassificationMetrics(scoreAndLabels)

// 获取AUC
val aucRDD = metrics.areaUnderROC()
println(s"AUC (RDD API): $aucRDD")

// 获取ROC曲线数据点（用于绘图或存储）
val rocPoints = metrics.roc().collect()
println("ROC曲线数据点 (FPR, TPR):")
rocPoints.take(10).foreach { case (fpr, tpr) =>
  println(f"FPR=$fpr%.4f, TPR=$tpr%.4f")
}

// 获取PR曲线数据点（辅助评估）
val prPoints = metrics.pr().collect()
println("PR曲线数据点 (Recall, Precision):")
prPoints.take(10).foreach { case (recall, precision) =>
  println(f"Recall=$recall%.4f, Precision=$precision%.4f")
}

4.5 反洗钱场景中的AUC解读

在反洗钱监测中，AUC评估需结合业务实际：

• 高AUC（>0.9）：模型能有效区分可疑与正常交易，可部署为自动化预警系统。
• 中等AUC（0.7-0.9）：模型有一定区分能力，建议作为辅助工具，结合规则引擎或人工审核。
• 低AUC（<0.7）：模型区分能力不足，需检查特征工程、样本平衡或算法选择。
• 类别不平衡影响：反洗钱数据中可疑交易占比极低（通常<0.1%），AUC对不平衡不敏感，但需结合PR曲线综合评估。

4.6 生产环境最佳实践