3. 机器学习基础回顾：回归与分类问题、模型训练与评估流程、过拟合与欠拟合、常用评估指标
在构建可解释 AI 评分接口之前，必须牢固掌握机器学习的核心基础。本章将系统回顾监督学习的两大支柱——回归与分类，梳理标准模型训练与评估流程，剖析过拟合与欠拟合的本质，并详解最常用的评估指标。这些概念是后续章节中模型可解释性分析与接口开发的基石。
3.1 回归与分类问题
监督学习根据目标变量的类型分为回归与分类两大任务。回归预测连续数值，分类预测离散类别。
| 维度 | 回归 (Regression) | 分类 (Classification) |
|---|---|---|
| 目标变量 | 连续数值 (如房价、温度) | 离散标签 (如猫/狗、垃圾邮件/正常) |
| 输出形式 | 单一实数值 | 类别概率或类别标签 |
| 典型算法 | 线性回归、决策树回归、随机森林回归 | 逻辑回归、支持向量机、随机森林分类 |
| 评估指标 | MSE、MAE、R² | Accuracy、Precision、Recall、F1-Score |
| 示例 | 预测明日气温 25.3°C | 判断邮件是否为垃圾邮件 (是/否) |
关键区分：回归输出是无限连续空间中的点；分类输出是有限离散集合中的标签。逻辑回归虽然名称含"回归"，但本质是分类算法，输出的是属于正类的概率值。
3.2 模型训练与评估流程
标准机器学习流程遵循"数据准备 → 训练 → 评估 → 调优"的闭环。以下 SVG 图展示了完整的训练与评估流水线。
流程步骤详解：
- 数据预处理：处理缺失值、标准化/归一化、编码类别特征、特征选择。
- 数据集划分：将数据分为训练集（用于学习参数）和测试集（用于评估泛化能力）。常见比例为 80:20 或 70:30。
- 模型训练：使用训练集数据，通过优化算法（如梯度下降）最小化损失函数，学习模型参数。
- 模型评估：在测试集上计算评估指标，衡量模型在未见数据上的表现。
- 调优与迭代：根据评估结果调整超参数、特征工程或算法选择，重复训练-评估循环。
实践建议：始终保留测试集作为"最终裁判"，仅在模型开发完成后使用一次。调参过程中应使用验证集或交叉验证，避免信息泄露导致测试集评估结果过于乐观。
3.3 过拟合与欠拟合
模型在训练集和测试集上的表现差异揭示了两种核心问题：欠拟合和过拟合。理解并平衡这两者是模型泛化能力的关键。
| 问题 | 定义 | 训练集表现 | 测试集表现 | 原因 | 解决方案 |
|---|---|---|---|---|---|
| 欠拟合 | 模型未能捕捉数据中的有效模式 | 差（高误差） | 差（高误差） | 模型过于简单、特征不足、训练不足 | 增加模型复杂度、添加特征、增加训练轮次 |
| 过拟合 | 模型过度学习训练数据中的噪声和细节 | 极好（低误差） | 差（高误差） | 模型过于复杂、数据量不足、训练过度 | 正则化、减少模型复杂度、增加数据量、早停 |
过拟合的典型表现：训练损失持续下降，但验证损失在某个点后开始上升。这是"早停法"（Early Stopping）的理论依据——在验证损失开始上升时停止训练。
3.4 常用评估指标
不同任务类型需要不同的评估指标。以下分别介绍回归和分类中最核心的指标。
3.4.1 回归评估指标
| 指标 | 全称 | 公式 | 说明 | 取值范围 |
|---|---|---|---|---|
| MSE | 均方误差 | MSE = (1/n) Σ(yᵢ - ŷᵢ)² | 对较大误差惩罚更强，单位是原始单位的平方 | [0, +∞)，越小越好 |
| MAE | 平均绝对误差 | MAE = (1/n) Σ|yᵢ - ŷᵢ| | 直观反映平均误差大小，单位与原始数据一致 | [0, +∞)，越小越好 |
| R² | 决定系数 | R² = 1 - (SS_res / SS_tot) | 表示模型解释了多少方差，越接近1越好 | (-∞, 1]，1为完美拟合 |
3.4.2 分类评估指标
以二分类为例，首先定义混淆矩阵（Confusion Matrix）的四个基本元素：
| 预测为正类 (Positive) | 预测为负类 (Negative) | |
|---|---|---|
| 实际为正类 | TP (True Positive) | FN (False Negative) |
| 实际为负类 | FP (False Positive) | TN (True Negative) |
核心指标定义：
- Accuracy（准确率）：所有预测中正确的比例。公式：Accuracy = (TP + TN) / (TP + TN + FP + FN)。适用于类别平衡的数据集。
- Precision（精确率）：预测为正类中实际为正类的比例。公式：Precision = TP / (TP + FP)。关注"预测为正类的可靠性"。
- Recall（召回率）：实际为正类中被正确预测的比例。公式：Recall = TP / (TP + FN)。关注"正类被找出的比例"。
- F1-Score：Precision 和 Recall 的调和平均数。公式：F1 = 2 × (Precision × Recall) / (Precision + Recall)。在两者之间取得平衡，适用于类别不平衡场景。
为什么需要 F1-Score？当类别严重不平衡时（例如欺诈检测中正类仅占 1%），一个"全部预测为负类"的模型 Accuracy 可达 99%，但毫无实用价值。F1-Score 通过同时惩罚低 Precision 和低 Recall，更真实地反映模型在少数类上的表现。
3.4.3 指标选择指南
| 场景 | 推荐指标 | 原因 |
|---|---|---|
| 类别平衡，关注整体正确率 | Accuracy | 简单直观，反映全局性能 |
| 类别不平衡，关注少数类 | F1-Score, Recall | 避免被多数类主导，聚焦少数类表现 |
| 假阳性代价高（如医疗诊断） | Precision | 确保预测为正类的样本尽可能准确 |
| 假阴性代价高（如癌症筛查） | Recall | 尽可能找出所有正类，宁可误报也不漏报 |
| 回归任务，关注误差大小 | MSE 或 MAE | MSE 对大误差敏感，MAE 更鲁棒 |
可解释 AI 视角：在评分接口中，评估指标的选择直接影响用户对模型可信度的感知。例如，一个信用评分模型如果 Precision 很低，意味着频繁将优质客户误判为高风险，将严重损害用户体验。建议在接口文档中同时报告多个指标，并解释其业务含义。