4. 分类模型与科学模式识别

科学研究的很多问题,本质上不是“预测一个连续数值”,而是“判断一个对象属于哪一类”。材料表征中要判断某张衍射图谱对应哪种晶相,天文观测中要判断一个星系是螺旋星系还是椭圆星系,这类任务都属于分类问题。本节围绕逻辑回归、决策树、随机森林三种常用分类模型,以及混淆矩阵与 ROC 曲线两套评价工具,说明如何把科学观测数据转化为可解释、可检验的分类器。

从特征到类别:分类任务的基本形式

分类模型接收一个特征向量 x,输出一个离散类别标签 y。以材料相分类为例,假设我们从 XRD 图谱中提取了三个特征:主峰位置 2θ、主峰半高宽 FWHM、以及若干特征峰强度比。样本标签可能是“奥氏体”“铁素体”“马氏体”三类。以星系形态分类为例,特征可以是测光图像导出的集中度、不对称度、Gini 系数、颜色指数等,标签为“螺旋”“椭圆”“不规则”。

关键的第一步不是选模型,而是把科学对象转成数值特征并明确标签定义。标签必须来自可信判据:材料相标签通常来自 Rietveld 精修或标准卡片匹配,星系标签通常来自人工目视分类或已有星表。若标签本身含混,后续任何模型指标都失去意义。此外要按类别分层划分训练集与测试集,避免某一类在测试集中缺席。

逻辑回归:线性边界的概率输出

逻辑回归先对特征做线性组合 z = w·x + b,再经 Sigmoid 函数映射为概率:p = 1/(1+e^(-z))。当 p 超过阈值(默认 0.5)判为正类。它的优势是输出可解释的概率,权重 w 的符号与大小反映各特征对类别判定的影响方向与强度。多分类时使用 Softmax 回归,输出各类别概率之和为 1。

逻辑回归的决策边界是线性的,因此适合特征与类别对数几率近似线性相关的场景。若两类在特征空间中明显非线性可分,逻辑回归会欠拟合。训练时通常最小化交叉熵损失,并对特征做标准化,否则量纲差异会拖慢收敛。正则化强度 C 是主要调参对象:C 越小正则越强,可抑制过拟合。

决策树与随机森林:可解释的分裂规则

决策树通过一系列“特征是否大于阈值”的判断把样本逐层划分。每次分裂选择使不纯度下降最大的特征与阈值,常用指标是基尼不纯度或信息熵。树的深度决定复杂度:太浅欠拟合,太深则记住训练噪声。决策树的优点是规则可直接读出,例如“若 FWHM < 0.35° 且强度比 > 2.1,则判为马氏体”,这对科学解释很有价值;缺点是单棵树方差大,训练数据轻微变化就可能导致结构大幅改变。

随机森林用自助采样 + 随机特征子集训练多棵决策树,再以投票或概率平均给出结果。它显著降低方差,通常比单棵树更稳健,并能输出特征重要性,帮助研究者判断哪些观测量对分类贡献最大。代价是可解释性下降,且模型体积和推理开销更大。实践中常先用随机森林建立基线,再用特征重要性反推物理量,最后视需要回到更简单的逻辑回归或浅层树做解释。

科学分类任务:特征 → 模型 → 概率 → 阈值判定 → 评价 科学观测特征 XRD 峰位/半高宽 星系集中度/不对称度 分类模型 逻辑回归 / 决策树 随机森林 类别概率 p Sigmoid / Softmax 或树投票比例 阈值判定 p ≥ 0.5 → 正类 阈值可调 评价 混淆矩阵 ROC/AUC 混淆矩阵(二分类示例) 实际 \ 预测 预测正类 预测负类 实际正类 TP 真阳性 召回率分母 FN 假阴性 漏判 实际负类 FP 假阳性 误报 TN 真阴性 特异度分母 准确率=(TP+TN)/总数 召回率=TP/(TP+FN) 精确率=TP/(TP+FP) ROC 曲线示意 假阳性率 FPR 真阳性率 TPR AUC 大 → 判别力强 工作点 类别不平衡时:准确率会失真,应同时看召回率、精确率与 AUC;阈值按漏判/误报代价调整 科学场景中“漏判稀有相”与“误报新相”代价不同,阈值选择必须结合领域判断

混淆矩阵:看清错在哪里

准确率只给一个总数,容易掩盖错误结构。混淆矩阵把预测结果按“实际类别 × 预测类别”交叉统计,二分类时得到 TP、FP、FN、TN 四个格子。由它可导出:召回率 TP/(TP+FN) 表示真实正类被找出的比例;精确率 TP/(TP+FP) 表示判为正类的样本中真正为正的比例;特异度 TN/(TN+FP) 表示负类被正确排除的比例。

在材料相分类中,若把“稀有相”作为正类,漏判(FN)可能意味着错过关键物相,代价高,此时应优先提高召回率,哪怕牺牲一些精确率。在星系形态筛选中,若目标是构建纯净的螺旋星系样本,则误报(FP)代价高,应优先提高精确率。混淆矩阵的价值就在于让这种取舍变得可见、可量化。

ROC 曲线与 AUC:阈值无关的判别力

分类器输出的是概率,阈值取 0.5 只是一种约定。ROC 曲线以假阳性率 FPR 为横轴、真阳性率 TPR 为纵轴,遍历所有阈值画出轨迹。曲线越靠近左上角,说明模型在保持低误报的同时能获得高召回。曲线下面积 AUC 是阈值无关的总体判别力指标:0.5 相当于随机猜测,1.0 为完美分类,实践中 0.8 以上通常认为具有较好判别能力。

ROC 曲线还能指导阈值选择:在曲线上找到满足业务约束的点,例如“要求召回率不低于 0.9 时,FPR 最小是多少”,再反查对应阈值。需要注意,当类别极度不平衡时,ROC 可能显得乐观,此时可辅以精确率—召回率曲线(PR 曲线)进行判断。

一个可复现的教学示例

假设有 600 条材料相样本,三类各 200 条,按 7:3 分层划分。用随机森林(500 棵树,最大深度不限,最小叶样本数 2)训练后,在测试集上得到如下混淆矩阵(示例数据,仅用于说明判读方法):

实际 \ 预测奥氏体铁素体马氏体
奥氏体5442
铁素体5505
马氏体1653

据此可算得奥氏体类召回率约 0.90、精确率约 0.90;铁素体类召回率约 0.83,主要混淆来自与马氏体的边界样本。若把“铁素体 vs 其余”作为二分类,绘制 ROC 得到 AUC 约 0.93,说明整体判别力良好,但铁素体与马氏体之间的特征重叠仍是主要误差来源。此时应回到特征工程,检查是否缺少区分这两相的峰形或强度比特征,而不是盲目加深模型。

实践建议:先建立随机森林基线并查看特征重要性,再用逻辑回归或浅层决策树对关键特征做可解释性验证;评价时同时报告混淆矩阵、各类召回率与 AUC,避免只报一个准确率。

分类模型不是越复杂越好。科学模式识别的核心在于:标签可信、特征有物理含义、评价指标与领域代价匹配。逻辑回归提供概率与方向性解释,决策树提供可读规则,随机森林提供稳健基线,而混淆矩阵与 ROC 曲线则把“错在哪、错多少、阈值怎么定”变成可讨论的量化依据。