4. 算法基础回顾：监督学习与无监督学习、回归与分类问题、特征工程与模型评估指标
在深入智能寻源算法之前，必须夯实机器学习基础。本章将系统回顾监督学习与无监督学习的核心区别、回归与分类问题的本质、特征工程的关键技术以及模型评估的量化指标。这些概念是构建中标预测、供应商评分与寻源推荐系统的数学基石。
4.1 监督学习 vs 无监督学习
根据训练数据是否包含标签（即目标变量），机器学习算法分为两大类。在智能寻源场景中，监督学习用于预测中标概率、估算价格；无监督学习用于供应商聚类、异常行为检测。
| 对比维度 | 监督学习 | 无监督学习 |
|---|---|---|
| 训练数据 | 包含输入特征 + 已知标签（如是否中标） | 仅包含输入特征，无标签 |
| 目标 | 学习从特征到标签的映射函数 | 发现数据内在结构、分布或模式 |
| 典型任务 | 分类、回归 | 聚类、降维、关联规则 |
| 寻源应用 | 中标概率预测、报价合理性评估 | 供应商分层、相似寻源项目分组 |
| 评估方式 | 对比预测值与真实标签（准确率、RMSE） | 轮廓系数、簇内距离、业务可解释性 |
寻源场景提示： 监督学习需要大量历史中标数据作为标签，若历史数据稀疏或标签噪声大，可先用无监督学习做数据清洗与模式发现，再构建半监督模型。
4.2 回归与分类问题
回归与分类是监督学习的两大支柱。回归输出连续数值，分类输出离散类别。在智能寻源中，两者经常组合使用。
4.2.1 回归问题
- 定义： 预测连续型目标变量，如中标价格、项目工期、供应商评分。
- 常用算法： 线性回归、决策树回归、随机森林回归、XGBoost回归、神经网络。
- 寻源案例： 基于历史中标数据，预测新寻源项目的合理中标价格区间。
4.2.2 分类问题
- 定义： 预测离散型类别标签，如是否中标（二分类）、供应商等级（多分类）。
- 常用算法： 逻辑回归、支持向量机、决策树、随机森林、梯度提升树、深度学习。
- 寻源案例： 根据供应商资质、报价、历史合作记录，预测其在本轮寻源中是否中标。
关键区别： 回归的损失函数常用均方误差（MSE），分类常用交叉熵损失。在寻源算法中，若同时需要预测中标概率（分类）和价格（回归），可构建多任务学习模型共享底层特征。
4.3 特征工程
特征工程是将原始数据转化为模型可理解特征的过程，直接影响算法上限。在寻源场景中，特征工程通常占项目工作量的 60% 以上。
4.3.1 特征构建
- 数值特征： 报价金额、公司注册年限、历史中标次数、项目预算。
- 类别特征： 供应商行业、项目类型、地区、资质等级。
- 时间特征： 投标日期、项目周期、历史合作时间间隔。
- 文本特征： 技术方案描述、公司简介（通过 TF-IDF 或词嵌入提取）。
- 交叉特征： 报价与预算比值、历史中标率与报价偏离度。
4.3.2 特征处理
| 处理步骤 | 常用方法 | 寻源场景示例 |
|---|---|---|
| 缺失值填充 | 均值/中位数/众数填充、模型预测填充 | 供应商历史评分缺失，用同行业均值填充 |
| 异常值处理 | 3σ原则、IQR、分箱、截断 | 异常高报价（超过预算 5 倍）进行截断或标记 |
| 标准化/归一化 | Z-score、Min-Max、RobustScaler | 将报价金额与公司年限统一量纲 |
| 类别编码 | 独热编码、标签编码、目标编码 | 项目类型“工程/服务/物资”转为数值向量 |
| 特征选择 | 方差过滤、卡方检验、互信息、L1正则化 | 剔除与中标无关的冗余特征（如供应商ID） |
常见陷阱： 在寻源数据中，时间顺序敏感。特征工程时避免使用未来信息（如用整个数据集均值填充缺失值），应使用时间窗口内的统计量，防止数据泄露。
4.4 模型评估指标
评估指标是衡量模型性能的标尺。不同任务需选择不同指标，且需结合业务成本。
4.4.1 分类评估指标
| 指标 | 公式/定义 | 寻源场景解读 |
|---|---|---|
| 准确率 | (TP+TN)/(TP+TN+FP+FN) | 整体中标预测的正确比例 |
| 精确率 | TP/(TP+FP) | 预测中标中实际中标的比例（避免误判） |
| 召回率 | TP/(TP+FN) | 实际中标中被正确预测的比例（避免漏判） |
| F1分数 | 2×P×R/(P+R) | 精确率与召回率的调和平均 |
| AUC-ROC | ROC曲线下面积 | 模型区分中标与未中标的能力 |
4.4.2 回归评估指标
| 指标 | 公式 | 寻源场景解读 |
|---|---|---|
| MAE | 平均误差 | 预测价格与实际价格的平均偏差（万元） |
| MSE | 均方误差 | 大偏差被放大惩罚，适合避免极端错误 |
| RMSE | 均方根误差 | 与目标变量同量纲，直观反映误差大小 |
| R² | 决定系数 | 模型解释目标变量方差的比例（0~1） |
| MAPE | 平均百分比误差 | 相对误差，适合不同量级的价格预测 |
业务对齐建议： 在寻源中标预测中，若漏掉一个潜在中标供应商（FN）比误判一个非中标供应商（FP）成本更高，应优先优化召回率。若预算有限，需控制误判成本，则优先优化精确率。F1分数可作为平衡选择。
4.5 本章小结
- 监督学习 依赖标签数据，适合中标预测与价格回归；无监督学习 无需标签，适合供应商聚类与异常检测。
- 回归 输出连续值（价格、工期），分类 输出离散标签（是否中标、等级）。
- 特征工程 是寻源算法落地的关键环节，需注意时间序列下的数据泄露问题。
- 评估指标 必须与业务成本对齐：分类任务关注精确率/召回率/F1，回归任务关注RMSE/MAPE。
下一阶段准备： 掌握上述基础后，第5章将进入智能寻源算法的核心——基于历史中标数据的预测模型构建，包括特征重要性分析与模型调优实战。