4. 食品品质预测的特征工程基础

食品品质指标预测的建模效果,往往在特征工程阶段就已经被决定了大半。光谱仪、相机、电子鼻或电子舌采集到的原始信号,直接送入模型通常表现不佳:光谱中存在基线漂移与散射噪声,图像中混有背景与光照干扰,传感器阵列输出存在漂移与量纲差异,特征维度又常常远大于样本数。本节围绕四类核心处理展开:光谱预处理、图像特征提取、传感器信号变换,以及特征选择与降维,目标是让进入模型的变量"可比、可解释、不冗余"。

一、光谱预处理:SNV、MSC 与导数

近红外或中红外光谱的原始吸光度同时包含化学信息与物理干扰。固体粉末样品的颗粒大小、装样紧实度会引起散射,表现为整条光谱的平移或倾斜;仪器预热不足、基线漂移则带来低频起伏。预处理的目的就是压制这些与品质指标无关的变化。

标准正态变量变换(SNV)对每条光谱单独处理:减去该光谱在波长方向上的均值,再除以其标准差。处理后每条光谱均值为 0、标准差为 1,散射造成的乘性差异被消除,保留的是光谱形状。SNV 逐样本独立计算,不依赖校正集,因此对新样本可直接应用。

多元散射校正(MSC)则把每条光谱对校正集平均光谱做一元线性回归,得到斜率与截距,再用原光谱减截距、除斜率。它显式地把散射建模为"乘性 + 加性"效应,处理后的光谱与平均光谱在同一基准上比较。MSC 的回归系数来自校正集,因此校正集与预测集必须使用同一组系数,这一点在工程实现中极易出错。

导数处理用于消除基线漂移并分离重叠峰。一阶导数消除常数基线偏移,二阶导数进一步消除线性倾斜,同时锐化峰形,但会放大高频噪声,因此导数阶数越高,越需要配合平滑(如 Savitzky-Golay 卷积平滑)。实践中常用"平滑 + 一阶/二阶导数"的组合,窗口长度与多项式阶数是需要调优的关键参数:窗口过短平滑不足,过长则削弱甚至抹平窄吸收峰。

SNV 与 MSC 解决的是散射(乘性/加性)干扰,导数解决的是基线漂移与峰重叠,三者作用机制不同,可以串联使用,但串联顺序与参数需要在验证集上确认,不能凭经验固定。

二、图像特征提取

食品图像特征通常分为三类。颜色特征最直观,常用 RGB、HSV、Lab 空间的均值、标准差与直方图统计量;Lab 空间因接近人眼感知且亮度与色度分离,在色泽品质评价中更稳健。纹理特征描述表面粗糙度、褶皱与颗粒感,灰度共生矩阵(GLCM)的对比度、相关性、能量、同质性,以及局部二值模式(LBP)直方图都是常用表达。形态特征包括面积、周长、长宽比、圆度、缺陷区域占比等,适合大小分级与外观缺陷判定。

提取前必须先完成感兴趣区域(ROI)分割,把样品从背景、托盘、阴影中分离出来,否则背景像素会污染颜色统计。一个可操作的流程是:灰度化 → 阈值或颜色空间分割 → 形态学开闭运算去除噪点与孔洞 → 提取最大连通域作为 ROI → 在 ROI 内计算特征。分割质量直接决定特征可信度,若分割不稳定,后续建模再复杂也难以补救。

三、传感器信号变换

电子鼻、电子舌、高光谱等传感器阵列输出的是多通道时间序列或响应曲线。原始响应常需做基线校正:以进样前的稳定段作为基线,用响应值减基线或除以基线得到相对响应,从而抑制传感器个体差异与缓慢漂移。随后提取稳态响应值、响应峰值、上升斜率、积分面积等时域特征;对周期性或振荡信号,还可通过傅里叶变换提取频域能量分布。多传感器通道量纲差异大,标准化(Z-score)或归一化到 [0,1] 是进入距离类模型或 PCA 前的必要步骤。

从原始信号到建模特征的处理链 光谱信号 吸光度 / 波长 图像信号 像素 / 通道 传感器阵列 多通道响应曲线 SNV / MSC 消除散射:减均值除标准差 或对平均谱回归校正 ROI 分割 + 特征 颜色 Lab / 纹理 GLCM 形态:面积·圆度·缺陷 基线校正 + 时域特征 稳态值·峰值·斜率·面积 通道标准化 平滑 + 导数 SG 平滑后一阶/二阶导 去基线漂移·分离重叠峰 特征矩阵 X 样本 × 特征 高维 · 共线 · 含冗余 选择 / 降维 PCA 主成分 · PLS 潜变量 过滤式 / 包裹式选择 关键约束:所有预处理参数(MSC 系数、平滑窗口、标准化均值方差)只能由训练集拟合,再原样作用于验证集与预测集,避免信息泄漏。

四、特征选择与降维:PCA 与 PLS

经过上述处理,特征维度可能达到数百甚至上千,而样本往往只有几十到几百个。此时需要压缩维度或剔除冗余。

主成分分析(PCA)是一种无监督线性降维方法:对中心化后的特征矩阵求协方差矩阵的特征分解,取方差贡献最大的前若干个主成分。它不利用品质指标标签,因此适合探索数据结构、发现异常样本与批次聚类,也可作为建模前的去噪压缩。选择主成分个数时,可看累计方差贡献率(如达到 85%~95%),但更可靠的做法是以交叉验证的预测误差为准,因为方差大的方向未必与品质指标相关。

偏最小二乘(PLS)则是有监督的:它在分解特征矩阵 X 的同时分解指标矩阵 Y,使提取的潜变量在解释 X 方差的同时最大化与 Y 的协方差。对光谱这类高共线数据,PLS 通常比"先 PCA 再回归"更有效,因为潜变量方向被标签引导。PLS 的潜变量个数同样通过交叉验证确定,个数过少欠拟合,过多则把噪声拟合进来,表现为校正集误差持续下降而验证集误差回升。

除降维外,还可做特征选择:过滤式方法按方差、相关系数或互信息排序;包裹式方法(如递归特征消除)以模型性能为准则逐步剔除特征;嵌入式方法(如 LASSO)在建模中自动压缩不重要的系数。对光谱数据,还常采用区间选择(如间隔偏最小二乘 iPLS),只保留与目标吸收带相关的波段,既降维又提升可解释性。

五、一个可复现的实践要点

假设某批苹果的近红外光谱共 300 个波长点、样本 120 个,预测可溶性固形物含量。一个合理的流程是:先按 3:1 划分校正集与验证集(划分时按指标值分层,避免分布偏移);在校正集上计算平均光谱并拟合 MSC 系数,对校正集与验证集分别应用;再做 Savitzky-Golay 一阶导数(窗口 11 点、二次多项式,属示例参数,需按数据调优);随后用 PLS 建模,以 10 折交叉验证的均方根误差选择潜变量个数;最后在验证集上报告决定系数与预测均方根误差。若验证集误差明显高于交叉验证误差,应优先排查划分是否泄漏、预处理参数是否误用了全量数据。

常见错误:先对全部样本做标准化或 PCA 再划分训练/验证集,会把验证集信息带入训练过程,得到虚高的评估结果。正确顺序是先划分,再在训练集上拟合所有变换参数。

概括而言,光谱预处理解决物理干扰,图像特征提取把外观转化为数值,传感器信号变换统一多通道尺度,而 PCA、PLS 与特征选择负责在保留信息的前提下压缩维度。四者共同构成食品品质预测中可靠、可复现的特征工程基础。