4. 食品品质预测的特征工程基础
食品品质指标预测的建模效果,往往在特征工程阶段就已经被决定了大半。光谱仪、相机、电子鼻或电子舌采集到的原始信号,直接送入模型通常表现不佳:光谱中存在基线漂移与散射噪声,图像中混有背景与光照干扰,传感器阵列输出存在漂移与量纲差异,特征维度又常常远大于样本数。本节围绕四类核心处理展开:光谱预处理、图像特征提取、传感器信号变换,以及特征选择与降维,目标是让进入模型的变量"可比、可解释、不冗余"。
一、光谱预处理:SNV、MSC 与导数
近红外或中红外光谱的原始吸光度同时包含化学信息与物理干扰。固体粉末样品的颗粒大小、装样紧实度会引起散射,表现为整条光谱的平移或倾斜;仪器预热不足、基线漂移则带来低频起伏。预处理的目的就是压制这些与品质指标无关的变化。
标准正态变量变换(SNV)对每条光谱单独处理:减去该光谱在波长方向上的均值,再除以其标准差。处理后每条光谱均值为 0、标准差为 1,散射造成的乘性差异被消除,保留的是光谱形状。SNV 逐样本独立计算,不依赖校正集,因此对新样本可直接应用。
多元散射校正(MSC)则把每条光谱对校正集平均光谱做一元线性回归,得到斜率与截距,再用原光谱减截距、除斜率。它显式地把散射建模为"乘性 + 加性"效应,处理后的光谱与平均光谱在同一基准上比较。MSC 的回归系数来自校正集,因此校正集与预测集必须使用同一组系数,这一点在工程实现中极易出错。
导数处理用于消除基线漂移并分离重叠峰。一阶导数消除常数基线偏移,二阶导数进一步消除线性倾斜,同时锐化峰形,但会放大高频噪声,因此导数阶数越高,越需要配合平滑(如 Savitzky-Golay 卷积平滑)。实践中常用"平滑 + 一阶/二阶导数"的组合,窗口长度与多项式阶数是需要调优的关键参数:窗口过短平滑不足,过长则削弱甚至抹平窄吸收峰。
二、图像特征提取
食品图像特征通常分为三类。颜色特征最直观,常用 RGB、HSV、Lab 空间的均值、标准差与直方图统计量;Lab 空间因接近人眼感知且亮度与色度分离,在色泽品质评价中更稳健。纹理特征描述表面粗糙度、褶皱与颗粒感,灰度共生矩阵(GLCM)的对比度、相关性、能量、同质性,以及局部二值模式(LBP)直方图都是常用表达。形态特征包括面积、周长、长宽比、圆度、缺陷区域占比等,适合大小分级与外观缺陷判定。
提取前必须先完成感兴趣区域(ROI)分割,把样品从背景、托盘、阴影中分离出来,否则背景像素会污染颜色统计。一个可操作的流程是:灰度化 → 阈值或颜色空间分割 → 形态学开闭运算去除噪点与孔洞 → 提取最大连通域作为 ROI → 在 ROI 内计算特征。分割质量直接决定特征可信度,若分割不稳定,后续建模再复杂也难以补救。
三、传感器信号变换
电子鼻、电子舌、高光谱等传感器阵列输出的是多通道时间序列或响应曲线。原始响应常需做基线校正:以进样前的稳定段作为基线,用响应值减基线或除以基线得到相对响应,从而抑制传感器个体差异与缓慢漂移。随后提取稳态响应值、响应峰值、上升斜率、积分面积等时域特征;对周期性或振荡信号,还可通过傅里叶变换提取频域能量分布。多传感器通道量纲差异大,标准化(Z-score)或归一化到 [0,1] 是进入距离类模型或 PCA 前的必要步骤。
四、特征选择与降维:PCA 与 PLS
经过上述处理,特征维度可能达到数百甚至上千,而样本往往只有几十到几百个。此时需要压缩维度或剔除冗余。
主成分分析(PCA)是一种无监督线性降维方法:对中心化后的特征矩阵求协方差矩阵的特征分解,取方差贡献最大的前若干个主成分。它不利用品质指标标签,因此适合探索数据结构、发现异常样本与批次聚类,也可作为建模前的去噪压缩。选择主成分个数时,可看累计方差贡献率(如达到 85%~95%),但更可靠的做法是以交叉验证的预测误差为准,因为方差大的方向未必与品质指标相关。
偏最小二乘(PLS)则是有监督的:它在分解特征矩阵 X 的同时分解指标矩阵 Y,使提取的潜变量在解释 X 方差的同时最大化与 Y 的协方差。对光谱这类高共线数据,PLS 通常比"先 PCA 再回归"更有效,因为潜变量方向被标签引导。PLS 的潜变量个数同样通过交叉验证确定,个数过少欠拟合,过多则把噪声拟合进来,表现为校正集误差持续下降而验证集误差回升。
除降维外,还可做特征选择:过滤式方法按方差、相关系数或互信息排序;包裹式方法(如递归特征消除)以模型性能为准则逐步剔除特征;嵌入式方法(如 LASSO)在建模中自动压缩不重要的系数。对光谱数据,还常采用区间选择(如间隔偏最小二乘 iPLS),只保留与目标吸收带相关的波段,既降维又提升可解释性。
五、一个可复现的实践要点
假设某批苹果的近红外光谱共 300 个波长点、样本 120 个,预测可溶性固形物含量。一个合理的流程是:先按 3:1 划分校正集与验证集(划分时按指标值分层,避免分布偏移);在校正集上计算平均光谱并拟合 MSC 系数,对校正集与验证集分别应用;再做 Savitzky-Golay 一阶导数(窗口 11 点、二次多项式,属示例参数,需按数据调优);随后用 PLS 建模,以 10 折交叉验证的均方根误差选择潜变量个数;最后在验证集上报告决定系数与预测均方根误差。若验证集误差明显高于交叉验证误差,应优先排查划分是否泄漏、预处理参数是否误用了全量数据。
概括而言,光谱预处理解决物理干扰,图像特征提取把外观转化为数值,传感器信号变换统一多通道尺度,而 PCA、PLS 与特征选择负责在保留信息的前提下压缩维度。四者共同构成食品品质预测中可靠、可复现的特征工程基础。