2. 实验数据特性与预处理实战
参数估计的质量并不只取决于估计算法本身,更取决于喂给算法的数据是否“干净、可比、信息充分”。同一套最小二乘或极大似然流程,输入未经处理的原始实验数据与输入经过合理预处理的数据,得到的参数可能相差数倍,甚至符号相反。本节围绕四个关键动作展开:识别噪声、处理异常值、填补缺失数据、标准化与构造特征,并说明每个动作如何具体影响参数估计结果。
一、噪声:先判断类型,再决定是否抑制
实验噪声通常分为两类。第一类是随机噪声,表现为在真值附近无规律波动,多次测量取平均会逐渐收敛;第二类是系统噪声,表现为固定偏置、缓慢漂移或与某个变量相关的规律性偏差,平均无法消除。二者的处理策略完全不同:随机噪声可用滤波或多次平均抑制,系统噪声必须通过标定、差分测量或引入偏置参数来建模。
以一组传感器阶跃响应实验为例(示例数据,用于说明方法):采样周期 0.1 s,共 200 点,真实输出应为从 0 上升到 1 的一阶响应。若原始序列在稳态段的标准差约为 0.03,而理论模型残差标准差应小于 0.01,则说明随机噪声偏大,可先做滑动平均或 Savitzky–Golay 滤波。但要注意:滤波会改变信号的动态特性,过度平滑会压低响应斜率,使估计出的时间常数偏大。因此滤波窗口应满足“残差下降明显、上升沿拐点不被抹平”的折中,通常先用 5 点窗口试算,比较滤波前后拟合残差与参数稳定性再定。
系统噪声的识别更依赖实验设计。例如温度漂移导致的基线缓慢抬升,可通过在实验前后各采集一段“零输入”基线,用线性插值扣除;若漂移与时间近似线性,也可在模型中显式加入偏置项 b·t,让参数估计同时吸收漂移,而不是把它误当作模型动态。
二、异常值:识别标准要可复现
异常值是最容易“污染”参数估计的因素,尤其对最小二乘影响极大——一个偏离 10 倍的点可以主导整个残差平方和。识别异常值不能凭肉眼,应给出可复现的判据。常用做法是基于稳健统计量:用中位数与四分位距(IQR)构造区间,落在 [Q1 − 1.5·IQR, Q3 + 1.5·IQR] 之外的点标记为疑似异常;对近似正态的数据,也可用 |x − μ| > 3σ 作为辅助判据。
识别之后不要直接删除,而应先判断成因:若是记录错误、传感器饱和或通信丢包导致的“物理不可能值”,应剔除或置为缺失;若是真实的极端工况,则应保留并考虑使用稳健估计(如 Huber 损失、最小绝对偏差)降低其权重。下面给出一个可直接套用的处理判断表(示例阈值,需按实际量程调整):
| 现象 | 可能成因 | 处理动作 | 对参数估计的影响 |
|---|---|---|---|
| 单点跳变远超量程 | 通信错误、记录错误 | 置为缺失后插补 | 避免残差平方和被单点主导 |
| 连续多点饱和在上下限 | 传感器量程不足 | 剔除该段或截断建模区间 | 防止增益被系统性低估 |
| 缓慢偏移的离群段 | 基线漂移、温漂 | 基线校正而非删除 | 保留动态信息,去除偏置 |
| 真实极端工况点 | 工况本身极端 | 保留,改用稳健损失 | 降低单点权重,保持无偏趋势 |
三、缺失数据:先看缺失机制,再选填补方法
缺失数据的处理取决于缺失机制。若缺失与数值本身无关(完全随机缺失),均值填充或线性插值通常可接受;若缺失与数值大小相关(如低信号段更容易丢包),简单均值填充会压缩方差、使估计参数向均值收缩。实践中应先统计缺失比例与缺失位置分布:缺失率低于 5% 且分散时,线性插值或前向填充加标记即可;缺失率较高或成段缺失时,应优先考虑基于模型的插补(如用相邻通道回归预测),或在参数估计中直接使用可处理缺失的似然方法。
一个实用细节是:插补后应保留“是否插补”的标记列,并在拟合后检查插补段残差是否异常偏小——若明显偏小,说明插补值过于“贴合”模型,可能人为抬高了拟合优度,需要复核。
四、标准化与特征构造:直接影响参数的可辨识性
标准化解决的是量纲与尺度问题。以线性模型 y = a·x₁ + b·x₂ 为例,若 x₁ 的量级为 10³、x₂ 的量级为 10⁻²,未标准化时正规方程的条件数会非常大,参数估计对微小扰动极其敏感,甚至出现数值不稳定。对输入做零均值单位方差标准化后,条件数显著下降,估计更稳定。但要注意:标准化后的参数对应的是“标准化尺度下的系数”,若需要物理解释,必须按 a = a′ / s₁ 反变换回原始尺度(s₁ 为 x₁ 的标准差),否则会误读参数含义。
特征构造则是把领域知识注入数据。例如一阶系统响应中,直接对原始输出建模不如构造“归一化响应” (y − y₀)/(y∞ − y₀) 后建模,因为后者消除了初始值与稳态值差异带来的干扰,使时间常数更易辨识;又如对指数衰减数据取对数后线性化,可把非线性最小二乘转化为线性回归,但代价是对噪声的加权方式改变,低幅值段噪声被放大,需权衡使用。
五、把预处理与估计结果连起来看
预处理不是“做完就好”的独立步骤,而应通过结果反馈闭环验证。建议在参数估计后固定检查三项:一是残差是否近似零均值、无明显趋势,若残差仍有缓慢漂移,说明基线或系统噪声未处理干净;二是参数对预处理参数的敏感性,例如把滤波窗口从 5 点改为 9 点,若时间常数变化超过 10%,说明估计对平滑过度敏感,应回到数据层面复核;三是标准化反变换是否正确,可用一组已知参数的合成数据做端到端校验,确认从原始尺度到标准化尺度再回到原始尺度的参数一致。
综上,噪声、异常值、缺失数据、标准化与特征构造这四类动作,分别对应“信号是否可信、单点是否可信、样本是否完整、尺度是否可比”四个问题。它们共同决定了参数估计的输入质量,也决定了最终参数是否可解释、可复现。把每一步的判据和影响写清楚,比追求某个“最优”预处理组合更有工程价值。