4. 生物过程数据预处理与质量保障
生物过程数据来自在线传感器(pH、溶氧、温度、尾气CO₂/O₂)、离线取样(细胞密度、代谢物浓度、效价)以及补料/通气等操作记录。这些数据在进入数字孪生模型前,必须经过一套质量保障流程,否则异常值、缺失、噪声、批次差异和时间错位会被模型当作真实规律学习,导致状态估计漂移、软测量失效甚至控制决策错误。本节围绕异常值检测、缺失值插补、滤波与平滑、批次效应校正、数据对齐与时间同步五个环节,说明实际怎么做以及如何判断处理是否合理。
异常值检测:先定义“正常”的边界
异常值检测不是简单删除离群点,而是先建立正常工况的参考。常用三类方法:基于统计的3σ或稳健Z分数(用中位数与MAD替代均值与标准差,避免异常值污染阈值)、基于物理范围的硬约束(如pH在6.6~7.2、溶氧不低于5%空气饱和度)、基于时间序列的突变检测(相邻采样点变化率超过工艺允许上限)。以某批次pH序列为例,采样间隔1 min,正常波动标准差约0.02,若某点相对前一分钟跳变0.35且持续单点,则判定为传感器尖峰。处理策略应分级:单点尖峰可标记并插补;连续多点越界需检查电极标定或补料阀状态,不能直接覆盖。
缺失值插补:区分随机缺失与结构性缺失
缺失分两类:随机缺失(如通信丢包、单次取样失败)和结构性缺失(如离线取样间隔长、某传感器整段未启用)。随机缺失且缺口短(≤3个采样点)时,线性插值或三次样条即可;缺口较长或参数间强相关时,用同批次其他变量做回归插补,例如用尾气CO₂释放率与补料速率回归估计细胞密度。结构性缺失不能靠插补“造”出高频信息,应降采样到真实可用的时间分辨率,或将该变量作为低频观测单独进入模型。插补后需检查插补段是否引入虚假平滑:若插补段方差显著低于相邻真实段,说明插补过度,应改用带过程噪声的卡尔曼平滑。
滤波与平滑:抑制噪声但保留动态
在线传感器噪声会放大微分项,影响比生长速率等派生量。常用方法:滑动平均(窗口5~15点,适合缓变信号)、Savitzky-Golay滤波(多项式拟合,保留峰形,适合代谢物浓度曲线)、一阶低通滤波(y_k=αy_{k-1}+(1-α)x_k,α取0.7~0.9)、卡尔曼滤波(有过程模型时最优)。选择依据是信号带宽与噪声水平:pH和温度变化慢,可用较大窗口;溶氧在通气切换时变化快,窗口过大会掩盖真实响应。判断滤波是否合适,可对比滤波前后残差是否接近白噪声,以及关键拐点(如补料启动、溶氧反弹)是否被延迟超过2个采样周期。
批次效应校正:让不同批次可比
不同批次的传感器标定、接种状态、原材料差异会引入系统性偏移。校正目标是保留批次内真实动态,只去除批次间不可解释的偏移。常用做法:选取一个参考批次(质量最完整、过程最标准),计算各批次在相同生理阶段(如对数中期)的变量中位数,用差值或比值将其他批次对齐到参考批次。对于乘性效应(如效价整体偏低20%),用比例因子校正;对于加性效应(如pH整体偏移0.1),用偏移量校正。校正后必须检查:参考批次曲线不变,其他批次在校正后与参考批次的同阶段差异应显著缩小,但批次内的时间趋势和拐点位置不能改变。
数据对齐与时间同步:统一时间轴
多源数据的时间基准不同:在线传感器用采集系统时钟,离线取样用人工记录时间,操作事件用DCS时间戳。对齐步骤:第一,将所有时间戳转换为统一基准(建议用批次相对时间,以接种时刻为0);第二,确定统一重采样网格,例如5 min,网格间隔应不高于最快动态的1/5;第三,对高频在线数据用聚合(均值或中位数)落到网格,对低频离线数据用插值或保持(零阶保持)落到网格;第四,校正离线取样的死时间,例如取样管路延迟2 min、离心和检测耗时15 min,则实际代表时刻应回退17 min;第五,操作事件对齐到最近网格,并生成事件指示变量。对齐后应检查因果性:补料事件之后溶氧和pH的响应方向是否符合工艺预期,若响应出现在事件之前,说明时间戳或滞后补偿有误。
可执行的质量保障检查清单
| 环节 | 关键检查项 | 判断依据 |
|---|---|---|
| 异常值 | 原始值与标记列是否同时保留 | 可追溯每个修改点 |
| 缺失插补 | 插补段方差是否低于相邻真实段 | 若明显偏低,改用卡尔曼平滑 |
| 滤波 | 关键拐点延迟是否≤2个采样周期 | 超过则减小窗口或换方法 |
| 批次校正 | 参考批次是否保持原形 | 校正不应改变参考批次 |
| 时间对齐 | 事件与响应是否因果一致 | 响应不得早于事件 |
完成上述处理后,数据才具备进入数字孪生建模的基本条件:异常值有标记、缺失有合理来源、噪声被适度抑制、批次间可比、时间轴一致。后续的特征工程、状态估计和模型训练都应基于这份经过质量保障的数据集,而不是原始导出数据。