4. 生物过程数据预处理与质量保障

生物过程数据来自在线传感器(pH、溶氧、温度、尾气CO₂/O₂)、离线取样(细胞密度、代谢物浓度、效价)以及补料/通气等操作记录。这些数据在进入数字孪生模型前,必须经过一套质量保障流程,否则异常值、缺失、噪声、批次差异和时间错位会被模型当作真实规律学习,导致状态估计漂移、软测量失效甚至控制决策错误。本节围绕异常值检测、缺失值插补、滤波与平滑、批次效应校正、数据对齐与时间同步五个环节,说明实际怎么做以及如何判断处理是否合理。

异常值检测:先定义“正常”的边界

异常值检测不是简单删除离群点,而是先建立正常工况的参考。常用三类方法:基于统计的3σ或稳健Z分数(用中位数与MAD替代均值与标准差,避免异常值污染阈值)、基于物理范围的硬约束(如pH在6.6~7.2、溶氧不低于5%空气饱和度)、基于时间序列的突变检测(相邻采样点变化率超过工艺允许上限)。以某批次pH序列为例,采样间隔1 min,正常波动标准差约0.02,若某点相对前一分钟跳变0.35且持续单点,则判定为传感器尖峰。处理策略应分级:单点尖峰可标记并插补;连续多点越界需检查电极标定或补料阀状态,不能直接覆盖。

异常值标记必须保留原始值和处理标记两列,禁止直接覆盖原始数据。数字孪生模型训练时应能追溯每个被修改点的原因。

缺失值插补:区分随机缺失与结构性缺失

缺失分两类:随机缺失(如通信丢包、单次取样失败)和结构性缺失(如离线取样间隔长、某传感器整段未启用)。随机缺失且缺口短(≤3个采样点)时,线性插值或三次样条即可;缺口较长或参数间强相关时,用同批次其他变量做回归插补,例如用尾气CO₂释放率与补料速率回归估计细胞密度。结构性缺失不能靠插补“造”出高频信息,应降采样到真实可用的时间分辨率,或将该变量作为低频观测单独进入模型。插补后需检查插补段是否引入虚假平滑:若插补段方差显著低于相邻真实段,说明插补过度,应改用带过程噪声的卡尔曼平滑。

滤波与平滑:抑制噪声但保留动态

在线传感器噪声会放大微分项,影响比生长速率等派生量。常用方法:滑动平均(窗口5~15点,适合缓变信号)、Savitzky-Golay滤波(多项式拟合,保留峰形,适合代谢物浓度曲线)、一阶低通滤波(y_k=αy_{k-1}+(1-α)x_k,α取0.7~0.9)、卡尔曼滤波(有过程模型时最优)。选择依据是信号带宽与噪声水平:pH和温度变化慢,可用较大窗口;溶氧在通气切换时变化快,窗口过大会掩盖真实响应。判断滤波是否合适,可对比滤波前后残差是否接近白噪声,以及关键拐点(如补料启动、溶氧反弹)是否被延迟超过2个采样周期。

生物过程数据预处理与质量保障链路 原始多源数据 → 质量处理 → 对齐同步 → 可信建模数据集 在线传感器 pH / DO / T 尾气 CO₂ / O₂ 1 min 采样 高频、含噪声 离线取样 细胞密度 / 代谢物 效价 / 底物 4~12 h 间隔 低频、有延迟 操作记录 补料 / 通气 / 诱导 事件时间戳 离散事件 ① 异常值检测 稳健Z / MAD 阈值 物理范围硬约束 变化率突变检测 ② 缺失值插补 短缺口:线性/样条 长缺口:回归插补 结构性缺失:降采样 ③ 滤波与平滑 滑动平均 / S-G 一阶低通 / 卡尔曼 保留拐点、抑制噪声 ④ 批次效应校正 参考批次 / 中位数对齐 去除批次偏移与尺度差 ⑤ 数据对齐与时间同步 统一时间基准(UTC/批次相对时间) 重采样到统一网格(如5 min) 离线取样时间戳校正 操作事件对齐到最近网格 滞后补偿(死时间校正) 插值/聚合规则明确 可信建模 数据集 质量标记完整 时间轴一致 批次可比 可追溯 质量检查:插补段方差是否异常偏低 · 滤波后拐点延迟是否≤2个采样周期 · 批次校正后参考批次是否保持原形 · 对齐后事件与响应是否因果一致

批次效应校正:让不同批次可比

不同批次的传感器标定、接种状态、原材料差异会引入系统性偏移。校正目标是保留批次内真实动态,只去除批次间不可解释的偏移。常用做法:选取一个参考批次(质量最完整、过程最标准),计算各批次在相同生理阶段(如对数中期)的变量中位数,用差值或比值将其他批次对齐到参考批次。对于乘性效应(如效价整体偏低20%),用比例因子校正;对于加性效应(如pH整体偏移0.1),用偏移量校正。校正后必须检查:参考批次曲线不变,其他批次在校正后与参考批次的同阶段差异应显著缩小,但批次内的时间趋势和拐点位置不能改变。

数据对齐与时间同步:统一时间轴

多源数据的时间基准不同:在线传感器用采集系统时钟,离线取样用人工记录时间,操作事件用DCS时间戳。对齐步骤:第一,将所有时间戳转换为统一基准(建议用批次相对时间,以接种时刻为0);第二,确定统一重采样网格,例如5 min,网格间隔应不高于最快动态的1/5;第三,对高频在线数据用聚合(均值或中位数)落到网格,对低频离线数据用插值或保持(零阶保持)落到网格;第四,校正离线取样的死时间,例如取样管路延迟2 min、离心和检测耗时15 min,则实际代表时刻应回退17 min;第五,操作事件对齐到最近网格,并生成事件指示变量。对齐后应检查因果性:补料事件之后溶氧和pH的响应方向是否符合工艺预期,若响应出现在事件之前,说明时间戳或滞后补偿有误。

可执行的质量保障检查清单

环节关键检查项判断依据
异常值原始值与标记列是否同时保留可追溯每个修改点
缺失插补插补段方差是否低于相邻真实段若明显偏低,改用卡尔曼平滑
滤波关键拐点延迟是否≤2个采样周期超过则减小窗口或换方法
批次校正参考批次是否保持原形校正不应改变参考批次
时间对齐事件与响应是否因果一致响应不得早于事件
建议在数据管道中固定输出一份质量报告:每个变量的缺失率、异常标记数、插补方法、滤波参数、批次校正因子、对齐后时间范围。这份报告随数据集版本一起保存,是数字孪生模型可复现的基础。

完成上述处理后,数据才具备进入数字孪生建模的基本条件:异常值有标记、缺失有合理来源、噪声被适度抑制、批次间可比、时间轴一致。后续的特征工程、状态估计和模型训练都应基于这份经过质量保障的数据集,而不是原始导出数据。