2. 连续制造中的数据采集与预处理
连续制造过程通常处于高温、高压、连续流动或长时间稳定运行状态,异常检测能否有效,首先取决于数据是否“可用”。本节围绕传感器类型与布置、DCS/SCADA历史数据提取、缺失值处理、时间对齐、重采样与标准化六个环节,说明从现场信号到可建模数据集的完整处理链。需要强调的是:预处理不是简单的“清洗”,而是对物理含义、时间语义和量纲关系的重建。
一、传感器类型与布置
连续制造中常见的传感器可分为四类:温度(热电偶、热电阻、红外测温)、压力(绝压、差压、表压变送器)、流量(电磁、涡街、科氏力质量流量计)和成分/物性(在线气相色谱、pH、电导率、近红外光谱)。此外还有液位、振动、转速等辅助量。每类传感器的采样周期、响应时间和精度不同,例如热电偶响应时间常数可能在数秒到数十秒,而科氏力流量计可做到毫秒级输出。
布置原则应围绕“工艺关键变量”和“异常可观测性”展开。以某连续反应器为例:进料流量计应安装在调节阀上游且保证直管段;反应器温度测点应插入催化剂床层中部而非仅测壁温;压力测点应靠近气相出口以反映真实背压。若只测壁温,床层局部飞温可能被金属壁热惯性掩盖,导致异常检测滞后。因此,传感器布置要保证异常信号在传播路径上“可被看见”,而不是等异常扩散到末端才被间接反映。
二、DCS/SCADA历史数据提取
DCS(集散控制系统)和SCADA(数据采集与监控系统)是连续制造的主要数据源。DCS侧重过程控制回路,SCADA侧重广域监控与调度。提取历史数据时,通常通过OPC DA/UA、历史数据库API或导出CSV/Parquet文件完成。关键点在于:必须同时提取过程值(PV)、设定值(SP)、输出值(OP)和模式状态(自动/手动/串级),否则无法区分“工艺异常”与“控制回路切换”。
提取时还要记录时间戳来源。DCS时间戳通常来自控制器时钟,SCADA可能来自服务器时钟,两者若未同步,会出现秒级甚至分钟级偏差。建议在提取阶段就统一为UTC或工厂标准时间,并保留原始时间戳字段以便追溯。
三、缺失值处理
连续制造数据缺失常见原因包括:仪表故障、通信中断、检修停用、量程超限被标记为坏值。处理前应先区分“真缺失”和“伪缺失”——例如DCS中质量码为“坏”但数值仍保留,不能直接当有效值使用。
常用策略:短时缺失(如少于3个采样周期)可用线性插值或前向填充;较长缺失(如超过10分钟)不宜插值,应标记为无效段并考虑剔除该时间段样本。对于关键变量,若缺失比例超过5%,应回溯仪表维护记录,而不是盲目填充。示例:某流量计因通信闪断每2小时丢失约30秒数据,采用前向填充后需在特征中增加“是否填充”标志位,避免模型把填充值当作真实测量。
四、时间对齐
不同传感器采样周期不同,例如温度1秒、色谱分析60秒、实验室化验4小时。时间对齐的目标是把多源数据映射到统一时间栅格。常用方法有两种:前向对齐(用最近一次有效值代表当前时刻)和线性插值对齐(在相邻两点间插值)。对于慢变量如成分,前向对齐更符合“保持到下一次更新”的物理事实;对于快变量如压力,插值可减少阶梯效应。
对齐时需注意:不能使用未来数据。若在t时刻对齐,只能使用t及之前的数据,否则会造成信息泄漏,使异常检测在离线评估中虚高。建议统一采用“向后对齐、前向填充”策略,并记录每个变量的实际更新时刻。
五、重采样与标准化
重采样是把不规则或不同频率的数据转换为固定频率序列。连续制造常用1秒、5秒或1分钟作为建模频率。降采样时不能简单抽取,而应使用均值、最大值或中位数聚合。例如振动信号降采样到1分钟,应保留该分钟内的均方根值而非瞬时值,否则会丢失冲击特征。
标准化用于消除量纲和量级差异。常用Z-score标准化:x' = (x - μ) / σ,其中μ和σ应仅用训练集计算,再应用到验证集和测试集。对于流量、压力等近似正态变量,Z-score合适;对于成分浓度等偏态变量,可先做对数变换再标准化。示例:某反应器温度均值180°C、标准差5°C,压力均值1.2MPa、标准差0.1MPa,若不标准化,压力在距离计算中几乎被温度淹没。
六、一个可复用的预处理检查清单
为便于实际执行,可将上述环节整理为一份检查清单,在每次构建数据集时逐项确认:
| 环节 | 检查项 | 判断依据 |
|---|---|---|
| 传感器 | 关键变量是否覆盖异常传播路径 | 异常能否在早期测点被观测 |
| 数据提取 | 是否包含PV/SP/OP/模式 | 可区分工艺异常与控制切换 |
| 缺失值 | 缺失比例与连续缺失长度 | 短缺失插值,长缺失标记剔除 |
| 时间对齐 | 是否使用未来数据 | 仅用t及之前数据,避免泄漏 |
| 重采样 | 聚合方式是否匹配物理含义 | 振动用RMS,温度用均值 |
| 标准化 | μ和σ是否仅来自训练集 | 验证/测试集复用训练集参数 |