4. 数据清洗与预处理基础
催化实验的原始数据往往来自多个渠道:气相色谱工作站导出的峰面积表、质谱软件生成的半定量结果、在线红外记录的时间序列、手动记录的称量与温度,以及不同批次实验人员各自维护的 Excel 台账。这些数据在进入汇总表之前,几乎必然存在缺失、异常、单位混用和格式不一致的问题。数据清洗不是"把表格弄好看",而是保证后续转化率、选择性、TOF 等派生量计算在物理上成立、在统计上可复现的前置工序。本节围绕四类最常见的问题展开:缺失值怎么处理、异常值怎么识别、单位怎么统一、格式怎么标准化。
缺失值:先判断机制,再决定动作
缺失值处理的第一步不是填补,而是判断缺失的机制。催化数据中常见的缺失有三类:一是完全随机缺失,例如某次进样时自动进样器偶发失败导致该时间点无色谱记录;二是随机缺失,例如低转化率样品的产物峰低于检出限而被软件判为未检出;三是结构性缺失,例如某催化剂在高温条件下失活严重,实验设计中就没有安排 600 ℃ 的数据点。三类缺失对应的处理策略完全不同:第一类可以插补或剔除,第二类必须按检出限处理而不能简单填零,第三类则应在数据集中明确标注"未设计该条件",绝不能插补。
实际操作中,建议在原始数据表中增加一列"缺失标记",用统一编码区分:NA-随机、ND-未检出、NS-未设计。对于随机缺失的连续时间序列,若缺失点前后间隔均匀且变化平缓,可采用线性插值;对于未检出值,应记录检出限(LOD),在计算平均值时按 LOD/2 或 LOD/√2 处理,并在报告中注明所用规则。切忌对未检出值直接填 0,否则会系统性低估低转化率条件下的产物量,进而扭曲选择性数据。
异常值:用物理判据和统计判据双重筛查
异常值识别不能只依赖统计方法。催化数据有其物理约束:碳平衡偏差过大、转化率超过 100%、选择性之和明显偏离 100%、同一条件下重复实验的 TOF 相差数倍,这些都提示数据可能存在问题。建议采用"物理判据优先、统计判据辅助"的两级筛查。
物理判据包括:碳平衡闭合度(一般要求 |碳平衡偏差| ≤ 5%)、氧平衡、转化率与选择性的取值范围、同一催化剂同一条件下的重复性(相对标准偏差 RSD 通常应小于 5%~10%,视反应体系而定)。统计判据常用箱线图法(IQR 准则)或 Grubbs 检验:以 IQR 准则为例,若某点超出 Q1−1.5×IQR 至 Q3+1.5×IQR 的范围,标记为疑似异常;超出 3×IQR 则标记为高度异常。但统计标记只是"疑似",必须回到原始谱图、实验记录和操作日志中查找原因——是进样量偏差、检测器漂移、还是催化剂装填不均。只有确认属于操作失误或仪器故障的数据才可剔除,并在清洗日志中记录剔除理由;无法归因的异常点应保留并标注,供后续敏感性分析使用。
单位统一:先定基准,再做换算
催化数据中最容易出错的是单位。峰面积本身无量纲,必须通过标准曲线换算为物质的量;流量有 mL·min⁻¹、L·h⁻¹、sccm 等多种表达;催化剂用量有 g、mg,活性表达有 mol·g⁻¹·h⁻¹、mmol·g⁻¹·min⁻¹、TOF(h⁻¹)等。单位不统一时,直接汇总会得到量级错误的结果。
建议在项目开始时确定一套"基准单位",例如:物质的量统一为 mol,质量统一为 g,时间统一为 h,流量统一为 mL·min⁻¹(并注明是否为标准状况),温度统一为 ℃ 并在需要热力学计算时转换为 K。所有原始数据在进入汇总表前,必须乘以明确的换算系数转换为基准单位,换算系数写入清洗日志。例如将 μmol·g⁻¹·min⁻¹ 转换为 mol·g⁻¹·h⁻¹,系数为 1×10⁻⁶×60 = 6×10⁻⁵。对于气体流量,若原始记录为 sccm(标准立方厘米每分钟),需注明标准状况的定义(通常 0 ℃、101.325 kPa 或 25 ℃、101.325 kPa),不同定义之间的换算不能省略温度修正。
格式标准化:让数据可被脚本直接读取
格式标准化的目标是让清洗后的数据表具备"机器可读、结构稳定、语义明确"三个特征。具体做法包括:列名使用英文小写加下划线(如 catalyst_id、t_reactor_c、n_ch4_mol),并在列名中体现单位;时间戳统一为 ISO 8601 格式(2024-03-05T14:30:00);数值列不得混入单位字符串或"约""左右"等文字;缺失值使用统一编码而非空白或"—";分类变量(如催化剂编号、反应条件标签)使用受控词表,避免"Ni/Al2O3""Ni-Al2O3""ni/al2o3"三种写法并存。
推荐将数据组织为长表结构:每行是一条"实验—条件—测量"记录,列为样品编号、催化剂、温度、流量、物种类别、物质的量、缺失标记、数据来源、清洗备注。长表便于用 pandas、R 或 SQL 直接筛选和分组,也便于在报告中按任意维度汇总。若原始数据是宽表(每个物种一列),应在清洗阶段转换为长表,而不是在绘图阶段临时转置。
完成上述四步后,数据才具备进入派生量计算的条件。一个可操作的验收标准是:任取一行数据,都能回答"这个数从哪台仪器、哪次实验、经过什么换算得到",并且用同一套脚本可以从原始文件重新生成清洗后的表格。做到这一点,后续的转化率、选择性、TOF 和碳平衡计算才有可靠的基础。