2. 总氮总磷出水数据采集与预处理
出水总氮、总磷的在线监测数据,是后续原因追溯与工艺判断的“原料”。如果采集环节不规范、预处理环节粗糙,后面无论用多复杂的分析方法,得到的结论都不可靠。本节围绕在线总氮分析仪、总磷分析仪的安装与运维规范,数据采集频率设定,缺失值与异常值处理,以及数据存储方法展开,并以某污水厂一周出水数据的采集与预处理为例,完整走一遍从原始数据到可用数据集的流程。
一、仪表安装与运维:数据可信的前提
在线总氮分析仪通常采用碱性过硫酸钾消解—紫外分光光度法,总磷分析仪多采用过硫酸钾消解—钼酸铵分光光度法。两者都属于“取样—消解—显色/吸光测量”的间歇式分析仪,安装位置和取样条件直接决定数据质量。
取样点应设在出水总排口或消毒前、流量稳定的直管段,避开回流点、加药点下游的混合不均匀区。取样管路应尽量短、坡度连续、避免形成气囊;若管路较长,需配置自动反冲洗与压缩空气吹扫。仪器间应保持通风、温度稳定(一般建议 5~35℃),避免阳光直射比色池。试剂(消解液、显色剂、标准溶液)需按有效期管理,过硫酸钾消解液受热易失效,应冷藏避光保存并定期更换。
校准是数据可信的核心。常规做法是每周一次两点校准(零点和量程点),每月一次多点校准核查线性;更换试剂批号、更换光源或比色池、长时间停机后重新投运,都必须重新校准。校准结果应记录斜率与截距,若斜率相对上次变化超过约 10%,需排查试剂、管路污染或光源衰减。日常维护包括每日检查试剂余量、每周清洗取样管路与消解池、每月更换蠕动泵管。这些记录本身就是后续追溯的重要证据。
二、采集频率与数据清洗
在线分析仪单次测量周期通常为 30~60 分钟,工程上常按 1 小时输出一个均值。采集频率的设定要兼顾工艺变化速度与数据量:总氮总磷在出水端变化相对平缓,1 小时频率足以捕捉日内波动;若用于加药闭环控制,可提高到 15~30 分钟。采集系统应同时记录测量值、测量时间、仪表状态码(正常、校准、故障、维护)和试剂余量,状态码是后续判断异常值性质的关键依据。
数据清洗主要处理两类问题。缺失值:仪表校准、维护、停机或通讯中断会造成整点数据缺失。处理原则是先区分“短时缺失”和“长时缺失”——连续缺失不超过 2 个点,可用线性插值或前后均值填补;连续缺失超过 3 个点,不宜插值,应标记为缺失并保留,避免人为制造虚假平稳段。异常值:包括超出物理量程的越限值、与相邻点突变过大的跳变值、以及仪表状态为故障/校准期间产生的值。常用判据是 3σ 准则或基于滑动中位数的稳健判据,例如某点与前后各 2 点中位数偏差超过量程的 15% 且状态码非正常,则判为异常并置为缺失。
三、一周数据采集与预处理实战
以某污水厂出水总排口为例(以下数据为教学示例,非实测)。总氮分析仪量程 0~30 mg/L,总磷分析仪量程 0~3 mg/L,均按 1 小时输出。一周共 168 个时间点,原始数据中存在:周二上午校准 2 小时缺失、周四通讯中断 4 小时、周六一次试剂更换后首点异常偏高。预处理流程如下:
- 按状态码剔除校准与维护期间数据,标记为缺失;
- 对连续缺失 ≤2 点的时段做线性插值,周四 4 点连续缺失保留为缺失;
- 用滑动中位数法检测跳变,将周六首点总氮 41.2 mg/L(超量程)判为异常并置缺失;
- 统一时间戳为整点,单位统一为 mg/L,保留两位小数;
- 输出“时间—总氮—总磷—数据质量标记”四列数据集,质量标记取“正常/插值/缺失”。
处理后可统计一周有效数据覆盖率、日均值与日极差。例如示例中总氮日均值在 8.6~11.3 mg/L 之间波动,总磷日均值在 0.32~0.55 mg/L 之间,周末总磷略升。这些统计量才是后续原因追溯的输入。数据存储建议采用“原始表 + 清洗表”双表结构:原始表只追加不修改,保留仪表原始报文与状态码;清洗表记录每条数据的处理动作与质量标记,保证任何一条结论都能回溯到原始记录。
需要强调的是,插值只能用于短时缺失,且必须在质量标记中如实体现;连续缺失和异常置缺失的数据应保留在数据集中,而不是删除整行,否则会破坏时间序列的连续性,影响后续按日统计与趋势判断。存储时建议同时保留原始报文与清洗后数值,形成“原始—清洗—统计”三层数据,任何一次原因追溯都能沿这条链路回查。