3. 异常数据识别的基本方法
进出水在线监测数据是否“异常”,不能靠肉眼看曲线“感觉不对”来判断,而应建立一套可重复、可解释、可复核的识别方法。本节围绕五类基本方法展开:阈值判断、突变检测、缺失值识别、逻辑一致性检查、统计过程控制。它们各自回答不同的问题:数值是否越界、变化是否过猛、数据是否断档、多项指标之间是否自相矛盾、过程是否偏离了自身的历史稳定状态。实际复核时通常需要组合使用,单一方法容易漏判或误判。
一、阈值判断:先划出“物理与法规的双重边界”
阈值判断是最基础的方法,核心是为一组参数设定上下限,超出即标记。阈值至少有三个来源:仪表量程与物理极限(如pH理论范围0~14、浊度不可能为负)、排放标准或考核限值(如COD、氨氮、总磷的限值)、工艺合理区间(如进水COD长期在150~400 mg/L,若出现900 mg/L需关注)。
实操中建议为每个参数建立“三级阈值”:合理区间(正常)、关注阈值(预警)、无效阈值(直接判为无效数据)。例如某污水厂进水pH设定:6.5~8.5为正常,6.0~6.5或8.5~9.0为关注,<6.0或>9.0判为可疑并触发复核。需要注意,阈值判断只回答“是否越界”,不回答“为什么越界”,因此它更适合作为第一道筛子,把明显异常的数据挑出来,再交给后续方法细化。
二、突变检测:识别“不该这么快的变化”
突变检测关注的是相邻时刻或短时间窗口内的变化速率。在线仪表按固定周期采集(如每5分钟、每15分钟),正常水质变化通常平缓,若某一时刻数值出现阶跃式跳变,往往意味着仪表故障、采样异常或干扰。常用做法是计算一阶差分:
Δx(t) = x(t) - x(t-1)
若 |Δx(t)| > K × σ_Δ (σ_Δ为历史差分标准差,K取3~5)
则标记为突变点
举例:某COD在线仪历史差分标准差约8 mg/L,某时刻从210 mg/L跳到268 mg/L,Δ=58,约为7σ,明显超过阈值,应标记复核。突变检测的优点是灵敏,缺点是容易把真实工况变化(如暴雨初期冲刷、加药调整)误判为异常,因此需要结合工艺事件记录一起看。工程上还常用“连续多点同向跳变”作为辅助判据,避免单点噪声造成误报。
三、缺失值识别:区分“没有数据”和“数据为零”
缺失值识别看似简单,实际最容易出错。在线数据缺失有多种形态:时间戳断档(某时段无记录)、空值或占位符(NULL、-9999、0)、重复时间戳、恒定值卡死(连续多点为同一数值,仪表可能死机)。复核时要先判断缺失类型,再决定处理方式:短时断档可插值或标记,长时间断档应判为无效时段,不能简单用0填充,否则会严重拉低日均值、误导统计。
建议在数据表中增加“有效标志”字段,对每个时间点标注正常、缺失、可疑、无效,后续统计只使用正常数据,并单独统计缺失率。缺失率本身也是仪表运行状态的指标,若某参数缺失率突然升高,往往提示通讯或采样系统故障。
四、逻辑一致性检查:让指标之间“互相作证”
水质参数之间存在物理和化学约束,利用这些约束可以交叉验证。常见规则包括:
- pH与碱度、氨氮的关联:硝化过程消耗碱度,若氨氮大幅下降而pH异常升高,需核查。
- 进水与出水的物料平衡:出水COD一般不应高于进水COD(除非有内源或加药干扰),出现倒挂应复核。
- 流量与浓度的关系:流量骤增时浓度通常被稀释,若流量与浓度同向大幅上升,需排查。
- 同一指标多台仪表比对:进出水或平行仪表读数偏差超过允许范围时标记。
逻辑一致性检查的价值在于发现“单看数值正常、但组合起来不合理”的隐蔽异常,例如仪表漂移导致的缓慢偏差,阈值和突变都难以捕捉,但通过与关联指标比对可以暴露。
五、统计过程控制:用过程自身的历史判断“是否偏离”
统计过程控制(SPC)不依赖固定阈值,而是用过程自身的历史分布建立控制限。常用控制图包括均值-极差图(X̄-R)和单值-移动极差图(I-MR)。以I-MR图为例,先取一段稳定期数据计算均值μ和移动极差平均MR̄,控制限为:
UCL = μ + 2.66 × MR̄
LCL = μ - 2.66 × MR̄
(系数2.66对应n=2的移动极差)
判异规则可参考经典的“连续7点上升或下降”“连续3点中有2点超出2σ”“1点超出3σ”等。SPC的优势是能发现趋势性漂移和周期性波动,适合判断仪表是否在“慢慢跑偏”,这是阈值法难以做到的。需要强调,控制限应基于稳定期数据定期更新,不能一次设定长期不变。
六、组合使用与复核要点
五类方法并非并列可选,而是有先后与互补关系。建议的复核顺序是:先做缺失值识别,把断档和无效占位剔除,避免污染后续统计;再做阈值判断,快速筛出明显越界点;接着做突变检测,捕捉阶跃跳变;然后用逻辑一致性检查交叉验证关联指标;最后用SPC观察长期趋势和漂移。每一步都应保留标记结果和判断依据,形成可追溯的复核记录。
需要提醒的是,任何方法都会产生误报。阈值过严会把正常波动判为异常,突变检测对真实工况变化敏感,SPC控制限若基于不稳定期数据会失真。因此复核人员不能只看“是否被标记”,还要结合采样时间、仪表维护记录、工艺运行事件(如加药、排泥、暴雨)综合判断。标记是起点,人工复核才是结论。
掌握这五类方法后,面对一段进出水在线数据,复核人员应能快速回答五个问题:有没有断档?有没有越界?有没有跳变?指标之间是否自洽?过程是否偏离了自身稳定状态?把这些问题逐一落实,异常识别就从“凭经验”变成了“有方法、有依据、可复现”的规范动作。