1. 课程导入与农业传感器异常值问题界定
在智慧农业系统中,传感器是田间信息的“第一道入口”。空气温湿度、土壤含水率、光照强度、二氧化碳浓度、叶面湿度等数据,往往由部署在温室、大田或畜禽舍内的节点按固定周期自动采集,再经网关上传到平台,用于灌溉决策、通风控制、病害预警和产量分析。问题在于:传感器采集到的数值并不天然等于真实环境状态。设备老化、供电波动、通信丢包、探头污染、安装位置不当,甚至飞鸟停落、农机碰撞,都可能让某一段数据偏离真实值。如果这些偏离没有被识别和处理,后续的模型与控制就会建立在错误前提上。
本课程要解决的核心问题可以概括为:如何判断一条农业传感器数据是否可信,并在不可信时采取恰当的处理措施。这既包括“识别”——从时间序列中发现异常,也包括“处理”——对异常点进行标记、剔除、修正或补全,还包括“验证”——确认处理后的数据是否满足后续应用要求。学习完本课程,读者应能理解农业传感器数据的典型特征,区分尖峰、漂移、缺失、卡死等异常类型,掌握基于统计规则、时间序列模型和机器学习的基本识别方法,并能针对不同异常选择合理的处理策略。
什么是异常值
异常值(outlier)是指明显偏离同一条件下正常数据分布或变化规律的观测值。在农业传感器场景中,这个定义需要加两个限定。第一,偏离要相对于“该传感器、该位置、该时段”的正常模式来判断,因为不同深度土壤含水率的正常范围差异很大,不能用一个全局阈值一刀切。第二,偏离要结合物理意义判断,例如土壤含水率不可能为负值,空气温度在短时间内不可能从 20℃ 跳到 80℃ 再跳回,这类违反物理约束的数值即使幅度不大也应视为异常。
需要区分“异常值”和“农事事件”。灌溉后土壤含水率快速上升、通风后温室内二氧化碳浓度下降,都是真实环境变化引起的合理突变,不是异常。识别算法的目标不是消灭所有突变,而是把设备或通信导致的错误与真实农事变化区分开。这一点决定了后续方法不能只看数值大小,还要看变化的时间尺度、持续性和多传感器之间的一致性。
农业传感器数据的四个特点
农业传感器数据与工业过程数据相比,有几个鲜明特点,直接影响异常识别方法的选择。
- 强周期性:温度、光照、二氧化碳浓度随昼夜变化呈现明显日周期,土壤含水率在灌溉周期内呈锯齿状变化。异常判断必须放在周期背景下,否则白天高温可能被误判为尖峰。
- 慢变与突变并存:土壤温湿度、盐分等变量变化缓慢,而光照、风速、降雨状态可能秒级突变。同一套阈值策略难以同时适配。
- 多源相关性:空气温度与光照、土壤含水率与灌溉记录、叶面湿度与空气湿度之间存在物理关联,可以利用多传感器互校验发现单点异常。
- 数据质量参差:田间节点供电不稳、无线链路丢包、探头长期埋设后结垢或腐蚀,导致缺失和漂移比工业场景更常见,异常往往不是孤立点而是成段出现。
四类典型异常及其表现
结合农业现场实际,课程将异常分为四类基本形态,后续章节的方法都围绕这四类展开。
尖峰(spike):单个或极少数采样点突然偏离正常范围,随后立即恢复。常见原因是电磁干扰、瞬时供电波动、通信误码。例如土壤含水率序列稳定在 28% 左右,某一时刻突然出现 65%,下一时刻又回到 28%。尖峰幅度大、持续短,相对容易识别,但若采样间隔较长,也可能与真实灌溉混淆。
漂移(drift):数值随时间缓慢、持续地偏离真实值,短期内看不出突变,长期累积后误差显著。典型原因是探头结垢、电极老化、校准失效。例如 pH 传感器因电极污染,读数在两周内从 6.5 缓慢偏移到 7.3,而实际土壤 pH 并未改变。漂移最难识别,因为单点看都“合理”,需要借助长期趋势、与邻近传感器对比或定期校准记录来判断。
缺失(missing):某时段没有数据,表现为空值、时间戳断档或固定填充值(如 -999)。原因是断电、断网、采集程序异常。缺失本身不是数值错误,但会破坏时间序列连续性,影响后续插值和建模,必须单独标记而不是简单删除。
卡死(stuck):读数长时间保持不变,看似稳定实则失去响应。常见于探头被泥土包裹、传感器进入保护状态或采集程序缓存未更新。例如空气温度连续 6 小时恒为 23.5℃,而同期光照和湿度都在正常变化,这通常意味着传感器已失效。卡死与“真实稳定”的区别在于是否与其它相关变量保持一致。
异常数据对生产决策的影响
异常值不是“数据不好看”的问题,它会沿着数据链传导为错误决策。以一个温室番茄灌溉场景为例:土壤含水率传感器因探头接触不良出现持续偏低的漂移,平台据此判断土壤干旱并触发灌溉,实际土壤水分已接近饱和,结果造成根系缺氧和养分流失。反过来,若尖峰被误当作真实高湿,通风系统可能被错误启动,能耗增加而环境并未改善。在病害预警中,叶面湿度卡死在“高湿”状态,会使预警模型持续报警,久而久之运维人员对告警麻木,真正风险来临时反而被忽略。
因此,异常处理的目标不是追求数据“平滑漂亮”,而是保证进入决策环节的数据在数值可信、时间连续、语义正确三个层面满足要求。数值可信指没有明显错误值;时间连续指采样间隔完整、缺失有标记;语义正确指异常标记不会把真实农事事件误删。后续章节的识别与处理策略,都应围绕这三个目标设计。
课程整体框架
本课程共 30 章,按“认识问题—掌握方法—落地应用”三层推进。第一部分建立概念基础,包括异常值定义、农业数据特点、四类异常形态及其影响,并介绍数据质量评估的基本指标。第二部分进入方法层,依次讲解基于物理约束与统计阈值的规则法、基于滑动窗口与变化率的检测、基于时间序列模型的预测残差法、多传感器互校验,以及面向缺失的插值与面向漂移的校正思路;每类方法都会给出适用条件、参数设置和误判风险。第三部分面向工程落地,覆盖采集端预处理、边缘与云端的分工、异常标记的数据结构、告警与人工复核流程,并通过温室、大田、畜禽舍等场景案例串联完整处理链路。学习过程中建议始终带着一个真实或假设的传感器序列来练习,因为异常识别是否有效,最终要在具体数据上观察和判断。