2. 工业数据基础

工业数据质量监控的第一步,不是写规则,而是搞清楚“数据从哪来、长什么样、怎么进系统、最后存在哪里”。如果对数据来源和结构没有清晰认知,后续的清洗、校验、告警和根因分析都会变成盲人摸象。本节从来源、类型、采集方式、数据结构和存储形式五个维度,建立工业数据的整体认知框架。

一、工业数据的四大来源

工业现场的数据来源可以按“离物理对象远近”划分为四层,越靠近设备,数据频率越高、体量越大、语义越弱。

  • 设备与传感器层:PLC、DCS、变频器、智能仪表、振动/温度/压力传感器,产生高频时序信号,是工业数据的主体。
  • 控制系统与SCADA层:SCADA、HMI、组态软件汇总设备状态、报警、操作记录,带有工艺语义。
  • 生产管理系统层:MES、WMS、QMS、ERP,产生工单、批次、物料、质检、能耗等业务数据。
  • 外部与辅助系统层:环境监测、能源管理、视频监控、实验室LIMS、第三方接口数据。

这四层数据在时间精度、更新频率、数据量和语义完整度上差异巨大,是后续质量规则必须“分层设计”的根本原因。

二、工业数据的类型划分

按数据形态,工业数据通常分为五类,不同类型对应不同的质量关注点。

数据类型典型示例主要质量关注点
时序数据温度、压力、电流、转速缺失、跳变、漂移、时间戳错位
状态/事件数据启停、报警、故障码状态跳变合法性、重复上报
业务事务数据工单、批次、报工记录主键唯一、外键完整、逻辑一致
文本/日志数据操作日志、维修记录格式规范、关键字段缺失
图像/视频数据视觉质检、监控画面帧率、分辨率、标注一致性

三、常见采集方式与信号链

采集方式决定了数据的实时性、完整性和可追溯性。常见方式包括:PLC轮询采集、OPC UA/Modbus等协议直采、SCADA转发、消息中间件(MQTT/Kafka)推送、数据库直连抽取、文件/接口批量导入。下图展示了一条典型的工业数据采集信号链,从现场设备到存储层的完整路径。

工业数据采集信号链:从现场设备到存储层 设备与传感器层 PLC / DCS 智能仪表 振动/温度传感器 采集与协议层 Modbus / OPC UA MQTT / Kafka SCADA 转发 边缘汇聚层 边缘网关 协议转换 时间戳对齐 存储与服务层 时序库 / 关系库 数据湖 / 消息队列 质量监控平台 典型数据结构与常见存储形式映射 时序结构 tag + timestamp + value 存储:InfluxDB / TDengine 关系结构 工单/批次/物料表 存储:MySQL / PostgreSQL 半结构化 JSON / 日志 / 报文 存储:MongoDB / 数据湖 非结构化 图像 / 视频 / 音频 存储:对象存储 / 文件系统

四、典型数据结构与存储形式

工业数据在存储时通常呈现四种结构形态,选择哪种存储,取决于查询模式和质量校验需求。

  • 时序结构:以“测点+时间戳+值+质量码”为核心,适合高频写入和按时间窗口聚合查询,常用InfluxDB、TDengine、TimescaleDB。
  • 关系结构:工单、批次、物料、质检等业务数据,强调主外键和事务一致性,常用MySQL、PostgreSQL、Oracle。
  • 半结构化:设备报文、JSON日志、报警详情,字段可变,常用MongoDB、Elasticsearch或数据湖。
  • 非结构化:视觉质检图像、监控视频、音频,常用对象存储(MinIO、S3)配合元数据表管理。

关键认知:工业数据质量监控不是只盯一张表,而是要同时覆盖“高频时序 + 低频业务 + 半结构化日志”三类数据。不同存储形式的质量规则、校验时机和修复策略完全不同。

五、案例场景:一条产线的数据链路

以某汽车零部件产线为例,压机PLC每50ms上传一次压力与位移信号,SCADA每5秒汇总一次设备状态,MES在每批次结束时写入工单和质检结果。三类数据分别进入时序库、关系库和消息队列。质量监控平台需要:

  1. 对时序数据检查时间戳连续性、量程越界和突变率;
  2. 对状态数据检查状态跳变是否符合工艺状态机;
  3. 对业务数据检查批次号唯一性、工单与质检记录的外键完整性。

如果只监控时序数据,就会漏掉“批次号重复导致质检结果错配”这类业务层质量问题;反之,只监控业务数据,则无法发现传感器漂移。因此,数据来源和结构的梳理,是设计分层质量规则的前提。

六、常见误区与复盘

误区一:把所有数据都塞进关系库。高频时序数据写入关系库会导致性能急剧下降,且时间窗口查询效率低。

误区二:忽略时间戳来源。设备本地时间、网关时间、服务器时间不一致,会造成数据错位,后续对齐成本极高。

误区三:只采集数值,不采集质量码。PLC的“坏值”“超时”“手动置位”等状态如果丢失,质量监控就无法区分真实异常和采集异常。

复盘建议:在项目初期就建立“数据源清单”,记录每个测点的来源系统、采集协议、频率、时间戳来源、存储位置和责任人。这份清单本身就是后续数据质量规则的基础资产。

数据源清单示例(片段):
测点ID      来源系统   协议       频率     时间戳来源   存储位置      责任人
P-001       压机PLC    OPC UA     50ms     网关NTP     时序库        张工
S-002       SCADA      MQTT       5s       服务器NTP   时序库        李工
WO-2024     MES        REST API   批次结束  MES服务器   关系库        王工