4. 计量数据预处理实战
从 PC-DMIS 或 Q-DAS 导出的原始计量数据,几乎不可能直接进入 SPC 控制图。原因很现实:三坐标测量机在自动运行中可能因测点触碰毛刺、探针补偿异常或工件表面油污产生离群读数;操作员漏测某个特征会造成整行缺失;不同班次、不同设备导出的文件在时间戳格式和单位上往往不一致。SPC 的前提是数据同源、同尺度、同时间基准,因此预处理不是可选项,而是控制图有效性的第一道门槛。本节以一份典型的 PC-DMIS 导出 CSV 为例,走完异常值识别、缺失值处理、数据对齐与单位统一的完整清洗链路。
先看清数据长什么样
PC-DMIS 的尺寸报告导出通常包含:特征名(如 CIR1_DIA)、理论值、实测值、偏差、上下公差、测量时间、设备编号。Q-DAS 的 qs-STAT 导出则更偏向过程数据,字段为 K 字段编号、特性名称、测量值、时间戳、机床/工件标识。两者共同的问题是:实测值列可能混入文本(如 "OUT OF TOL")、时间戳可能是 "2024/03/15 08:23:11" 或 "15.03.2024 08:23" 两种格式、直径单位可能是 mm 也可能是 inch。清洗的第一步不是急着删数据,而是把字段语义和单位先固定下来。
异常值识别:先判断"是不是错",再判断"要不要删"
异常值分两类:一类是测量系统错误导致的无效值,比如直径出现 -0.02 mm 或 999.99 mm,这类必须剔除;另一类是过程本身真实波动产生的极端值,比如刀具刚换、工件装夹偏移导致的偏大偏差,这类不能随意删除,否则会掩盖真实的过程失控信号。区分二者的依据是物理合理性和统计判据。
物理合理性检查最直接:直径、长度、位置度不应为负;超出量程上限的值直接标记为无效。统计判据常用两种。第一种是 3σ 准则:对同一特征的一组测量值计算均值 x̄ 和标准差 s,若 |xi − x̄| > 3s,则标记为可疑。第二种是箱线图 IQR 准则:计算 Q1、Q3,IQR = Q3 − Q1,超出 [Q1 − 1.5×IQR, Q3 + 1.5×IQR] 的点为离群点。对于样本量小于 25 的小批量数据,IQR 比 3σ 更稳健,因为标准差本身会被极端值拉大。
以某批次 20 个孔直径(理论 φ10.00 mm,公差 ±0.05)为例,实测值集中在 9.97~10.03 mm,但出现一个 10.42 mm。计算得 x̄ ≈ 10.001,s ≈ 0.015,3s ≈ 0.045,10.42 远超阈值,同时它已超出上公差 10.05,属于物理上不可能合格的值,应判定为测量错误并剔除。而另一个 10.048 mm 虽然接近上公差,但仍在 3σ 内且物理合理,应保留并作为过程能力分析的输入。
缺失值处理:填补还是剔除,取决于缺失机制
缺失值处理不能一刀切。先判断缺失是随机的还是系统性的。如果某个特征在整批数据中只有零星几个空单元格,属于随机缺失,可以用该特征其余有效值的均值或中位数填补,并在数据表中新增一列"填补标记"记录哪些点被填补。如果某个特征连续多行缺失,或者某个班次的数据整段为空,说明测量过程本身出了问题,此时填补会伪造过程信息,正确做法是剔除该段数据并在报告中说明原因。
在 Q-DAS 中,缺失值有时以特定代码表示,如 -9999 或 0。这些代码不能当作真实测量值参与计算,必须在导入阶段就识别并转换为空值。一个实用的检查方法是:对每个数值列统计最小值,若出现 -9999 或 0 而该特征物理上不可能为 0,则说明存在占位符缺失。
数据对齐:让不同来源的数据落在同一时间轴上
PC-DMIS 导出的时间戳常为 "2024/03/15 08:23:11",Q-DAS 可能为 "15.03.2024 08:23",两者格式不同,直接排序会错乱。对齐操作分三步:第一,将所有时间戳解析为统一的 ISO 8601 格式(YYYY-MM-DD HH:MM:SS);第二,按特征名分组,组内按时间升序排列,确保同一特征的测量值按实际测量顺序排列;第三,如果同一工件有多个特征的测量数据,按工件 ID 关联,形成"工件—特征—时间—测量值"的宽表结构。
对于多设备场景,比如同一批次工件分别在三坐标和影像仪上测量,还需要在数据中保留设备编号字段,避免把不同测量系统的数据混在一起计算过程能力。SPC 控制图要求同一控制限下的数据来自同一测量系统,否则测量系统变异会混入过程变异。
单位统一:最容易出错也最容易被忽略
单位不统一是 SPC 数据清洗中最隐蔽的错误。PC-DMIS 默认输出 mm,但某些客户图纸以 inch 标注,操作员可能在导出时切换了单位;Q-DAS 中位置度可能以 μm 记录,而直径以 mm 记录。如果直接混算,控制图会完全失真。
统一规则应明确写入清洗脚本:所有长度类字段统一为 mm,保留 3 位小数;inch 转 mm 乘以 25.4;μm 转 mm 除以 1000;角度统一为度,弧度转度乘以 180/π。转换后应抽查几个已知值验证,例如 0.5 inch 应变为 12.700 mm,250 μm 应变为 0.250 mm。单位统一后,再重新计算均值和标准差,因为单位转换会改变数值尺度。
清洗结果检查清单
完成上述四步后,用以下清单快速验证数据是否达到 SPC 输入要求:
| 检查项 | 合格标准 | 常见问题 |
|---|---|---|
| 异常值 | 无效值已剔除,极端值已标记并说明保留理由 | 把真实过程波动当错误删除 |
| 缺失值 | 填补方式已记录,连续缺失段已剔除 | 用 -9999 参与均值计算 |
| 时间对齐 | 时间戳统一为 ISO 8601,按特征+时间排序 | 不同格式时间戳直接排序 |
| 单位 | 长度统一 mm,角度统一度,保留位数一致 | inch 与 mm 混算 |
| 可追溯性 | 原始文件保留,清洗日志可查 | 直接覆盖原始数据 |
预处理完成后,数据才具备进入 SPC 控制图计算的条件。此时每个特征的数据应满足:单位一致、时间有序、无效值已处理、缺失情况明确。后续的 X̄-R 图、P 图或 Cpk 计算,都建立在这份干净数据之上。清洗阶段多花十分钟核对,比控制图报警后回头排查数据问题要高效得多。