4. 原始数据清洗:去除无关闲聊、合并重复表达、修正语义歧义

访谈原始数据中混杂大量非结构化噪音:寒暄、打断、重复、自相矛盾、指代不明。若直接将这些“脏数据”输入PRD结构化环节,会导致需求颗粒度错乱、优先级误判、验收标准模糊。本章操作的目标是:将原始记录转化为语义干净、逻辑自洽、无冗余的“清洗后访谈内容”,为后续需求拆解与分类提供可靠素材。

清洗原则:宁漏勿错、保留原意、不脑补。只做语义去噪,不做需求解读;如果某个表达完全无法还原真实意图,标记为“待澄清”,不得自行修改。

4.1 适用场景

  • 场景一:多源访谈记录(用户访谈、干系人访谈、焦点小组)汇总后的首轮去重与去噪。
  • 场景二:转录文本中夹杂大量口头禅、语气词、重复性补充说明。
  • 场景三:同一受访者在不同时间回答了相同问题,表达有差异但语义等同。
  • 场景四:受访者使用了模糊代词(如“它”“那个”“这个流程”)导致上下文指向不明。

4.2 前置条件

# 条件 检查标准
1 原始访谈记录已整理为逐字稿(TXT 或 CSV) 每段记录有 speaker 标识、时间戳或话题标签
2 已完成数据脱敏(人名/敏感业务词替换为代号) 脱敏标记在顶注中列出
3 清洗团队已熟悉该业务领域的常用术语表 术语表版本日期已验证
4 已定义“无效言论”判定规则(见下文 4.5) 规则文档已签署

4.3 操作步骤

  1. 逐句读取原文,标记三类元素:
    • 可移除:完全无关(天气、问候、私人生活、反复道歉)
    • 需合并:同一语义的复述性表达
    • 需修正:语义模糊、代词歧义、逻辑矛盾
  2. 去除无关闲聊(→ 输入输出物 4.4 中的“移除清单”)
  3. 合并重复表达:选择语义最完整、语气最中立的一句保留,其余直接删除,不拼接。
  4. 修正语义歧义:将模糊代词替换为明确指代;将倒装/跳跃句调整为正常语序,不改变原意。
  5. 标注待确认项:无法确认的歧义条目写入“待澄清清单”,原文保留但不加入清洗后内容。
  6. 输出最终语义:一条记录对应一个独立需求点,每条不超过 80 字(中文)。
示例对照
原句(脏):“嗯…就是那个嘛,早上那个流程,很慢,真的,很久,能不能快一点,就那个提交单子的环节,我说的是采购单审批那个……”
清洗后:“采购单审批环节耗时过长,需缩短处理时长。”
(移除嗯、语气词、重复;合并“很慢”“很久”;修正“那个流程”为“采购单审批环节”)

4.4 输入输出物

类型 明细 格式
输入 原始访谈逐字稿(含 speaker 和时间戳) .txt / .csv
输入 领域术语表 .xlsx(两列:原文 / 规范词)
输入 无效言论判定规则 内部 SOP 文件
输出 清洗后访谈内容(单句列表) .csv(列:序号、原句、清洗后、操作类型)
输出 移除清单(含移除原因) .txt 日志
输出 待澄清清单(含原句、问题描述) 邮件或工单

4.5 责任边界

  • 清洗操作员:执行步骤 1-6,生成输出物。
  • 需求分析师(复核人):复核清洗结果(抽检率 ≥ 30%);对“待澄清清单”做最终裁决。
  • 严禁:清洗操作员对语义歧义做主观偏好修改;所有修改必须在“操作类型”列中记录对应规则编号。

4.6 记录材料

每次清洗操作需填写 清洗日志记录表:

清洗批次编号:CLN-202504-01
清洗日期:2025-04-03
操作员:张三
总原始条数:247
移除条数:38
合并后净条数:205
待澄清条数:4
复核人:李四
复核日期:2025-04-04
复核结论:通过(抽查条数 62,偏差 1 条,偏差率 1.6%)

4.7 异常处理

常见异常及对策
  • 异常A – 大段逻辑断裂:受访者中途跑题,前后关键词完全不同。→ 分段标记,输出多条独立语句,并在备注栏注明“话题跳转”。
  • 异常B – 同频多人发言重叠:录音中两人同时说话,转录文本混乱。→ 整段保留不处理,标记“待补录音勘误”。
  • 异常C – 专业缩略语未在术语表中:例如“SRM 系统”被误写为“斯尔姆”。→ 结合上下文确认缩写全称,更新术语表。
  • 异常D – 情绪化极端言论:例如“这个功能完全就是垃圾,谁设计的蠢死了”。→ 仅提取事实部分,例如“功能稳定性不满足要求”,去除人身攻击。

4.8 验收标准

  1. 输出物中无语气词、无重复表达、无模糊代词。
  2. 每条清洗后语句可独立被理解,无需参考上下文。
  3. 移除清单条数与实际删除数一致,且移除原因可追溯。
  4. 待澄清清单在 2 个工作日内得到干系人回复确认。
  5. 复核抽检偏差率 ≤ 5%。
原始数据清洗流程 原始访谈逐字稿 去除无关闲聊 合并重复表达 修正语义歧义 清洗后内容 待澄清清单 异常处理 语义无法确认 → 待澄清清单 逻辑断裂 → 分段标记