4. 原始数据清洗:去除无关闲聊、合并重复表达、修正语义歧义
访谈原始数据中混杂大量非结构化噪音:寒暄、打断、重复、自相矛盾、指代不明。若直接将这些“脏数据”输入PRD结构化环节,会导致需求颗粒度错乱、优先级误判、验收标准模糊。本章操作的目标是:将原始记录转化为语义干净、逻辑自洽、无冗余的“清洗后访谈内容”,为后续需求拆解与分类提供可靠素材。
清洗原则:宁漏勿错、保留原意、不脑补。只做语义去噪,不做需求解读;如果某个表达完全无法还原真实意图,标记为“待澄清”,不得自行修改。
4.1 适用场景
- 场景一:多源访谈记录(用户访谈、干系人访谈、焦点小组)汇总后的首轮去重与去噪。
- 场景二:转录文本中夹杂大量口头禅、语气词、重复性补充说明。
- 场景三:同一受访者在不同时间回答了相同问题,表达有差异但语义等同。
- 场景四:受访者使用了模糊代词(如“它”“那个”“这个流程”)导致上下文指向不明。
4.2 前置条件
| # | 条件 | 检查标准 |
|---|---|---|
| 1 | 原始访谈记录已整理为逐字稿(TXT 或 CSV) | 每段记录有 speaker 标识、时间戳或话题标签 |
| 2 | 已完成数据脱敏(人名/敏感业务词替换为代号) | 脱敏标记在顶注中列出 |
| 3 | 清洗团队已熟悉该业务领域的常用术语表 | 术语表版本日期已验证 |
| 4 | 已定义“无效言论”判定规则(见下文 4.5) | 规则文档已签署 |
4.3 操作步骤
- 逐句读取原文,标记三类元素:
- 可移除:完全无关(天气、问候、私人生活、反复道歉)
- 需合并:同一语义的复述性表达
- 需修正:语义模糊、代词歧义、逻辑矛盾
- 去除无关闲聊(→ 输入输出物 4.4 中的“移除清单”)
- 合并重复表达:选择语义最完整、语气最中立的一句保留,其余直接删除,不拼接。
- 修正语义歧义:将模糊代词替换为明确指代;将倒装/跳跃句调整为正常语序,不改变原意。
- 标注待确认项:无法确认的歧义条目写入“待澄清清单”,原文保留但不加入清洗后内容。
- 输出最终语义:一条记录对应一个独立需求点,每条不超过 80 字(中文)。
示例对照
原句(脏):“嗯…就是那个嘛,早上那个流程,很慢,真的,很久,能不能快一点,就那个提交单子的环节,我说的是采购单审批那个……”
清洗后:“采购单审批环节耗时过长,需缩短处理时长。”
(移除嗯、语气词、重复;合并“很慢”“很久”;修正“那个流程”为“采购单审批环节”)
原句(脏):“嗯…就是那个嘛,早上那个流程,很慢,真的,很久,能不能快一点,就那个提交单子的环节,我说的是采购单审批那个……”
清洗后:“采购单审批环节耗时过长,需缩短处理时长。”
(移除嗯、语气词、重复;合并“很慢”“很久”;修正“那个流程”为“采购单审批环节”)
4.4 输入输出物
| 类型 | 明细 | 格式 |
|---|---|---|
| 输入 | 原始访谈逐字稿(含 speaker 和时间戳) | .txt / .csv |
| 输入 | 领域术语表 | .xlsx(两列:原文 / 规范词) |
| 输入 | 无效言论判定规则 | 内部 SOP 文件 |
| 输出 | 清洗后访谈内容(单句列表) | .csv(列:序号、原句、清洗后、操作类型) |
| 输出 | 移除清单(含移除原因) | .txt 日志 |
| 输出 | 待澄清清单(含原句、问题描述) | 邮件或工单 |
4.5 责任边界
- 清洗操作员:执行步骤 1-6,生成输出物。
- 需求分析师(复核人):复核清洗结果(抽检率 ≥ 30%);对“待澄清清单”做最终裁决。
- 严禁:清洗操作员对语义歧义做主观偏好修改;所有修改必须在“操作类型”列中记录对应规则编号。
4.6 记录材料
每次清洗操作需填写 清洗日志记录表:
清洗批次编号:CLN-202504-01
清洗日期:2025-04-03
操作员:张三
总原始条数:247
移除条数:38
合并后净条数:205
待澄清条数:4
复核人:李四
复核日期:2025-04-04
复核结论:通过(抽查条数 62,偏差 1 条,偏差率 1.6%)
4.7 异常处理
常见异常及对策
- 异常A – 大段逻辑断裂:受访者中途跑题,前后关键词完全不同。→ 分段标记,输出多条独立语句,并在备注栏注明“话题跳转”。
- 异常B – 同频多人发言重叠:录音中两人同时说话,转录文本混乱。→ 整段保留不处理,标记“待补录音勘误”。
- 异常C – 专业缩略语未在术语表中:例如“SRM 系统”被误写为“斯尔姆”。→ 结合上下文确认缩写全称,更新术语表。
- 异常D – 情绪化极端言论:例如“这个功能完全就是垃圾,谁设计的蠢死了”。→ 仅提取事实部分,例如“功能稳定性不满足要求”,去除人身攻击。
4.8 验收标准
- 输出物中无语气词、无重复表达、无模糊代词。
- 每条清洗后语句可独立被理解,无需参考上下文。
- 移除清单条数与实际删除数一致,且移除原因可追溯。
- 待澄清清单在 2 个工作日内得到干系人回复确认。
- 复核抽检偏差率 ≤ 5%。