第2章 原始访谈数据清洗:去噪、关键信息提取、结构化标注

用户访谈是需求挖掘的核心手段,但原始访谈数据往往包含大量口语填充词、话题偏移片段和情绪化表述,无法直接用于PRD撰写。必须经过去噪 → 关键信息提取 → 结构化标注三步处理,才能将零散的对话转化为可复用的需求单元。本章建立一套可执行的清洗方法论,并给出统一的标注规范和交付模板。

2.1 访谈数据的三类噪声

原始访谈数据中的噪声主要来自三类来源,处理策略各不相同。下表列出每类噪声的典型特征、实例与应对方式:

噪声类型 典型特征 实例 处理策略
口语填充词 无意义语气词、重复、口癖 “嗯…就是…那个…我觉得吧…” 正则表达式批量过滤
话题偏移 突然切换到无关内容 “对了,昨天我看到一个新功能…” 按上下文窗口截断/丢弃
情绪化表述 主观评价、夸张用语 “这个简直太烂了,完全没法用!” 客观化改写或标记后剥离
实操建议:建议在访谈结束后立即进行一轮“粗去噪”,保留原始副本的同时生成一份清洗副本,便于后续追溯。
访谈数据清洗与结构化标注流程 访谈数据清洗与结构化标注流程 原始访谈数据 (含噪声) 去噪处理 (移除噪声) 关键信息提取 (语义抽提) 结构化标注 (标签体系) 结构化数据 (可用PRD) 各步骤核心操作说明: ① 去噪处理:正则过滤口语填充词(嗯/就是/那个);识别并截断话题偏移片段;将情绪化表述改写为客观描述。 ② 关键信息提取:从清洗后文本中抽提业务场景、用户痛点、核心需求、使用行为、期望目标五类信息。 ③ 结构化标注:按照统一标签体系(USER_SCENE / PAIN_POINT / NEED / BEHAVIOR / GOAL)对文本片段逐句标记。 ④ 结构化数据输出:将标注结果组装为 JSON 格式的访谈数据集,每行一条完整 utterance + tags 记录,可直接接入 PRD 需求池。

2.2 关键信息提取四步法

去噪后的文本进入提取阶段。按照以下四个步骤逐层抽提,可以确保不遗漏核心需求:

  1. 场景锁定:标记每段对话发生的业务场景(如“通勤路上”、“后台审核”、“客户现场汇报”),为后续需求排序提供上下文。
  2. 痛点识别:提取用户明确表达的不满、障碍、效率损失等负面表述,这些是PRD中“问题定义”的核心来源。
  3. 需求捕获:记录用户提出的期望、建议、理想方案,关注“希望…”“要是能…就好了”等句式。
  4. 行为与目标关联:将用户的使用频率、操作习惯与最终业务目标对应,形成“行为 → 目标”的因果链。
提取粒度标准:每段提取结果应保持“一句话一个信息点”,避免将多个需求合并到一条记录中。如果一句话包含两个独立需求,应拆分为两条。

2.3 结构化标注规范

标注环节将提取出的信息片段按统一标签体系进行分类。下表为推荐的五类核心标签:

标签名称 标签含义 取值示例 适用场景
USER_SCENE 用户所处的业务或使用场景 “早高峰通勤”、“财务月结” 描述上下文环境的句子
PAIN_POINT 用户遇到的困难或不满 “每次要手动导入数据” 问题描述、抱怨类表述
NEED 用户明确表达的功能或服务需求 “希望能自动匹配供应商” 期望、建议、请求类句式
BEHAVIOR 用户当前的实际操作行为 “每天打开后台查看3次” 使用习惯、操作频率描述
GOAL 用户期望达成的业务目标 “把审批时长缩短到2小时” 量化目标、绩效要求类表述
标注守则:每段文本至少打一个标签,可多标签叠加(例如同时标记 PAIN_POINT + BEHAVIOR)。标签取值必须使用表格中的标准化名称,不得自定义缩写。

2.4 清洗质量校验指标

为保证清洗结果的可信度,每批数据清洗完成后需按以下三项指标进行校验:

指标名称 计算方法 达标标准
噪声去除率 去除字符数 ÷ 原始字符总数 × 100% ≥ 15%
信息保留率 保留关键信息条数 ÷ 原始信息总条数 × 100% ≥ 90%
标注一致性 两人独立标注结果一致的条数 ÷ 总标注条数 × 100% ≥ 95%
注意:如果标注一致性低于90%,说明标签体系或操作规范存在歧义,需重新校准后再继续批量标注。

2.5 交付物模板:清洗后数据集

最终交付物为 JSON 格式的访谈数据集,每行为一条独立的 utterance + tags 记录。以下为示例:

{
  "session_id": "INT_20250321_004",
  "utterance": "每次要手动导入数据,步骤太多,容易出错。希望系统能自动匹配供应商。",
  "scene": "财务月结",
  "tags": [
    { "label": "PAIN_POINT", "text": "每次要手动导入数据,步骤太多,容易出错" },
    { "label": "NEED", "text": "希望系统能自动匹配供应商" },
    { "label": "BEHAVIOR", "text": "手动导入数据" }
  ],
  "cleaning_log": {
    "removed_chars": 23,
    "noise_type": "口语填充词+情绪化表述",
    "operator": "PM-01"
  }
}

每个清洗后的数据集应包含 session_id(访谈会话标识)、utterance(清洗后文本)、scene(场景标签)、tags(结构化标注数组)以及 cleaning_log(清洗日志)五个核心字段。其中 cleaning_log 用于追溯清洗质量,便于后续复盘优化。

模板使用要点:建议每个访谈会话至少输出 10~15 条有效 utterance;如果某段对话经去噪后剩余字数不足 15 字且无法提取有效信息,应整段丢弃并在 cleaning_log 中注明原因。