第4章:指标分类体系 —— 构建AI原型的平衡记分卡
1. 用户场景:上线即翻车,为什么高分模型反而被投诉?
某医疗影像AI产品在A/B测试中,模型的准确率和召回率均提升了12%,团队准备庆祝全量上线。然而,用户访谈却显示一线医生给出了大量负面反馈:“出图太慢”、“解释逻辑看不懂”、“总是打断我的工作流”。
业务问题:团队陷入了“指标维度缺失”的陷阱——只关注了绩效和滞后指标,完全忽略了体验和超前指标。产品在实验室里“很强”,但在真实的医疗场景中“很难用”。
危险区提示: 如果你的指标看板上只有客观数据(如准确率、吞吐量),而没有主观数据(如工人满意度、易用性评分),你的AI产品极有可能陷入“指标美化,产品恶化”的困境。
2. 用户访谈与需求拆解:三个维度,八种组合
通过深度访谈,我们把干系人的需求拆解为三个正交的分类维度。这些维度共同构成了AI产品原型验证的“完整性骨架”:
- 绩效 vs 体验: 模型跑得快与用户用得爽的矛盾。
- 客观 vs 主观: 机器记录的数据与人感知的价值的差异。
- 滞后 vs 超前: 事后复盘的结果与事前预警的信号。
每个指标在三维空间中都是一个坐标点。例如“医生单次诊断耗时”可以归类为绩效/客观/超前指标。
3. 方案表达:采用三维九宫格指标体系
为了消除业务方和技术方的认知差异,我们使用二维象限图来降维打击。该框架帮助团队在同一张图上对齐了“模型好不好”和“用户爽不爽”。
4. 指标验证:如何判断你的体系是否完备?
在业务评审会上,可以使用这个平衡记分卡检查清单来验证指标体系是否健康:
| 验证维度 | 必须回答的问题 | 通过标准 |
|---|---|---|
| 绩效 | 模型是否达到了SLA基线? | 延迟 < 200ms,准确率 > 90% |
| 体验 | 用户是否觉得“顺手”? | SUS 评分 > 70 |
| 客观 | 埋点数据是否可复现? | 日志丢失率 < 1% |
| 主观 | 用户感知是否正向? | 访谈关键词正向率 > 80% |
| 滞后 | 业务结果是否达成? | 用户留存率提升5% |
| 超前 | 后期风险的早期信号? | 数据新鲜度指标亮绿灯 |
5. 验收标准:在PRD中锁定指标分类
在需求拆解阶段,我们必须将抽象的指标分类落实到具体的验收条款中。以下是一个交付物模板,用于在PRD中定义AI功能属性:
功能名称:智能诊断辅助报告生成
验收标准:
[绩效-客观-滞后]
1. 报告生成准确率 ≥ 98%(基于测试集)。
2. 单次推理耗时 ≤ 500ms。
[体验-主观-超前]
1. 医生在完成首次诊断后,需弹出“刚才的辅助建议是否有帮助?”(1-5分)。
2. 平均评分 ≥ 4.0 则视为通过。
[体验-客观-超前]
1. 医生“采纳建议”的按钮点击率 > 60%。
2. 医生“修改建议”的编辑距离变化率需在后台日志中记录。
实践建议: 在编写用户故事(User Story)时,尝试在每个故事的“验收标准”中,至少包含一个滞后指标(证明价值)和一个超前指标(预警风险)。例如:“作为医生,我希望收到异常报告提醒,以便及时处理危急病人。
验证:提醒送达率(滞后,客观)> 99.9%;医生在看到提醒后的“确认时间”(超前,客观)< 30秒。
验证:提醒送达率(滞后,客观)> 99.9%;医生在看到提醒后的“确认时间”(超前,客观)< 30秒。
6. 交付物模板:指标分类卡片
在项目启动阶段,使用下面的卡片结构来定义每一个核心指标,确保产品经理、算法工程师和设计师在同一个频道沟通:
| 字段 | 示例填写内容 |
|---|---|
| 指标名称 | AI辅助诊断采纳率 |
| 分类标签 | 绩效 / 客观 / 滞后 |
| 数据来源 | HIS系统后台埋点日志 |
| 计算方式 | (医生点击“采纳”的次数 / AI建议弹窗的总次数)* 100% |
| 目标值 | ≥ 75% |
| 访谈佐证 | 需搭配“为什么没有采纳”的定性用户访谈作为主观补充 |
通过这种结构化的拆解,AI产品经理可以轻松地在原型验证阶段发现“偏科”的指标,并提前干预业务风险。