第2章：透明度与可解释性——展示模型思考过程、明确能力边界、管理用户预期

2.1 用户场景与业务问题

产品团队在接入AI能力时，最常见的信任断裂发生在以下三类场景：

2.2 用户访谈关键发现

针对3类角色（业务审批者、一线操作员、最终用户）共12场深度访谈，提炼出以下核心诉求：

• 业务审批者：“我不需要知道模型内部的所有数学公式，但我必须知道它用了哪几个字段做出了判断。”
• 一线操作员：“当模型输出错误时，我需要能快速定位是哪条输入特征出了问题，才能向客户解释。”
• 最终用户：“AI回答的时候，能不能告诉我它的信息是从哪里来的？是实时数据还是历史统计？”

2.3 需求拆解

将用户诉求转化为可落地的功能需求，拆解为三个层级：

2.4 方案表达——透明度设计三要素

围绕上述需求，在产品原型中落地三项核心设计：

2.4.1 推理引用高亮

模型输出摘要或结论时，在原文中对应位置添加底色高亮标记，点击结论可跳转至原文位置。适用于客服摘要、文档总结、合同审查等场景。

# 原型交互逻辑示例（伪代码）
def on_summary_click(summary_sentence):
    source_id = summary_sentence.attribution.source_id
    highlight_range = summary_sentence.attribution.char_span
    scroll_to_source(source_id, highlight_range)

2.4.2 能力边界标签

在对话输入框、API调用文档、模型输出区域等关键触点，展示结构化边界说明：

2.4.3 决策因子可视化

在风险审批、推荐排序等需要展示多因素决策的场景，使用结构化的因子贡献图展示各特征对结果的影响方向与强度。

2.5 指标验证

通过以下定量与定性指标验证透明度设计是否达成目标：

2.6 验收标准

产品原型通过验收必须满足以下全部条件：

1. 溯源功能验收：在覆盖范围内（摘要/分类/风险判定）的模型输出均支持点击溯源，且定位准确率 ≥ 98%。
2. 边界声明验收：所有面向用户/调用方的交互入口（对话框、API文档、嵌入卡片）均包含能力边界标签，覆盖率100%。
3. 置信度标识验收：置信度低于0.7的输出自动附加“建议人工复核”提示，触发正确率 ≥ 95%。
4. 极端情况处理：当模型无法给出解释（如特征丢失）时，必须展示“当前无法解释”的标准化占位文案，不得留空或报错。

2.7 交付物模板

本章对应的直接交付物为《AI透明度设计规格说明书》，包含以下核心节：