3. 模型评分场景：信用评分、欺诈检测、医疗诊断中的可解释性需求

在低延迟模型服务部署中，不同业务场景对可解释性的要求存在显著差异。信用评分、欺诈检测和医疗诊断是三个最具代表性的评分场景，它们共同面临“模型必须快，但决策必须可信”的核心矛盾。本章从可解释性需求出发，分析这三个场景的评分逻辑、监管约束与解释粒度差异。

3.1 三大评分场景的可解释性需求对比

下表从决策主体、监管要求、解释对象、延迟敏感度和解释粒度五个维度，对比信用评分、欺诈检测和医疗诊断的可解释性需求特征：

3.2 信用评分：监管驱动的可解释性

信用评分模型的可解释性需求主要由监管合规驱动。在美国《平等信用机会法》（ECOA）和欧盟《通用数据保护条例》（GDPR）框架下，申请人有权知道拒绝贷款的具体原因。这意味着模型必须输出拒绝理由码和特征贡献度。

3.2.1 信用评分的解释结构

一个典型的信用评分解释包含三个层次：

1. 全局解释： 模型整体依赖哪些特征（如收入、负债率、信用历史长度）。
2. 局部解释： 针对单个申请人的评分贡献分解（如“收入低”导致扣分30分）。
3. 反事实解释： “如果收入提高20%，评分将从620提升至680”。

3.3 欺诈检测：实时性与可操作性的平衡

欺诈检测模型运行在交易链路的关键路径上，延迟通常要求低于50ms。可解释性在此场景中不是用于满足监管审计，而是帮助风控分析师快速理解异常模式并调整规则。

3.3.1 欺诈检测的解释需求特征

• 实时性优先： 解释必须在交易完成前生成，否则失去阻断价值。
• 模式级解释： 分析师需要知道“这笔交易与历史欺诈模式X的相似度为87%”，而非逐特征归因。
• 可操作性： 解释应直接指向行动建议，如“建议触发二次验证”或“加入观察名单”。

3.3.2 欺诈检测中的可解释性架构

下图展示了欺诈检测场景中，可解释性模块如何与低延迟评分管道协同工作：

3.4 医疗诊断：安全与伦理驱动的可解释性

医疗诊断模型（如影像分类、病理评分）的可解释性需求最为严格。医生不会仅凭一个“恶性概率85%”的分数做出诊断，他们需要知道模型看到了什么、为什么做出这个判断以及在哪些情况下可能出错。

3.4.1 医疗诊断的可解释性层次

3.4.2 医疗诊断中的可解释性流程

下图展示了医疗诊断场景中，可解释性模块如何嵌入临床工作流：

3.5 跨场景的可解释性设计原则

综合三个场景的分析，可以提炼出以下可解释性设计原则，用于指导低延迟模型服务的架构决策：

• 分层解释策略： 将解释分为“快速解释”（预计算、模式匹配）和“深度解释”（SHAP、反事实），根据延迟预算动态选择。
• 解释与评分解耦： 主评分路径保持轻量，可解释性作为旁路或异步任务执行，避免阻塞核心服务。
• 解释粒度自适应： 根据用户角色（申请人 vs 分析师 vs 医生）提供不同粒度的解释，降低计算开销。
• 可审计性优先： 即使实时解释被简化，也必须保留完整的解释日志用于事后审计和模型监控。