4. 可解释性基本概念

在金融风控、反欺诈、信用评分等场景中，GNN 模型往往被监管与业务方同时追问两个问题：“它整体学到了什么规律？”与“为什么这一笔申请被拒绝？”前者对应全局解释，后者对应局部解释。理解这两类解释的边界，是后续使用 GNNExplainer 的前提。

一、全局解释与局部解释：两种尺度的“为什么”

全局解释关注模型在整体数据分布上的决策逻辑，例如“在担保圈图中，节点度大于 8 且属于同一社区的高风险传播概率显著上升”。它通常以特征重要性排序、子图模式、规则摘要等形式呈现，服务于模型审计、策略复盘与监管报备。

局部解释则针对单个样本，回答“为什么这个企业被判定为高风险”。在金融图模型中，局部解释往往表现为一个关键子图：目标节点、若干邻居节点以及它们之间的边。GNNExplainer 的核心输出正是这种局部子图与节点特征掩码。

二、可解释性的四个核心属性

无论是全局还是局部解释，都需要用以下四个属性来衡量其质量：

• 忠实性（Fidelity）：解释是否真实反映模型的决策依据。若解释给出的重要子图被移除后，模型预测几乎不变，则忠实性差。
• 稳定性（Stability）：输入发生微小扰动时，解释结果是否保持一致。金融数据噪声大，稳定性差的解释难以被监管接受。
• 可理解性（Comprehensibility）：解释是否以业务人员能读懂的方式呈现，例如“该企业与 3 家已违约企业存在担保关系”，而非抽象向量。
• 充分性（Sufficiency）：仅保留解释所标识的关键子图，模型是否仍能给出相近预测。它常与忠实性配合使用。

三、金融监管对可解释性的硬性要求

金融行业对模型可解释性的要求并非“锦上添花”，而是合规底线。以信贷风控为例，监管通常要求：

1. 拒绝原因可说明：对拒贷客户，必须给出具体、可复核的理由，不能仅输出一个分数。
2. 解释可追溯：解释所依据的数据、图结构、模型版本需可回溯，便于事后审计。
3. 无歧视性验证：解释需能证明模型未因性别、地域等敏感属性产生不当歧视。
4. 稳定性与一致性：相似客户应得到相似解释，避免“同案不同判”。

四、案例场景：担保圈风险传导中的解释需求

假设某银行使用 GNN 对中小企业担保圈建模，节点为企业，边为担保关系。当模型将某企业标记为高风险时：

• 全局解释告诉风控团队：模型整体上更关注“担保链长度”和“社区内违约密度”。
• 局部解释告诉客户经理：该企业通过两条担保路径与已违约企业相连，且其中一条路径上的中间节点近期出现逾期。

后者才是可直接用于贷后管理与客户沟通的证据。GNNExplainer 通过优化边掩码与特征掩码，正是为了产出这种局部关键子图。

五、方法流程：从概念到 GNNExplainer 的衔接

理解上述概念后，GNNExplainer 的定位就非常清晰：它是一种局部解释方法，通过最大化互信息来寻找对目标节点预测最关键的边与特征子集。其优化目标可简写为：

max  MI(Y, G_S, X_S)
其中：
  G_S  —— 被选中的关键子图（边掩码）
  X_S  —— 被选中的关键节点特征（特征掩码）
  Y    —— 模型对目标节点的预测

在金融实践中，我们通常还会加入稳定性约束，例如对边掩码做 L1 正则，或对多次采样的解释结果取交集，以提升解释的稳定性与可复核性。