第4章 边缘注意力权重解读
终于讲到边上的注意力了。很多同学把GNN的注意力机制当黑盒，只关心节点表示更新，却忽略了边权重里藏着大量信息。我个人习惯把边权重比作“图里的心电图”——每条边的注意力值就是一次心跳。读懂了心跳，就能诊断图结构哪里异常、哪里最关键。
4.1 源节点到目标节点的注意力分布
先明确一件事：GAT这类模型计算注意力时，每条有向边 j → i 都会得到一个标量权重 αij。这个权重代表了源节点 j 对目标节点 i 的重要性。你想想看，一个节点有多个邻居，这些邻居的注意力分布就是一张“关注度地图”。
我在项目中遇到过一种典型情况：社交网络中，某个用户的注意力权重极度集中在两个邻居上，其他邻居几乎为0。检查后发现那是两个水军账号，注意力靠人工刷出来的。所以，分布的形状往往能揭示图结构的异常。
| 分布形状 | 典型特征 | 可能含义 |
|---|---|---|
| 均匀分布 | 所有邻居权重接近1/k | 节点对邻居一视同仁，可能是聚合层过浅或图太稠密 |
| 长尾分布 | 少数边权重大，多数很小 | 节点依赖少数关键邻居——这是图注意力最常出现的理想状态 |
| 双峰分布 | 一组权重高，另一组中等 | 节点可能处于两个社区的桥梁位置 |
| 单峰极端分布 | 几乎全部权重压在一条边上 | 警惕过拟合或数据泄漏，也可能是该邻居是唯一有效特征 |
4.2 重要边的识别
知道了分布还不够，我们得动手把重要边挑出来。具体怎么做？我一般分三步：
- 提取注意力矩阵 —— 从模型前向传播中拿到每一层的
α张量。 - 按节点归一化 —— 同一目标节点下，对源节点的权重做softmax已经是归一化的了，但不同头/不同层之间要小心。
- 排序筛选 —— 取全局 top-k 或者按节点保留前几名的边。
下面给一段PyTorch Geometric的实操代码，从训练好的GAT模型里捞注意力权重：
import torch
from torch_geometric.nn import GATConv
model = GATConv(in_channels=16, out_channels=8, heads=4)
data = ... # 你的图数据
# 前向传播时把注意力权重存下来
attentions = []
def hook(module, inp, out):
# GATConv的注意力权重在模块的 _alpha 属性里
attentions.append(module._alpha.detach().cpu())
hook_handle = model.register_forward_hook(hook)
with torch.no_grad():
_ = model(data.x, data.edge_index)
# 现在attentions[0]的形状: [num_edges, heads]
edge_attn = attentions[0].mean(dim=1) # 多head取平均
# 找最重要边
topk = 10
top_idx = edge_attn.argsort(descending=True)[:topk]
important_edges = data.edge_index[:, top_idx]
print("最重要边:", important_edges)
print("对应权重:", edge_attn[top_idx])看起来简单，但有个坑：多层的注意力不能直接跨层比较。每层的softmax独立做，数值范围不同。如果需要跨层重要性，建议用注意力得分乘以对应位置的梯度（Grad-CAM思路）。
4.3 解读时别掉进的陷阱
说起来都是泪。我曾经在一个分子性质预测项目里，发现某条C-C键的注意力权重特别高，兴奋地以为发现了关键官能团。结果检查数据后发现，那条边连接的两个原子恰好是数据集中唯一满足某种噪声条件的样本。所以——
- 高权重 ≠ 因果重要：注意力只能告诉你模型“关注”什么，不能告诉你“因为什么”重要。
- 稀疏头现象：多头注意力下，可能只有一个头关注某条边，其他头均匀分布。我建议看所有头的分布而不是只取均值。
- 注意层的深度：浅层的边权重更受局部结构影响，深层的边权重则融入了高阶信息。解读时务必标明是哪一层。
下面是本章核心逻辑的流程图，把边缘注意力解读的三条路径串起来——从原始权重到分布诊断，再到重要边筛选和陷阱判断：
最后补充一句：真正用好边缘注意力，不是看一两个高权重边就交差。需要结合度分布、注意力熵、多头一致性等多个维度做交叉验证。我自己的项目经验是，花30%时间跑模型，70%时间做图解读——后者才是决定模型可信任度的关键。