链接预测中的小批量类别组成偏差：GNN 训练陷阱揭秘
链接预测是图神经网络（GNN）的核心任务之一，但一项来自南安普顿大学的新研究揭示了一个令人意外的训练陷阱。 论文《Mini-Batch Class Composition Bias in Link Prediction》（已被 GCLR 2025 接收，与 AAAI 2025 同地举办）指出，流行的链接预测模型可能并非真正在学习图的结构特征，而是依赖一种由小批量采样和批归一化（Batch Normalization）引发的“捷径”来完成任务。
直觉的崩塌
以往的研究表明，GNN 在节点分类任务上可以学习到跨图迁移的表征，且这些表征能反映图的底层属性。基于此，一个自然的推论是：对于同一张图，用于链接预测的 GNN 应该学到与节点分类一致的图表示。然而，本文作者 Kieran Maguire 和 Srinandan Dasmahapatra 通过实验证明，这一直觉在一般情况下并不成立。
他们发现，在标准的链接预测训练流程中——即通过负采样构建正负边样本，并以二分类任务进行训练——模型会倾向于学习一种依赖于小批量内正负样本比例的简单启发式规则。具体来说，由于负采样策略常导致每个 mini-batch 中负样本数量远多于正样本，模型可以利用批归一化层来感知这种比例差异，从而“作弊”：它只需记住当前 batch 中负样本占多数，便倾向于将节点对预测为负边，而无需真正理解图的拓扑结构。
修正偏差后的发现
为了验证这一假说，研究者设计了对照实验：通过调整小批量中正负样本的比例，使得每个 batch 的类别分布更均衡，或者完全随机化。在消除这种“类别组成偏差”后，他们观察到两个关键现象：
- 模型性能下降：原本看似优秀的链接预测准确率出现显著下滑，说明此前的高性能部分归功于对 batch 统计量的“过拟合”。
- 表征对齐度提升：模型学到的节点表示与节点分类任务所关注的特征（如社区结构、节点属性）之间的对齐程度明显增强。这意味着，当模型不再依赖 batch 捷径时，它被迫去学习图本身更本质的结构信息。
对研究社区的警示
该工作揭示了一个系统性的评估漏洞：标准链接预测训练可能高估了模型对图进行泛化表征的能力。许多被广泛引用的 GNN 链接预测方法，其报告的优异结果可能部分源自这种偏差，而非真实的图理解能力。
这一发现对实际应用也有重要启示：
- 在推荐系统中，链接预测用于预测用户-物品交互，如果模型依赖 batch 分布而非用户兴趣模式，其泛化性将大打折扣。
- 在药物发现中，分子图上的链接预测（如预测原子间化学键）若存在类似偏差，可能导致模型在未见分子上失效。
未来方向
作者建议，未来的链接预测研究应：
- 报告并控制小批量中的类别分布，或采用更鲁棒的归一化策略（如 LayerNorm 替代 BatchNorm）。
- 在评估时引入跨任务的一致性检验，例如检查链接预测模型学到的表示是否与节点分类任务兼容。
- 探索不依赖负采样的训练范式，如对比学习或去偏的目标函数。
这项研究为 GNN 训练的可信度敲响了警钟，也提醒我们：在追求模型性能时，必须警惕“看似聪明实则取巧”的捷径学习。