A Fair Evaluation of Graph Foundation Models for Node Property Prediction
本文对九种近期用于节点属性预测的图基础模型进行了公平且严谨的重新评估，结果表明，仅有最新的基于先验数据拟合网络（Prior-data Fitted Network）的模型在预测性能上优于经过精细调优的图神经网络基准模型，尽管其推理成本也更高。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在试图教会一台计算机去理解这个充满“连接”的世界——比如社交网络、道路地图或购物习惯。在这个世界里，数据不仅仅是数字列表；它是一个巨大的网，万物皆有关联。多年来，解决这个网络中问题的标准方法一直是使用图神经网络（Graph Neural Networks, GNNs）。你可以把 GNNs 想象成训练有素、术业有专攻的“学徒”。它们很出色，但每面对一份新工作时，都需要从零开始进行训练，这既费时又需要大量的参数调优才能达到理想效果。
最近，一波被称为**图基础模型（Graph Foundation Models, GFMs）**的“超级模型”出现了。这些模型就像是 AI 世界中的“全知先知”。它们的承诺是：已经从海量的数据库中学习了一切，因此无需太多训练就能立即解决新问题。
论文作者决定对这些“先知”进行实测。他们想看看这些新的 GFMs 是否真的比那些辛勤工作的、经过精细调优的“学徒”（GNNs）在处理特定任务时表现更好：即预测节点属性（猜测网络中特定的人、地点或事物的标签）。
以下是研究结果，通过简单的逻辑进行了拆解：
1. “苹果与橘子”的问题
研究人员注意到，这个领域目前有些混乱。一些 GFMs 在微小的、简单的数据集上进行测试，而另一些则在庞大且杂乱的数据集上进行测试。有些模型甚至使用非常弱的“学徒”（GNNs）作为对比，这让 GFMs 看起来像是天生的天才。这就像是在拿一辆一级方程式赛车去和一辆自行车比赛，然后直接宣布赛车获胜，却完全没有检查那辆自行车是否经过了妥善的调优。
为了解决这个问题，作者组织了一场公平的竞赛。他们使用了 10 个真实的工业级数据集（如真实的社交网络和道路地图），并将 9 种不同的 GFMs 与经过深度调优的强力 GNNs 进行对决。他们并没有只使用 GNNs 的默认设置；而是花费了大量时间对其进行调优，使其尽可能地快速且准确。
2. 两大阵营
结果将 GFMs 分成了两个截然不同的阵营：
- “老派”阵营（非 PFN 模型）： 这些模型试图打造“通用型”方案，通过将图数据强制转化为类似于电子表格的形式。结果呢？它们的表现很差。事实上，它们几乎总是会被那些经过精细调优的 GNN 学徒击败。这就像是用大锤去做外科手术；工具本身并不适合这项工作。
- “新派”阵营（PFN 模型）： 这些模型使用了一种聪明的技巧，叫做先验数据拟合网络（Prior-data Fitted Networks, PFNs）。想象一位厨师，他品尝过成千上万种食谱，并掌握了烹饪的原理。当你给他一套新的食材时，他不需要翻阅食谱，只需看一眼食材，就能立刻知道如何烹饪这道菜。这些模型可以观察一个新的图并立即做出预测（这个过程被称为“上下文学习”）。
3. 赢家（带有代价）
“新派”PFN 模型是明显的赢家。它们持续表现优于经过精细调优的 GNNs。其中一个名为 GraphPFN 的模型成为了冠军，在几乎所有的数据集上都取得了胜利。
然而，这其中存在权衡（Trade-off）：
- 学徒们（GNNs）： 它们需要较长的训练时间（就像为期末考试而苦读），但一旦准备就绪，它们进行预测的速度会非常快。预测一个新标签所需的时间不到一秒。
- 先知们（PFN 模型）： 它们是“预训练”过的（在你见到他们之前，他们已经学习了多年），所以不需要针对你的特定工作进行专门学习。但在实际做出预测时，它们很慢。根据数据规模的不同，它们可能需要几秒钟甚至几分钟才能给出一个答案。
核心结论
论文得出结论：如果你需要一个能够无需训练即可快速适应新图的模型，那么**基于 PFN 的图基础模型（Graph Foundation Models）**是唯一真正比传统方法更有效的选择。
但是，如果你处于一个需要每秒进行数百万次预测的现实场景中（例如实时欺诈检测），那么传统的 GNNs（只要经过妥善调优）仍然是更好的选择，因为即使初始设置阶段比较耗时，但它们的运行速度要快得多。
简而言之，新的“先知”更聪明、适应力更强，但他们“接电话”的速度也慢得多。而“老派学徒”虽然需要更多训练才能发挥潜力，但一旦上手，既快速又可靠。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。