Pair-Centric Graph Rewiring for Over-Squashing via Optimal Transport-Guided Communication Alignment
本文介绍了 PairAlign，这是一个以对为中心的图重连框架，通过利用“需求-支持短缺”指标识别支持不足的成对通信，并利用最优传输来优化边添加，从而使结构容量与通信需求相匹配，以此解决消息传递神经网络中的过度挤压问题。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图通过一系列朋友，将一条秘密信息传送到城市的另一头。你向邻居耳语，邻居再向其邻居耳语，以此类推，直到信息到达城的一端。这就是被称为“图神经网络”（Graph Neural Networks，或称 MPNNs）的计算机学习数据的方式，这些数据看起来就像是社交网络或化学分子这类连接图谱。它们逐层将信息从一个节点（一个人或一个原子）传递给其直接相邻的邻居。
但问题在于：如果信息必须传播很长一段距离，它就会被挤压。想象一下，试图把一整部小说塞进一张明信片里。随着信息在朋友之间跳跃，计算机必须将所有遥远的信息压缩成一个微小的、固定大小的摘要。如果路径太长或者朋友之间的“道路”太窄，信息就会发生扭曲甚至完全丢失。科学家们称之为“过度挤压”（over-squashing）。这就像试图把消防水管里的水倒入一个量杯；最重要的细节会被挤压殆尽。为了解决这个问题，研究人员尝试过“重构”这座城市——增加新的捷径或移除糟糕的道路——以帮助信息更好地流动。但核心问题仍然存在：当我们只有有限的预算时，我们应该建造哪些新路？
这篇论文介绍了一种回答该问题的巧妙新方法，叫做 PairAlign。PairAlign 不仅仅是观察整个城市或一次只修复一个特定的交通拥堵，而是将目光聚焦在特定的、正处于沟通困难中的每一对朋友身上。它计算每一对关系的“短缺得分”：即他们需要进行多少交流，以及当前的地图实际允许他们进行多少交流。如果两个朋友距离很远，且他们之间的路径是一个瓶颈，他们就会获得很高的短缺得分。
作者建议，解决过度挤压的最佳方式是将它视为一种拥有有限卡车数量的快递服务。你不会随机投放包裹；你会将你的卡车匹配给最迫切的交付需求。PairAlign 使用一种称为最优传输（Optimal Transport）的数学工具来实现这一点。把它想象成一个超级聪明的调度员，它观察所有“短缺”对（那些正在呼救的人）和所有可能建造的新道路。然后，它会计算出分配有限道路建设预算的最优方式，从而让最关键的对话获得最多的支持。
论文表明，这种方法是有效的。当他们在标准图基准测试（如引用网络和化学数据集）上测试 PairAlign 时，与其它方法相比，它一致地提高了计算机的学习能力。结果表明，通过专注于那些正遭受过度挤压之苦的具体配对，并使用全局策略来分配新的连接，我们可以帮助这些网络更清晰地“听到”远处的信号。这不仅仅是关于增加更多的道路，更是关于为那些最需要的人建造正确的道路。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。