🤖 machine learning

Learning Dynamic Graph Representations through Timespan View Contrasts

本文介绍了CLDG及其增强变体CLDG++，这是一种用于动态图的自监督框架，它利用时间平移不变性和多尺度对比学习，在降低计算复杂度的同时，有效建模时间演化以服务于节点分类和异常检测。

原作者： Yiming Xu, Zhen Peng, Bin Shi, Xu Hua, Bo Dong

发布于 2026-05-27

📖 1 分钟阅读☕ 轻松阅读

原作者： Yiming Xu, Zhen Peng, Bin Shi, Xu Hua, Bo Dong

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你试图理解一座庞大且瞬息万变的城市中人们的性格。过去，研究人员会选取城市在某一特定时刻的单一快照，观察谁站在谁旁边，并据此猜测这些人的职业。这就像看着一张繁忙街道的冻结照片，仅凭人们此刻站在谁旁边来推断每个人的工作。

问题在于，现实生活并非静止不动。人们会移动、结交新朋友，并随时间改变他们的日常习惯。你正在阅读的这篇论文《通过时间跨度视图对比学习动态图表示》（"Learning Dynamic Graph Representations through Timespan View Contrasts"）主张，我们需要停止观看冻结的照片，转而开始观看电影。

以下是作者所做工作的简要拆解，辅以日常类比：

1. 核心理念：“穿越时间的身份”

作者观察到人们（或网络中的节点）随时间推移的行为存在某种有趣的现象。他们将其称为“时间平移不变性”（Temporal Translation Invariance）。

类比：想象一位名厨。无论你在上午 8 点、中午 12 点还是晚上 8 点看到他在厨房，他依然是一位厨师。尽管时间发生了变化，但他的“身份”保持一致。
洞察：作者发现，在现实世界的网络（如税务记录、社交媒体或比特币交易）中，一个人的“标签”或角色在不同时间段往往保持不变。即使他们的直接邻居发生变化，其核心身份依然稳定。
策略：与其依赖教师（监督学习）来猜测一个人的标签，人工智能可以通过比较同一人在不同时间的状态来自学。如果人工智能在上午 8 点看到“厨师爱丽丝”，在晚上 8 点又看到“厨师爱丽丝”，它应当学会这两个视图代表的是同一个人。这被称为对比学习（Contrastive Learning）。

2. 工具：“时间切片相机”

为了实现这一目标，作者构建了一个名为CLDG的系统（以及一个增强版称为CLDG++）。

工作原理：想象你有一段繁忙城市的长视频。系统不是一次性观看整个视频，而是将其切割成多个重叠的“时间切片”或视图。
训练过程：人工智能查看 8 点切片中的“厨师爱丽丝”和 12 点切片中的“厨师爱丽丝”。它试图确保爱丽丝在这两个切片中的数字表示（即“嵌入”）非常相似。同时，它确保爱丽丝在这些切片中与“水管工鲍勃”看起来截然不同。
优势：以往的方法通常试图预测未来，或使用复杂缓慢的记忆系统（如循环神经网络 RNN）来记忆过去。这种新方法就像一台智能相机，仅通过比较不同时刻来学习真相，因此速度更快、更轻量。

3. 升级：“邻里地图”与“城市地图”

第一个版本CLDG关注的是谁直接位于某人旁边（局部信息）。但有时，人们是通过间接方式连接的。

问题：想象一个试图隐藏的欺诈者。他们可能不直接与其他欺诈者交朋友，但可能与某个与欺诈者交朋友的人成为朋友。简单的“邻居”检查会遗漏这一点。
解决方案（CLDG++）：该版本使用了一种称为图扩散（Graph Diffusion）的技术。将其想象为“全城范围的谣言”或“热力图”。它模拟信息如何传播至整个城市，而不仅仅是直接邻居。
结果：CLDG++ 同时关注三个方面：
1. 局部对局部：比较不同时间点的直接邻居。
2. 局部对全局：比较直接邻居与整个城市视图。
3. 全局对全局：比较不同时间点的整个城市视图。
  这赋予了人工智能对该网络更丰富、更具三维感的理解。

4. 捕捉“坏人”：异常检测

该论文还展示了该系统如何在无需已知罪犯名单的情况下发现异常。

逻辑：如果“厨师爱丽丝”随时间推移保持一致，她就是正常的。但如果某人突然表现出截然不同的行为——例如，一位安静的会计师突然在短时间内与陌生人进行数千笔交易——这就违反了“穿越时间的身份”规则。
机制：系统计算一个“一致性分数”。如果某人的行为（跨越各个时间切片）与其过去的表现大相径庭，系统就会将其标记为异常。
提及的实际应用：作者专门在金融欺诈（比特币和税务网络）、社交网络（Reddit）和学术引用（DBLP）上测试了这一点。他们发现，即使事先未被告知“怪异”行为者的特征，他们的方法在识别这些“怪异”行为者方面也比以往的方法更出色。

5. 为何重要

速度与效率：旧方法就像试图通过记忆历史的每一片碎片来拼凑谜题。而新方法则像看着盒子上的图片并对比几块关键拼图。它使用的计算机内存更少，运行速度快得多。
无需标签：大多数人工智能需要人类指出“这是欺诈，这不是”。而这种方法通过观察随时间推移的模式来自学，这至关重要，因为在现实世界中，我们往往无法为所有事物提供标签。

总结：这篇论文介绍了一种更智能、更快速的方法，让计算机能够理解不断变化的网络。通过认识到“你是谁”在时间推移中保持一致，人工智能可以学会识别正常模式，并瞬间发现那些不匹配的异常，无论是在比特币网络中发现欺诈者，还是在税务数据库中发现可疑交易。

技术摘要：通过时间跨度视图对比学习动态图表示

1. 问题陈述

现有的图表示学习方法主要依赖于静态图假设和监督学习范式。这些方法往往忽视了真实世界图数据中固有的时间信息（例如边时间戳），导致信息丢失和性能下降。此外，由于隐私限制，获取高质量的图数据标签成本高昂且往往不可行，因此需要有效的无监督学习技术。

当前的动态图方法面临三个主要局限：

高复杂度：许多方法依赖序列模型（如 RNN、LSTM）来建模时间演化，导致时间和空间复杂度高，阻碍了可扩展性。
噪声增强：现有的静态图对比学习方法通常依赖人工数据增强（如边扰动、节点丢弃），这会引入噪声信息并改变语义含义。
时间建模受限：直接将静态对比学习应用于动态图并非易事，且现有的动态异常检测方法存在局限，通常侧重于静态设置或需要半监督训练。

2. 核心方法论

本文提出了CLDG（动态图对比学习）及其扩展版本CLDG++。该框架建立在一种新颖的归纳偏置和多视图对比学习策略之上。

2.1. 时间平移不变性

作者引入了时间平移不变性的假设：在动态图中，无论使用何种编码器，同一节点在不同时间跨度的语义和预测标签往往保持相似。这一观察结果在多种数据集上得到了实证验证，表明尽管结构发生变化，节点在时间上仍保持一致的标识。该假设使得模型能够将同一节点在不同时间跨度的视图视为对比学习中的正样本对，而无需标签数据。

2.2. 框架架构

该框架由五个轻量级组件构成：

时间跨度视图采样层：
该方法不是破坏图结构，而是基于时间间隔从连续动态图中采样多个视图。提出了四种采样策略以探索最佳视图间隔：
- 顺序采样：非重叠视图。
- 高重叠率：75% 的时间重叠。
- 低重叠率：25% 的时间重叠。
- 随机采样：随机采样的时间元组。
  这些视图（ $\tilde{G}_1, \dots, \tilde{G}_v$ ）捕捉了时间上持续存在的信号。
图扩散层（仅限 CLDG++）：
为了解决邻接矩阵仅能捕捉局部二元连接性的局限，CLDG++ 采用图扩散（具体为个性化 PageRank 和热核）来模拟信息传播。这生成了全局扩散视图（ $S_1, \dots, S_v$ ），揭示了节点之间隐含的拓扑关联和全局上下文关系。
基础编码器层：
模型利用独立的编码器（无共享权重）分别处理局部视图（通过邻接矩阵）和全局视图（通过扩散矩阵）。作者使用标准 GNN（如 GCN、GAT、GraphSAGE）来聚合邻域信息。
投影头：
投影头将学习到的节点嵌入映射到适合计算对比损失的空间。
对比损失函数：
模型被训练以最大化同一节点在不同时间跨度视图表示之间的互信息（正样本对），同时推远不同节点的表示。
- CLDG：仅专注于局部 - 局部对比（比较同一节点在不同时间跨度的局部视图）。
- CLDG++：引入了多尺度对比目标，包括：
  - 局部 - 局部：同一节点在不同时间跨度的局部视图的一致性。
  - 局部 - 全局：同一节点在同一时间跨度内的局部视图与全局视图之间的一致性。
  - 全局 - 全局：全局视图在不同时间跨度之间的一致性。

2.3. 异常检测

利用时间平移不变性的假设，作者提出了一种无监督异常检测机制。他们假设异常节点违反了这种不变性，表现为其在不同时间跨度的表示之间一致性较低。

异常指示器：基于采样时间跨度视图中节点表示之间的一致性距离（1 - 余弦相似度）计算异常分数。高方差或低一致性表明存在异常。

3. 主要贡献

新颖的归纳偏置：提出时间平移不变性作为动态图的基本属性，通过将同一节点的不同时间跨度视图视为对比对，实现了无监督表示学习。
高效算法（CLDG 与 CLDG++）：
- 开发了一种对比学习框架，在不使用复杂序列模型的情况下隐式利用时间线索，显著降低了时间和空间复杂度。
- 引入CLDG++，整合图扩散以捕捉全局上下文，并采用多尺度对比目标（局部 - 局部、局部 - 全局、全局 - 全局）以获得更全面的表示。
- 通过将基于时间一致性违规的异常指示器融入表示模型，实现了与无监督异常检测任务的无缝集成。
实证验证：在七个真实世界数据集（涵盖学术引用、税务交易、比特币网络和 Reddit）上的广泛实验表明，CLDG 和 CLDG++ 在无监督节点分类和动态图异常检测方面达到了最先进水平，通常优于监督基线。

4. 实验结果

节点分类：在七个数据集上，CLDG 和 CLDG++ 优于现有的无监督动态图方法（如 CAW、TGAT、DySAT）和对比学习基线（如 DGI、GRACE）。值得注意的是，CLDG++ 在无监督方法中 14 项指标（准确率和加权 F1）里取得了 12 项最佳结果，甚至在 10 项指标上超越了所有监督基线。
异常检测：在异常检测任务中，CLDG++ 在所有数据集上均取得了最高的 AUC 分数，显著优于无监督和半监督基线（如 SAD、CoLA、ANEMONE）。定性可视化证实了该模型能够正确识别其他方法遗漏的结构和属性异常。
复杂度：所提出的方法表现出卓越的可扩展性。与基于序列的动态图模型（如 CAW、TGAT）相比，CLDG 和 CLDG++ 的参数量显著更少，训练时间更短，使其适用于大规模图。与随节点和边数量扩展的方法不同，其参数量保持恒定，不随图大小变化。
消融研究：
- 采样策略：顺序和随机采样策略通常优于高重叠策略，表明过于相似的视图会导致琐碎的对比任务。
- 编码器灵活性：该框架兼容各种 GNN 编码器（GCN、GAT、GraphSAGE），且不会导致性能下降。
- 对比对：移除 CLDG++ 中三个对比组件中的任何一个都会导致性能下降，证实了多尺度目标的必要性。

5. 意义与主张

本文声称，通过引入时间平移不变性，提供了一种“优雅”的方式来建模时间演化，既避免了序列模型的计算负担，也规避了人工数据增强的噪声。其意义在于：

无监督能力：成功在不依赖标签数据的情况下学习高质量表示并检测异常，解决了金融和网络安全等现实应用中的关键瓶颈。
可扩展性：为现有动态图模型提供了一种轻量级替代方案，使得在之前方法因内存或时间限制而无法应用的大规模图上成为可能。
统一框架：弥合了动态图表示学习与异常检测之间的鸿沟，证明了时间一致性的违规是识别异常的一个稳健信号。

作者总结道，他们的工作将对比学习从静态图推广到动态图，并隐式利用时间信息实现了最先进结果，同时承认未来的工作可以专注于对演化信息进行更轻量级的显式建模。