技术摘要：用于时序图神经网络的时序模态特征签名

问题陈述

现实世界的时序交互流（例如社交通信、金融转账、在线评论）在短时界限的模态模式（如重复性、互惠性、星型多样性和三元流）中包含预测性结构。虽然现代时序图神经网络（TGNNs）是具有理论上提取时序流中任何函数的表达能力的序列模型，但它们的归纳偏置和有限的训练预算往往使其无法捕捉特定的短时界限结构规律。这些规律通常易于通过解析方法计算，但对于下游任务至关重要。本文旨在解决标准 TGNNs 所学习的内容与表征时序流的显式短时界限统计量之间的差距，并探讨一种原则性的、与架构无关的增强方案是否能弥补这一残差差距。

方法论

1. 实证诊断与签名识别

作者首先分析了在包括 MOOC、Bitcoin Alpha/OTC 和 TGB 基准测试在内的 13 个真实及合成时序数据集上，针对每个候选对的过去窗口模态计数。他们发现模态活动一致地组织在三个尺度稳定的轴线上：

• A1（二元近时性/互惠性）： 捕捉候选对 $(u, v)$ 之间直接交互的时机和频率。
• A2（星型多样性）： 衡量在时间窗口内与 $u$ 或 $v$ 进行交互的邻居的多样性（例如，一名学生在一段时间内与多少个不同项目进行了交互）。
• A3（三元流）： 捕捉通过连接 $u$ 和 $v$ 的第三方的交互流（例如，共同邻居）。

2. 模态特征映射 $h(u, v, t)$

基于这些轴线，作者设计了一个紧凑的、13 维的候选局部模态特征映射 $h(u, v, t) \in \mathbb{R}^{13}$。关键设计约束包括：

• 泄漏安全性： 特征严格从过去窗口 $W_{t}^{past}(\Delta) = \{i : t - \Delta \le t_i < t\}$ 中计算，确保没有未来信息泄露到候选表示中。
• 固定维度： 这 13 个特征通过一个可学习的线性嵌入矩阵 $M$ 进行拼接，可以集成到任何静态或时序编码器中，且无需改变架构。
• 子族： 这 13 个坐标对应于三个轴线：
  • A1（5 个特征）： $u \to v$ 和 $v \to u$ 事件的计数、配对事件、突发性以及自上次互惠事件以来的归一化时间。
  • A2（4 个特征）： 窗口内不同邻居集合（$N_{u}^{out}, N_{u}^{in}, N_{v}^{out}, N_{v}^{in}$）的大小，并设有上限以处理中心节点（hubs）。
  • A3（4 个特征）： 邻居集合之间有向交叉楔形（cross-wedge）和双楔形（bi-wedge）交集的大小。
• 归一化： 对重尾分布的计数坐标进行 $\log_{10}(1+x)$ 变换，以确保可比性。

3. 理论定位（时序 Weisfeiler-Leman）

本文为标准的时序消息传递 GNN（MP-GNNs）建立了理论界限。在一种常见的边评分抽象下，这些模型受限于候选锚定的时序 Weisfeiler-Leman 层级的第一层（temporal-1-WL）。

• 作者证明，存在特定的锚定时序流（例如，$C_6$ 环与两个不相连的三角形 $2K_3$），temporal-1-WL 无法区分它们（将它们坍缩为相同的颜色），但模态特征映射 $h$ 能完美区分它们。
• 这使得模态增强在表达能力上严格高于标准的时序 MP-GNNs，充当了一个打破 WL 瓶颈的“见证者”。

核心贡献

1. 诊断（第 4 节）： 本文阐明了每候选对的模态计数如何沿着三个主导且尺度稳定的轴线（A1, A2, A3）组织时序流。这些每数据集的签名可以预测模态增强将产生最大性能增益的位置。
2. 时序表达能力（第 6 节）： 作者将标准时序 MP-GNNs 置于候选锚定的时序-WL 层级中。他们展示了一对特定的流，其中模态特征能够区分被 temporal-1-WL 坍缩的候选，从而证明该增强提升了模型的层级。
3. 实证性能（第 7 节）： 本文证明，与强大的 TGNN 基准相比，模态增强在异构任务（TGB 链路属性预测、边分类和图级分类）中一致地提升了性能。这种增益是可解释的：在基准模型无法捕捉短时界限结构的地方（如 MOOC），增益最大；而在基准模型已捕捉相关结构的地方，增益则微乎其微。

实验结果

该框架在以下场景进行了评估：

• TGB 链路属性预测： 在五个基准模型（TPNet, HyperEvent, DyGFormer, TNCN, TGN）和三个数据集（Wiki, Review, Coin）上进行测试。
  • 结果： 模态增强提升了所有评估的基准-数据集对的性能。最显著的增益出现在 DyGFormer 处理 tgbl-review-v2 数据集时，平均倒数排名（MRR）从 0.224 增加到 0.413。
  • 观察： 对于像 TPNet 在 tgbl-coin-v2 上的表现，增益在零的 1 个标准差之内，这与这些基准模型已经捕捉到了该特定数据集的相关短时界限结构是一致的。
• 边分类：
  • MOOC： 一个预测学生退学的二分类任务。原始 GraphSAGE 编码器的 PR-AUC 为 0.0164。加入 4 特征星型计数子集（A2）后，PR-AUC 升至 0.1430，而完整的 13 特征映射达到了 0.1659。
  • Bitcoin Alpha/OTC： 信任分类任务显示出虽小但一致的改进（例如，Alpha 上的 SAGE PR-AUC 从 0.9282 提升至 0.9667）。
• 图级分类： 在合成时序生成器上，模态增强显著提高了准确率，特别是将 GAT 从坍缩的 16.7%（多数类预测）提升到了 94.0%，且无需改变架构。

消融实验与控制变量：

• 留一法分析确认没有任何单个坐标是统一冗余的；不同的数据集依赖于不同的轴线（例如，MOOC 严重依赖 A2 星型多样性，而 Bitcoin Alpha 依赖 A1 互惠性）。
• 控制实验排除了“额外容量”作为增益来源的可能性（随机特征并未复制这种提升），并确认增益不仅仅是简单节点活跃度计数的代理。

意义与主张

本文声称，时序模态签名提供了一种紧凑、可解释且与架构无关的方法，用于向 TGNNs 注入短时界限的结构规律。

• 预测能力： 沿 A1/A2/A3 轴线的每数据集签名可作为诊断工具，用于预测何时增强最为有效。
• 理论基础： 通过将增强相对于时序-WL 层级进行定位，本文阐明了为什么标准 TGNNs 会失败（它们受限于 temporal-1-WL），以及增强如何克服这一限制。
• 实用价值： 该方法不需要更改底层编码器架构，只需拼接预计算的特征向量，因此易于部署在现有流水线中。

作者保持了审慎的态度，指出窗口半径 $\Delta$ 是一个敏感的超参数，并且在三元流可以忽略不计的稀疏流中，增强会退化为低维子空间，其增益也相应减小。该框架被呈现为一种原则性的方法，用于向原始 TGNNs 的边评分器暴露其往往难以捕捉到的特定结构信号。