技术摘要：GTIN —— 用于时序图中联合事件与时间预测的统一框架

1. 问题定义

本文旨在解决动态系统中时序图（Temporal Graphs）未来事件预测的挑战。不同于传统的静态图模型或现有的侧重于局部子图或特定边历史的现有时序图方法，本研究针对的是一个统一的预测任务。其目标是联合估计时序图中下一个事件的三个关键组成部分：

1. 位置 ($c$)： 下一个活跃的边（交互对）是哪条？
2. 时间 ($t$)： 该事件何时发生？
3. 特征 ($W$)： 该事件的属性是什么？

作者认为，现有的方法（如时序图神经网络 TGNN 和时序点过程 TPP）往往无法充分利用全局结构上下文，而是依赖于有限的时间窗口或局部节点邻域。这种局限性阻碍了捕捉现实世界系统（如社交网络、金融交易和通信日志）中固有的复杂长程时间依赖关系和不规则事件模式的能力。

2. 方法论：全局时序交互网络 (GTIN)

提出的解决方案 GTIN 是一个统一的数学框架，它将整个图结构视为一个单一实体进行预测，而不是聚合独立的边预测。

2.1 数学公式化

该问题使用 标记点过程 (Marked Point Processes) 进行建模。截至时间 $t$ 的图历史 $\mathcal{H}(t)$ 由三元组序列 $(t_i, W_i, c_i)$ 组成，分别代表时间、特征和特定的边索引。目标是在给定历史 $\mathcal{H}(t)$ 的情况下，最大化下一个事件三元组 $\mathcal{H}(t, 1)$ 的似然概率。

似然函数被分解为三个条件概率：
$$P(\hat{c}, \hat{t}, \hat{W} | \mathcal{H}(t)) = P(\hat{c}|\mathcal{H}(t)) \cdot P(\hat{t}|\hat{c}, \mathcal{H}(t)) \cdot P(\hat{W}|\hat{t}, \hat{c}, \mathcal{H}(t))$$

这种分解允许模型按顺序预测边位置、发生时间和事件特征。

2.2 模型架构

GTIN 采用 消息传递框架 (Message Passing Framework)，其中原始图中的边在转换后的“线图 (Line Graph)”中被视为节点。相邻的边节点是指在原图中共享共同端点的边。

• 边嵌入 (Edge Embeddings)： 每条边 $n$ 维护一个嵌入 $h_n(t)$，用于聚合其自身历史以及相邻边的历史信息。
  $$h_n(t) = \text{COMB}\left( \text{AGG}\{\Phi(t^j_i, W^j_i) | t^j_i \leq t, j \in \mathcal{N}(n)\}, \Phi(t^n_i, W^n_i) \right)$$
  此处，$\text{COMB}$ 利用 自注意力机制 (Self-attention mechanism)，而 $\text{AGG}$ 是一个可学习的线性变换。
• 时间编码 (Temporal Encoding)： 为了处理连续时间而不进行离散化，模型使用了 谐波时间编码器 (Harmonic Time Encoder)（类似于 GNPP），通过可学习的频率参数将时间戳映射到高维向量。这捕捉了短期近期性、长期依赖性和周期性。
• 全局图表示 (Global Graph Representation)： 时间 $t$ 时图的全局状态被计算为所有边嵌入的加权和：
  $$h_G(t) = \sum_{n=1}^{N} w_n h_n(t)$$
  该全局嵌入 $h_G(t)$ 作为预测下一个事件的上下文，确保预测考虑了整个图的时序状态。

2.3 预测头 (Prediction Heads)

模型利用基于全局和局部嵌入的三个不同预测头：

1. 边预测（分类）： 对所有候选边进行 Softmax 操作以预测 $c_i$。
2. 时间预测（回归）： 将时间分布建模为高斯分布 $\mathcal{N}(\mu_t, \sigma_t^2)$，同时预测均值和方差以量化不确定性。
3. 特征预测（回归）： 将事件特征建模为多元正态分布，并以预测的边、时间和全局历史为条件。

训练目标是最小化负对数似然，即分类损失、时间预测损失和特征预测损失的总和。

2.4 可扩展性扩展 (DGI + 聚类)

为了解决大规模图上的计算复杂度问题，作者提出了使用 深度图信息最大化 (Deep Graph Infomax, DGI) 和 平衡 K-means 聚类 (Balanced K-means Clustering) 的扩展方案：

• DGI： 学习无监督节点嵌入，以保持局部补丁与全局图上下文之间的互信息。
• 平衡聚类： 将图划分为大小大致相等的子图。
• 分层预测： 该流水线构建一个新的“超图 (Super Graph)”，其中每个子图被视为一个“超节点”。该超图被输入算法以 检测下一个事件发生在哪个簇中。一旦确定了目标簇，对应的子图将被输入到事件预测模块中，在该模块中，使用时序模型联合预测下一个事件的类型及其发生时间。这实现了并行处理并显著减少了训练和推理时间。

3. 核心贡献

论文强调了三个主要贡献：

1. 全局事件-时间预测框架： 通过分析整个图结构，联合预测下一个事件的位置、时间及特征，超越了对局部邻域的依赖。
2. 分层可扩展性： 一种高效划分和处理任意规模图的机制，同时保持时间依赖关系，便于在大规模数据集上进行训练。
3. 特征级事件预报： 除了结构和时间预测外，还具备估计事件属性（特征）的能力，提供了更全面的预报能力。

4. 实验结果

作者在三个真实世界数据集（Wikipedia, Reddit, CollegeMsg）和三个合成数据集（Hawkes-negative, Hawkes-positive, Poisson）上对 GTIN 进行了评估。

• 性能表现： GTIN 在包括 TGAT、TGN、DyRep 和神经点过程模型（THP, SAHP, NNPP）在内的基准模型中表现一致优异。
  • 在 Wikipedia 数据集上，GTGT 实现了 10.6 的 RMSE，显著低于 TGN (23.81) 和 TGAT (37.66)。
  • 在 Reddit 数据集上，GTIN 实现了 0.51 的 RMSE，几乎是次优模型 (GNPP 为 1.08) 误差的一半。
  • 在合成数据集上，GTIN 比最强的基准模型 (GNPP) 的误差率降低了 8–70%，特别是在具有强自激行为的数据集（Hawkes-positive）中表现出色。
• 位置预测： 该模型在预测正确边方面表现出强大的性能（Hits@10 和 MRR），验证了全局上下文集成的有效性。
• 可扩展性： 基于 DGI 的流水线在各数据集上减少了 52–68% 的训练时间和 50–66% 的推理时间，且 RMSE 仅有轻微增加，证实了准确性与效率之间良好的权衡。
• 消融实验： 移除注意力机制会导致性能持续下降，证实了注意力机制对于加权信息邻居的重要性。对“相邻边活跃度”的分析表明，GTIN 的优势在局部活动较低的事件周围最为显著，证明了其在局部历史稀疏时利用全局信息的能力。

5. 重要性与局限性

重要性：
论文声称 GTIN 通过统一结构和时序建模，为时序事件预测提供了稳健的基础。其处理不规则事件模式和复杂依赖关系的能力，使其优于受限于局部窗口的方法。该框架被呈现为一个通用的架构，能够适应从密集的社交交互到稀疏的通信网络等多种动态环境。

局限性：
作者明确指出了两个主要局限性：

1. 同质性假设： 模型将所有边视为等同，忽略了特定的边类型或上下文关系（例如，区分不同类型的金融交易）。
2. 排除节点特征： 当前实现未纳入节点特定属性（例如用户人口统计数据），这可能会错过在富含元数据的数据集中可用的宝贵预测信号。

论文总结道，虽然 GTIN 推动了该领域的进步，但未来的工作应侧重于引入异构边类型、节点属性以及分布式计算机制，以进一步增强在稀疏交互场景下的可扩展性和准确性。