技术摘要：用于文本属性图异常检测的 N2NSC

问题定义

本文研究了文本属性图（Text-Attributed Graphs, TAGs）上的图异常检测（Graph Anomaly Detection, GAD）问题。在这一设定下，节点既拥有结构连接，也拥有丰富的文本内容（例如，引用网络中的论文摘要、电子商务中的产品描述）。作者指出，现有文献中存在一个关键空白：当前方法无法有效检测由节点与邻域语义不一致性引起的异常。

现有方法通常分为两种范式，并各具局限性：

1. 基于 GNN 的方法： 虽然能有效捕捉结构模式，但通常将节点文本简化为冻结的嵌入向量。这阻碍了决策时的细粒度文本推理，使得模型无法检测出节点的文本何时在语义上与其邻居发生背离。
2. 集成 LLM 的方法： 虽然提升了语义理解能力，但往往无法充分理解邻居节点之间的拓扑关系。它们要么将图信息视为浅层的辅助信号，要么缺乏对文本和拓扑进行联合推理的能力。

核心问题被形式化为：检测那些文本语义与邻域的语义及拓扑上下文不一致的节点。异常可能表现为文本语义偏差（一个节点讨论的主题与其邻居无关），或者是结构拓扑异常（即使该节点自身的文本在孤立状态下语义和语法都是正确的）。

方法论：N2NSC 框架

作者提出了 **N2NSC（Node-to-Neighborhood Semantic Consistency，节点-邻域语义一致性）**框架，旨在通过两条互补的融合路径，将图结构语义和文本语义深度集成到大语言模型（LLM）中。

1. 显式融合路径 (Explicit Fusion Path)

该路径为 LLM 构建统一的输入表示，使其能够在不依赖人工规则的情况下，对节点的完整图-文本上下文进行推理。

• 文本邻域语义： 对于目标节点 $v$，该方法计算其与所有邻居的成对余弦相似度。它选择了两个对比集合：
  • 相似邻居 ($N^+_v$)： 与语义最相似的前 $K$ 个邻居，构成局部原型。
  • 不相似邻居 ($N^-_v$)： 与语义最不相似的后 $K$ 个邻居，揭示局部冲突。
• 图结构邻域语义： 该方法利用三个统计量来刻画拓扑上下文：
  • 度数 ($d_v$)： 邻居的数量。
  • 平均邻居相似度 ($\bar{c}_v$)： 节点与其邻居之间的平均余弦相似度。
  • 特征偏差 ($\delta_v$)： 节点特征向量与其邻居特征均值之间的欧氏距离。
• 输入构建： LLM 接收目标节点的原始文本、上述三个结构统计量，以及来自相似和不相似邻居的抽取式文本片段。随后，模型被提示回答一个二分类一致性问题：“该节点文本在语义上是否与其图邻域保持一致？”

2. 隐式融合路径 (Neighborhood Context Modulation - NCM)

该路径将邻域语义转化为节点自适应调制信号，用以引导 LLM 的内部参数空间，使其能够根据每个节点的特定图上下文动态调整计算过程。

• GNN 编码器： 图注意力网络（GAT）通过多跳消息传递，聚合目标节点在其邻域结构上的文本特征，生成一个同时编码文本和图上下文的邻域嵌入。
• NodeScaler： 一个学习模块将此嵌入映射为一个针对每个节点的缩放向量 $s_v$：
  $$s_v = 1 + \lambda \tanh(\text{MLP}(\text{GNN}(x_v)))$$
• 参数调制： 该缩放向量用于调制应用于冻结 LLM 权重的低秩参数更新（$\Delta W = W_{up}W_{down}$）：
  $$\Delta y_v = W_{up}(s_v \odot W_{down}z)$$
  这里，$z$ 是隐藏状态，$\odot$ 表示逐元素相乘。这种机制允许模型根据邻域上下文选择性地放大或抑制特定的通道，从而捕捉到纯文本输入可能遗漏的分布偏移。

训练与推理

• LLM 主干网络（如 Qwen3-8B）是冻结的。
• 仅低秩权重（$W_{up}, W_{down}$）和 NodeScaler 参数是可训练的，通过在二分类“异常/正常”Token 上的交叉熵损失进行优化。
• 推理过程涉及构建输入上下文（文本 + 统计数据 + 邻居片段），并根据答案 Token 的 Logits 计算异常得分。

核心贡献

1. 问题形式化： 作者将 TAG 异常检测形式化为一个节点-邻域语义一致性问题，区分了由关系不一致引起的异常与内在文本缺陷导致的异常。
2. 双路径框架： 他们提出了 N2NSC，通过以下方式整合图与文本：
   • 显式路径将文本和拓扑语义融合为统一的输入表示。
   • 隐式路径 (NCM) 将邻域语义转化为节点自适应的调制信号，引导 LLM 理解拓扑与文本之间的对应关系。
3. 实证验证： 该框架在涵盖引用网络、电子商务平台和大规模文献数据的 8 个基准数据集上得到了验证。

实验结果

论文将 N2NSC 与 17 种基准方法进行了对比，包括基于 GNN 的方法（如 GCN, GAT, BWGNN）和集成 LLM 的方法（如 TAPE, GraphGPT, ConsisGAD）。

• 性能： N2NSC 在所有 8 个数据集上均排名 第 1，平均 Anomaly-F1 分数为 85.69%。它比每个数据集上的最佳基准方法平均高出 +16.16 个百分点。
• 消融实验：
  • 仅文本基准表现较差（例如在 Citeseer 上约为 70% AUROC），证实了邻域上下文的重要性。
  • 加入图结构统计量显著提升了性能。
  • 对比性邻居选择（使用相似和不相似邻居）至关重要；若将邻居文本替换为随机或打乱的内容，性能会大幅下降。
  • 隐式路径 (NCM) 带来了持续的增益，特别是在大规模图上，因为它捕捉到了原始文本中无法体现的分布偏移。
• 现实世界泛化能力： 该方法在真实世界的欺诈数据集（Amazon Video, YelpReviews）上进行了测试，表现优于 SOTA 的 DGP 基准 +5 到 +6 AUROC，证明了其在自然发生的异常上的泛化能力。
• 可扩展性： 该框架成功扩展到拥有超过 100 万个节点的图（CitationV8），在单张 GPU 上实现了 98.53% 的 F1 分数。

意义与主张

本文主张，捕捉图拓扑与文本语义之间的对应关系对于在文本属性图上进行推理至关重要。不同于以往将图信息视为辅助信息或未能实现模态间联合推理的方法，N2NSC 证明了双路径方法——即结合显式输入融合与隐式参数调制——能够使 LLM 充分利用文本和结构化的邻域信息。

作者指出，虽然该框架在异常检测方面非常有效，但目前仅限于此判别任务，尚未在生成式任务（如图描述生成）或其他判别式任务（如节点分类）上进行评估。此外，显式路径依赖于邻域上下文的可获得性，这限制了它在极少数邻居的孤立节点上的有效性。该工作表明，利用此框架构建图基础模型是一个值得探索的重要方向。