Technische Samenvatting: Dynamische Linkpredictie met Tijdelijk Geoptimaliseerde Signatuur Graph Neural Networks

1. Probleemstelling

Temporale signatuurnetwerken (TSN's) modelleren de evolutie van coöperatieve en antagonistische relaties in domeinen zoals sociale media, vertrouwenssystemen en financiële transacties. Hoewel Graph Neural Networks (GNN's) vooruitgang hebben geboekt bij statische en niet-gesigneerde linkpredictie, blijft effectief leren in temporale signatuurgrafen uitdagend. Bestaande methoden behandelen netwerken vaak als statische momentopnames of slagen er niet in rekening te houden met de complexe wisselwerking tussen gesigneerde relaties (positieve/negatieve polariteit), evoluerende structuren en evenwichtstheoretische beperkingen.

Specifiek worstelen huidige benaderingen met vier kernuitdagingen:

1. Tijdelijke Informatieafname: De invloed van historische gesigneerde interacties neemt af naarmate de tijd vordert, maar statische Signatuur GNN's (SGNN's) ontberen adaptieve mechanismen om recentere versus oudere bewijslast te wegen.
2. Evoluerende Evenwichtsstructuren: Structurele evenwichtspatronen (bijvoorbeeld triadische stabiliteit) zijn niet vast; ze vereisen voortdurende herberekening naarmate netwerken groeien.
3. Heterogene Temporele Dynamiek: Verschillende knopen vertonen distincte tijdsgebonden gedragingen (bijvoorbeeld centrale knopen die langetermijnrelevantie behouden versus perifere knopen met snel afnemende invloed), wat adaptieve in plaats van uniforme weging vereist.
4. Interpreteerbaarheid: Het integreren van tijdsmechanismen vermindert vaak de transparantie die essentieel is voor toepassingen met hoge vertrouwenseisen, en bestaande tijdsattentie-modellen bieden beperkt inzicht in hoe tijdsfactoren gesigneerde voorspellingen aandrijven.

2. Methodologie

De auteurs stellen een modulair tijdsverbeteringskader voor dat is ontworpen om historische context te integreren in anderszins statische SGNN-architecturen zonder hun kernstructurele coderingen te wijzigen. Het kader is architectuuronafhankelijk, maar wordt hier geïmplementeerd met behulp van de Zelf-verklarende Signatuur Graph Transformer (SE-SGformer).

Kerncomponent: Module voor Integratie van Historische Context (HCIM)

De HCIM extrahert tijdsgeïnformeerde representaties uit historische grafcoderingen via een proces in drie fasen:

1. Adaptieve Tijdsweging:

   • Past leerbare, recency-bewuste weging toe op historische knoopembeddings $\{Z(t-T), \dots, Z(t-1)\}$.
   • Gebruikt een wegingscoëfficiënt $w_\tau$ gedefinieerd door een exponentiële afnamefactor $\lambda$ en een parameter voor recency-accentuering $\gamma$.
   • Formule: $w_\tau = \frac{\lambda^{T-1-\tau} \cdot e^{\tau/\gamma}}{\sum_{i=0}^{T-1} \lambda^{T-1-i} \cdot e^{i/\gamma} + \epsilon}$.
   • Hierdoor kan het model adaptief informatieve historische interacties prioriteren in plaats van alle vorige momentopnames gelijk te behandelen.

2. Modellering van Sequentiële Patronen:

   • De gewogen embeddings worden gestapeld tot een tijdsreeks en verwerkt door een LSTM-netwerk.
   • Deze fase vangt sequentiële afhankelijkheden en langetermijn tijdsgebonden trajecten in gesigneerde relaties op.

3. Attentie-gebaseerde Contextintegratie:

   • Een multi-head self-attention mechanisme wordt toegepast op de LSTM-uitvoer om selectief historisch informatieve tijdsgebonden patronen te benadrukken.
   • De representatie die overeenkomt met het laatste tijdstip wordt geprojecteerd om de definitieve representatie van de historische context ($H_{context}$) te genereren.

Tijdsfusiestrategieën

De geëxtraheerde historische context wordt gefuseerd met huidige knoopembeddings ($Z_{current}$) met behulp van een van twee strategieën:

• Globale Weging: Past een enkele leerbare parameter $\alpha$ uniform toe op alle knopen. Geschikt voor synthetische netwerken met homogene tijdsgebonden patronen.
• Knop-Adaptieve Weging: Gebruikt een Multi-Layer Perceptron (MLP) om knoopspecifieke fusieweegs $\alpha_{node}$ te genereren. Dit komt heterogene tijdsgebonden dynamiek in real-world data tegemoet door toe te staan dat verschillende knopen dynamisch het belang van historische versus huidige informatie aanpassen.

De definitieve geoptimaliseerde embeddings ($Z_{enhanced}$) vervangen de originele embeddings in de predictielagen, terwijl de originele verliesformulering en gesigneerde predictiedoelstellingen ongewijzigd blijven.

3. Belangrijkste Bijdragen

• HCIM Kader: Een systematisch tijdsgebonden kader in drie fasen dat leerbare recency-bewuste weging, trajectmodellering op basis van LSTM en multi-head tijdsattentie combineert.
• Dual Tijdsweging: Introductie van zowel globale als knop-adaptieve wegingstrategieën om zowel homogene synthetische patronen als heterogene real-world dynamiek te hanteren.
• Behoud van Interpreteerbaarheid: Het kader behoudt modelverklaring door expliciete leerbare parameters te gebruiken voor recency-bias en fusieweegs, waardoor practitioners tijdsgebonden beslissingsfactoren kunnen valideren.
• Architectuuronafhankelijk Ontwerp: De benadering breidt bestaande SGNN's uit (gedemonstreerd op SE-SGformer) zonder de backbone te herontwerpen, waardoor structurele fundamenten zoals gesigneerde random walk-coderingen en structurele attentie-biasen behouden blijven.

4. Experimentele Resultaten

Het kader werd geëvalueerd op real-world datasets (Bitcoin OTC, Bitcoin Alpha, Reddit Hyperlink) en synthetische netwerken (Barabási-Albert, Watts-Strogatz).

• Prestatiewinst: De tijdsgeoptimaliseerde SE-SGformer presteerde consistent beter dan de statische baseline op alle datasets met statistisch significante verbeteringen ($p < 0.001$).
  • Bitcoin OTC: +3,79% relatieve AUC-verbetering; 30,32% foutreductie.
  • Bitcoin Alpha: +5,76% relatieve AUC-verbetering; 40,06% foutreductie.
  • Synthetische Netwerken: Het model vertoonde de meest dramatische winsten op synthetische data, met relatieve AUC-verbeteringen van meer dan 13% en foutreducties tot 41,77% op Barabási-Albert- en Watts-Strogatz-netwerken.
• Robuustheid: Ondanks de extreme structurele heterogeniteit en hub-dominantie in de Reddit Hyperlink-subset, bereikte het kader een AUC-verbetering van 1,37%, wat effectiviteit aantoont zelfs in sterk onregelmatige topologieën.
• Efficiëntie: Hoewel de HCIM extra rekenkundige overhead introduceert (lineair schaalend met knopen en kwadratisch met tijdsgebonden momentopnames), waren de empirische runtime-toenames gematigd (1,48% tot 24,80%), waardoor ze hanteerbaar bleven voor de geëvalueerde datasets.

5. Betekenis en Claims

Het artikel positioneert dit werk als een kritieke brug tussen tijdsgebonden grafleren en signatuur graph neural networks. De primaire betekenis ligt in:

• Het Overbruggen van de Kloof: Het adresseert het gebrek aan expliciete tijdsmodellering in signatuurgrafleren, waardoor nauwkeurige gesigneerde linkpredictie in dynamische en antagonistische omgevingen mogelijk wordt.
• Behoud van Interpreteerbaarheid: In tegenstelling tot benaderingen die architecturen volledig herontwerpen, injecteert deze methode tijdsbewustzijn in bestaande, interpreteerbare SGNN's, waardoor het vermogen behouden blijft om voorspellingen te verklaren op basis van structurele evenwichts- en statustheorieën.
• Schaalbaarheid en Flexibiliteit: Door architectuuronafhankelijk te zijn, biedt het een schaalbare basis voor toekomstig tijdsgebonden SGNN-onderzoek.
• Invloed op Toepassingen: Het kader verbetert de mogelijkheden in domeinen waar het begrijpen van de evolutie van coöperatieve en antagonistische relaties essentieel is, zoals fraudeopsporing in de financiële sector en moderatie van online gemeenschappen.

De auteurs concluderen dat tijdsgebonden gesigneerde interacties voorspellende informatie bevatten die verder gaat dan de statische graafstructuur alleen, en dat het scheiden van historische en structurele representaties voorafgaand aan adaptieve fusie een voordelige strategie is voor tijdsgebonden grafleren.