Multi-Scale Adaptive Neighborhood Awareness Transformer For Graph Fraud Detection

Die Arbeit stellt MANDATE vor, einen Multi-Scale Adaptive Neighborhood Awareness Transformer, der durch eine mehrskalige Positionscodierung, differenzierte Einbettungsstrategien für homophile und heterophile Verbindungen sowie eine Fusionsmethode für Mehrrelationsgraphen die inhärenten Verzerrungen von Graph-Neural-Networks bei der Betrugserkennung überwindet.

Das Wesentliche

Stellen Sie sich vor, Sie sind ein Detektiv in einer riesigen, chaotischen Stadt. Diese Stadt ist ein Netzwerk (wie Facebook, ein Bankensystem oder ein Bewertungsportal). In dieser Stadt gibt es normale Bürger und Betrüger. Ihre Aufgabe ist es, die Betrüger zu finden, bevor sie Schaden anrichten.

Bisher haben Detektive (die sogenannten GNNs oder Graph-Neuronalen Netze) eine sehr einfache Regel befolgt: "Verräterische Nachbarn machen einen verdächtig." Das funktioniert gut, wenn Betrüger sich nur mit anderen Betrügern treffen (Homophilie). Aber in der echten Welt ist es komplizierter:

1. Betrüger verstecken sich manchmal unter normalen Bürgern.
2. Sie können sich auch mit ganz normalen Leuten verbinden, um nicht aufzufallen (Heterophilie).
3. Die alten Detektive schauen nur auf die direkte Nachbarschaft und sehen nicht, was in der ganzen Stadt vor sich geht.

Das ist das Problem, das die Forscher von der Tongji-Universität mit ihrer neuen Erfindung, MANDATE, lösen wollen.

Hier ist eine einfache Erklärung, wie MANDATE funktioniert, mit ein paar kreativen Vergleichen:

1. Der neue Blickwinkel: Der "Multi-Scale"-Fernglas-Effekt

Stellen Sie sich vor, ein alter Detektiv schaut nur aus dem Fenster seines Hauses. Er sieht nur die Leute, die direkt vor seiner Tür stehen (1. Nachbarschaft). Wenn ein Betrüger zwei Straßen weiter wohnt, sieht er ihn nicht.

MANDATE hingegen hat ein magisches Fernglas, das verschiedene Zoom-Stufen hat:

• Zoom 1: Wer steht direkt vor der Tür?
• Zoom 2: Wer wohnt in der nächsten Straße?
• Zoom K: Wer ist im ganzen Stadtviertel?

Das System nennt dies "Multi-Scale Positional Encoding". Es kodiert nicht nur, wer da ist, sondern wie weit weg jemand ist. Es weiß also: "Aha, dieser verdächtige Typ ist nicht direkt nebenan, aber er ist genau 3 Schritte entfernt." Das hilft dem Modell, Zusammenhänge zu sehen, die für andere unsichtbar sind.

2. Die zwei Arten von Nachbarn: Der "Freund" vs. der "Fremde"

In der Welt der Betrugserkennung gibt es zwei Arten von Beziehungen:

• Die "Freunde" (Homophilie): Betrüger hängen oft mit anderen Betrügern ab. Sie tragen ähnliche Kleidung und sprechen die gleiche Sprache.
• Die "Fremden" (Heterophilie): Manchmal hängen Betrüger mit ganz normalen, unschuldigen Leuten ab, um sich zu tarnen.

Frühere Detektive haben alle Nachbarn gleich behandelt. Das war ein Fehler.

• MANDATE hat zwei verschiedene Detektiv-Brillen:
  • Eine Brille für die Freunde: Hier wird einfach zusammengefasst, was die Gruppe macht.
  • Eine Brille für die Fremden: Hier wird nicht einfach alles gemischt. Stattdessen nutzt das System ein kleines Gehirn (ein neuronales Netz), um zu lernen, warum diese beiden unterschiedlichen Leute verbunden sind. Es fragt: "Warum hängt dieser Betrüger mit diesem normalen Bürger ab? Gibt es ein verstecktes Muster?"

3. Der große Mix: Wenn es viele Beziehungen gibt

In der echten Welt gibt es nicht nur eine Art von Verbindung. Ein Nutzer kann ein Freund, ein Geschäftspartner und ein Familienmitglied sein. Das sind verschiedene "Relationen".

Stellen Sie sich vor, Sie haben drei verschiedene Detektive, die jeweils nur eine Art von Beziehung sehen.

• MANDATE ist wie ein Chef-Detektiv, der alle Berichte zusammenführt. Er nimmt die Informationen aus allen Beziehungen (Freundschaft, Geschäft, Familie) und mischt sie intelligent. Er lernt dabei, welche Beziehung gerade am wichtigsten ist, um den Betrug zu erkennen.

4. Das Ergebnis: Warum ist das besser?

Die Forscher haben MANDATE an drei echten Fällen getestet (Bewertungen auf Yelp, Amazon und Finanzdaten).

• Das Ergebnis: MANDATE hat die Betrüger deutlich besser gefunden als alle anderen Methoden.
• Der Grund: Weil es nicht stur auf die "Nachbarschafts-Regel" hört, sondern die Position (wie weit weg jemand ist) und die Art der Beziehung (Freund oder Fremder) intelligent kombiniert.

Zusammenfassend:
Während alte Methoden wie ein Kind waren, das nur schreit: "Wer bei mir wohnt, ist auch mein Freund!", ist MANDATE wie ein erfahrener Spion. Er nutzt ein Fernglas, um Entfernungen zu messen, trägt verschiedene Brillen, um unterschiedliche Beziehungen zu verstehen, und fasst alle Hinweise zusammen, um den Betrug zu entlarven, bevor er passiert.

Das macht es besonders stark gegen die Tricks, die Betrüger heute anwenden, um sich zu verstecken.

Technische Zusammenfassung

1. Problemstellung

Die Erkennung von Betrug in Graphen (Graph Fraud Detection, GFD) ist entscheidend für die Sicherheit in Finanznetzwerken, sozialen Medien und E-Commerce-Plattformen. Obwohl Graph Neural Networks (GNNs) aufgrund ihrer Fähigkeit, graphstrukturierte Daten zu verarbeiten, vielversprechend sind, leiden sie unter zwei wesentlichen inhärenten Verzerrungen (inductive biases), die ihre Effektivität bei der Betrugserkennung einschränken:

1. Homophily-Annahme: GNNs gehen oft davon aus, dass verbundene Knoten ähnliche Merkmale und Labels haben. In Betrugsszenarien ist dies jedoch oft nicht der Fall, da betrügerische Knoten (Fraudsters) oft heterophile Verbindungen zu normalen Knoten aufweisen oder sich in ihrer Verteilung stark unterscheiden.
2. Begrenzte globale Modellierungsfähigkeit: Herkömmliche GNNs basieren auf lokalen Nachrichtenübertragungsmechanismen (Message Passing), die Schwierigkeiten haben, globale Muster über verschiedene Gemeinschaften hinweg zu erfassen.

Zudem führen irreversible Methoden zur Filterung heterophiler Kanten oder starre Annahmen über die Informationspropagation oft zum Verlust struktureller Informationen oder sind in der Praxis nicht immer gültig.

2. Methodik: MANDATE

Die Autoren stellen MANDATE (Multi-scale Adaptive Neighborhood Awareness Transformer) vor, ein Framework, das die inhärenten Verzerrungen von GNNs durch die Integration von Transformer-Architekturen und spezialisierten Embedding-Strategien adressiert.

A. Multi-Scale Positional Encoding Strategie

Um die begrenzte globale Sichtweise zu überwinden, wird eine multi-skalige Positionscodierung entwickelt:

• Konzept: Anstatt nur direkte Nachbarn zu betrachten, wird die Positionsinformation für verschiedene Entfernungen (Hop-Distanzen $k$) vom zentralen Knoten kodiert.
• Implementierung: Die Positionsinformation wird durch eine Sequenz $S_p(u_i)$ dargestellt, die auf Zufallswanderungsmatrizen (Random Walk Matrices) oder verallgemeinerten PageRank-Scores basiert.
• Lernbarkeit: Durch einen Multi-Layer-Perceptron (MLP) können diese skalaren Distanzen in lernbare Gewichte $\theta_k$ transformiert werden, was eine flexible Anpassung an verschiedene Graph-Propagationsmuster ermöglicht.

B. Neighborhood Awareness Positional Embedding

Ein Kernstück der Methode ist die Unterscheidung zwischen homophilen und heterophilen Verbindungen, um die Verteilungsunterschiede zwischen benignen und betrügerischen Knoten auszugleichen:

• Homophile Verbindungen: Hier werden Nachbarn als ähnlich betrachtet. Die Positionsinformation $\phi_k$ wird direkt als Wahrscheinlichkeit zur Weitergabe von Merkmalen genutzt (lineare Aggregation).
• Heterophile Verbindungen: Hier bedeutet topologische Nähe nicht unbedingt positive Korrelation. Stattdessen wird ein neuronales Netzwerk (MLP) verwendet, das die Positionsinformation $p_k$ mit den Attributmerkmalen $X$ verkettet, um komplexe Korrelationen automatisch zu lernen.
• Orthogonalitätsbeschränkung: Um Informationsredundanz zwischen den Embeddings verschiedener Hop-Distanzen zu vermeiden, wird eine Orthogonalitätsbeschränkung (Cosine Embedding Loss) eingeführt. Dies stellt sicher, dass Embeddings unterschiedlicher Ordnungen einzigartige Informationen beibehalten.

C. Multi-Relation Embedding Fusion

Für Graphen mit mehreren Beziehungstypen (Multi-Relation Graphs):

• Knoten-spezifische Embeddings: Werden durch eine gewichtete Summe (Multi-Head-ähnlicher Ansatz) aggregiert, um diverse Repräsentationen zu lernen.
• Positionale Embeddings: Da verschiedene Relationen unterschiedliche Aspekte der Homophilie abbilden können, werden die Positional-Embeddings aller Relationen verkettet. Das Modell lernt autonom den Einfluss jeder Relation.
• Transformer-Integration: Die finalen Embeddings werden in einen Multi-Head-Attention-Mechanismus eingespeist, der die globale Modellierungsfähigkeit signifikant verbessert.

3. Wichtige Beiträge

1. MANDATE-Architektur: Ein neuer Ansatz, der Transformer mit Graph-Daten verbindet, um die inhärenten Bias von GNNs (Homophilie-Annahme und lokale Beschränkung) zu mildern.
2. Adaptive Positionscodierung: Eine Strategie, die multi-skalige Distanzen dynamisch gewichtet und sowohl homophile als auch heterophile Nachbarschaften durch unterschiedliche Embedding-Strategien behandelt.
3. Fusionsmechanismus: Ein spezieller Ansatz zur Fusion von Embeddings in Multi-Relation-Graphen, der Verteilungsverzerrungen durch unterschiedliche Beziehungstypen reduziert.
4. Orthogonalitäts-Constraint: Eine innovative Regularisierung, um die Einzigartigkeit von Informationen in multi-skaligen Embeddings zu gewährleisten.

4. Ergebnisse

Die Methode wurde auf drei weit verbreiteten Datensätzen getestet: YelpChi, Amazon und T-Finance.

• Leistungsübersicht: MANDATE übertraf in allen drei Datensätzen und bei allen Metriken (AUC, F1-macro, Gmean) den Stand der Technik (State-of-the-Art), einschließlich Methoden wie CARE-GNN, BWGNN, H2-FDetector und ConsisGAD.
• Beispielhafte Verbesserungen: Auf dem YelpChi-Datensatz erzielte MANDATE Verbesserungen von bis zu 17,04 % bei den Metriken F1-macro und Gmean im Vergleich zu anderen Methoden.
• Ablationsstudien:
  • Der Vergleich verschiedener Positionscodierungen zeigte, dass die multi-skalige Strategie (MANDATE PE) PageRank und einzelne Hop-Codierungen deutlich übertrifft.
  • Die Multi-Relation-Fusion führte zu signifikanten Leistungssteigerungen (z. B. +3 % AUC auf YelpChi) im Vergleich zu Single-Relation-Ansätzen, was die Wichtigkeit der Berücksichtigung verschiedener Beziehungstypen unterstreicht.

5. Bedeutung und Fazit

Das Paper demonstriert, dass die Kombination von Transformer-Mechanismen (für globale Modellierung) mit adaptiven, relationsspezifischen Graph-Embedding-Strategien ein vielversprechender Weg zur Bekämpfung von Betrug ist. MANDATE adressiert erfolgreich die Lücke zwischen der lokalen Natur traditioneller GNNs und der Notwendigkeit, globale Betrugsmuster sowie komplexe heterophile Beziehungen in realen Szenarien zu erkennen. Die Ergebnisse belegen, dass die Reduzierung der induktiven Bias von GNNs durch diese adaptive Architektur zu robusteren und genaueren Betrugserkennungssystemen führt.