🤖 machine learning

Model-Level GNN Explanations via Rule-to-Graph Readout for Logit Reconstruction

Dieser Artikel stellt ein neuartiges modellbasiertes Erklärungsframework für GNNs vor, das rohe Multiclass-Logits wiederherstellt, indem es fundierte Subgraph-Konzepte zu symbolischen Regeln zusammensetzt und diese durch einen eingefrorenen Klassifikator führt, wodurch hochpräzise, zur Testzeit instanziierbare globale Erklärungen mit einer Analyse der Beitragsleistung auf Regelbasis erreicht werden, die deutlich schneller sind als frühere Methoden.

Ursprüngliche Autoren: Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

Veröffentlicht 2026-05-13

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Shengyao Lu, Jiuding Yang, Aedan J. DeFrates, Keith G. Mills, Baochun Li, Di Niu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen superintelligenten Roboter (ein Graph Neural Network, oder GNN), der komplexe Netzwerke aus Punkten und Linien – wie Moleküle oder soziale Netzwerke – betrachtet und Vorhersagen trifft. Er ist unglaublich genau, aber er ist eine „Blackbox". Sie fragen ihn: „Warum sagst du, dass dieses Molekül gefährlich ist?", und er antwortet nur: „Weil ich es sage", ohne zu erklären, wie er zu dieser Schlussfolgerung gelangt ist.

Bestehende Methoden versuchen, den Roboter zu erklären, indem sie auf spezifische Muster hinweisen, die ihm gefallen. Zum Beispiel: „Oh, er mag Moleküle mit einem roten Ring." Aber das ist wie der Versuch, ein komplexes Rezept eines Kochs zu erklären, indem man nur die Zutaten auflistet, die er mag. Es sagt Ihnen nicht, wie der Koch sie mischt, wie viel von jeder Zutat er verwendet oder wie er die Geschmacksrichtungen ausbalanciert, um den finalen Geschmack zu erzielen.

TreeX ist ein neues Werkzeug, das das Spiel verändert. Anstatt nur Zutaten aufzulisten, versucht TreeX, den gesamten Entscheidungsprozess des Roboters mit einfachen, für Menschen lesbaren Regeln neu zu konstruieren.

So funktioniert TreeX, unter Verwendung einiger kreativer Analogien:

1. Die Analogie der „Rezept-Rekonstruktion"

Stellen Sie sich die endgültige Vorhersage des Roboters nicht als einzelne „Ja/Nein"-Antwort vor, sondern als komplexes Geschmacksprofil (wie eine Punktzahl für „Scharf", „Süß" und „Sauer").

Alter Weg: Frühere Werkzeuge versuchten, eine Regel wie „Wenn es einen roten Ring hat, ist es Scharf" zu finden. Sie passten lediglich Muster an Labels an.
TreeX-Weg: TreeX sagt: „Lassen Sie uns die rohen Geschmackscores des Roboters nehmen und sie mit einem Rezept von Grund auf neu aufbauen." Es zerlegt die Entscheidung des Roboters in logische Regeln (wie „Wenn es einen roten Ring hat UND kein blaues Quadrat, addiere 5 Punkte zu Scharf").

TreeX rät nicht nur das endgültige Label; es versucht, die exakten Zahlen (Logits), die der Roboter vor seiner endgültigen Entscheidung verwendete, mathematisch wiederherzustellen. Wenn TreeX das „Geschmacksprofil" des Roboters mit einfachen Regeln perfekt nachbauen kann, wissen wir, dass diese Regeln eine wahre Erklärung dafür sind, wie der Roboter denkt.

2. Das „Baukasten-System" (Konzept-Mining)

Um diese Regeln zu bauen, benötigt TreeX Bausteine. Es schaut in das Gehirn des Roboters (seine versteckten Schichten) und findet Subgraph-Konzepte.

Die Analogie: Stellen Sie sich vor, der Roboter sieht ein Molekül. TreeX schaut sich die interne Sicht des Roboters an und sagt: „Ah, ich sehe hier eine 'Nitrogruppe' und dort eine 'Ringstruktur'." Es gruppiert ähnlich aussehende Teile des Graphen in wiederverwendbare „Konzepte".
Der Twist: TreeX ist dabei intelligent. Es greift nicht einfach zufällige Teile; es findet stabile, wiederkehrende Muster (wie das Finden desselben Ziegeltyps in verschiedenen Häusern), damit es sie als zuverlässige Bausteine für seine Regeln verwenden kann.

3. Das „Regelbuch" (Symbolische Logik)

Sobald es die Bausteine hat, schreibt TreeX ein Regelbuch.

Es verwendet Logik wie: „WENN (Konzept A vorhanden ist) UND (Konzept B fehlt), DANN erhöhe die Punktzahl für Klasse 1."
Der „Negative"-Trick: Ein Schlüsselmerkmal von TreeX ist, dass es Abwesenheit versteht. Genau wie ein Koch sagen könnte: „Diese Suppe ist gut, weil kein Salz darin ist", kann TreeX Regeln basierend auf dem erstellen, was fehlt. Dies ist entscheidend für komplexe Entscheidungen, bei denen das Fehlen eines Merkmals genauso wichtig ist wie dessen Vorhandensein.

4. Die „Live-Aufführung" (Test-Time Grounding)

Hier glänzt TreeX im Vergleich zu anderen.

Alter Weg: Einige Werkzeuge geben Ihnen ein statisches Regelbuch, das auf den gesamten Datensatz anwendbar ist, aber sie können Ihnen nicht zeigen, wie es auf ein spezifisches neues Molekül funktioniert, das Sie ihnen gerade gegeben haben.
TreeX-Weg: Wenn Sie TreeX einen neuen Graphen geben, aktiviert es sofort die relevanten Regeln. Es zeigt auf die exakten Teile des Graphen, die die Regel ausgelöst haben (Grounding), und zeigt Ihnen genau, wie stark diese Regel die Punktzahl nach oben oder unten gedrückt hat.
Die Analogie: Es ist wie ein Sportkommentator im Live-Geschehen. Anstatt Ihnen nur das Endergebnis zu nennen, sagt TreeX: „Im Moment gewinnt das Team, weil Spieler A (Regel 1) ein Tor erzielt hat, was +2 Punkte hinzugefügt hat, während Spieler B (Regel 2) einen Schuss verpasst hat, was -1 Punkt abgezogen hat."

Warum ist das besser?

Die Arbeit behauptet, TreeX sei aus drei Hauptgründen überlegen:

Treue: Es rät nicht nur die richtige Antwort; es rekonstruiert die internen „Vertrauenswerte" (Logits) des Roboters mathematisch mit hoher Genauigkeit. Wenn TreeXs Regeln die exakten Zahlen des Roboters nachbilden können, ist die Erklärung vertrauenswürdig.
Geschwindigkeit: Es ist bis zu 20-mal schneller als frühere Methoden. Es ist wie der Wechsel vom handschriftlichen Schreiben eines Romans zur Verwendung einer Hochgeschwindigkeits-Schreibmaschine.
Handlungsrelevante Einsichten: Es sagt nicht nur „Das ist der Grund". Es sagt: „Diese Regel unterstützt das gewinnende Team, während diese Regel das verlierende Team unterdrückt." Es ermöglicht Ihnen zu sehen, welche Regeln die „Stars" der Show sind und welche nur Hintergrundrauschen sind.

Zusammenfassung

TreeX nimmt einen Blackbox-Roboter, zerlegt seine Entscheidungsfindung in eine Reihe einfacher, logischer „Wenn-Dann"-Regeln und beweist, dass diese Regeln funktionieren, indem es die exakten Vorhersagen des Roboters neu konstruiert. Es behandelt sowohl das Vorhandensein als auch das Fehlen von Merkmalen, arbeitet unglaublich schnell und liefert Ihnen eine lebendige, detaillierte Aufschlüsselung davon, wie der Roboter für jedes einzelne neue Beispiel denkt, das es sieht.

Technische Zusammenfassung: TreeX - Erklärungen auf Modellebene für GNNs mittels Regel-zu-Graph-Auslesung

Problemstellung

Während Graph-Neuronale Netze (GNNs) starke Vorhersageleistungen erzielen, bleibt das Verständnis ihrer Entscheidungslogik herausfordernd. Bestehende Ansätze konzentrieren sich primär auf Erklärungen auf Instanzebene, die spezifische Knoten oder Subgraphen identifizieren, die für eine einzelne Vorhersage verantwortlich sind. Lokale Erklärungen versagen jedoch darin, aufzudecken, ob Beweise systematisch über einen Datensatz hinweg genutzt werden, ob Modelle auf irreführende Abkürzungen zurückgreifen oder wie mehrere Konzepte gemeinsam Entscheidungsgrenzen auf Klassenebene definieren.

Aktuelle Erklärer auf Modellebene versuchen typischerweise, Graphmuster oder symbolische Regeln zu identifizieren, die mit einer bestimmten Klasse assoziiert sind. Eine kritische Einschränkung dieser Methoden besteht darin, dass sie Regeln als nachträgliche Klassendescriptoren und nicht als funktionale Recheneinheiten behandeln. Sie erklären nicht, wie mehrere Regeln gemeinsam die endgültige Entscheidung des GNNs produzieren oder die rohen Vorhersage-Logits des Modells rekonstruieren. Folglich fehlt ihnen die Fähigkeit, eine Beitragsanalyse auf Regelebene zur Testzeit durchzuführen oder die Unterdrückung konkurrierender Klassen zu erklären.

Methodik: TreeX

Die Autoren schlagen TreeX vor, ein neuartiges Framework für GNN-Erklärungen auf Modellebene, das das Erklärungsziel von der klassenweisen Regel-Extraktion hin zur regelbasierten Logit-Rekonstruktion verschiebt. TreeX greift an der Schnittstelle des Readout-Moduls eines vortrainierten GNNs ein, wobei die Message-Passing-Schichten und der Klassifikationskopf eingefroren bleiben, während der ursprüngliche Knoten-zu-Graph-Readout durch einen gewichteten Regel-zu-Graph-Readout ersetzt wird.

Die Methodik besteht aus vier Hauptphasen:

1. Subbaum-inspiriertes Konzept-Mining

Um globale Regeln auf lokalen Instanzen zu verankern, minnt TreeX Subgraph-Konzepte aus den versteckten Zuständen des GNNs:

Lokales Mining: Knoten-Embeddings innerhalb eines Graphen werden geclustert. Jeder Cluster wird durch Aggregation der $l$ -Hop-Rezeptionsfelder seiner Mitgliedsknoten (Subbäume) in ein unterstützendes Subgraph umgewandelt. Dies lenkt Konzepte hin zu strukturell stabilen Beweisen statt zu Rauschen.
Globales Mining: Lokale Konzept-Embeddings werden erneut geclustert, um eine globale Konzeptbank zu bilden. Repräsentative Subgraphen werden unter Verwendung eines zweistufigen lexikografischen Mehrheitsfilters (basierend auf Form- und Grad-Signaturen) ausgewählt, gefolgt von einem Centroid-Abstand als Entscheidungshilfe bei Gleichstand.
Theoretische Begründung: Die Arbeit argumentiert, dass für maximal leistungsfähige MPNNs (wie GIN) die Knoten-Embedding der $l$ -ten Schicht eine "Perfekte Verwurzelte-Baum-Repräsentation" des vollständigen $l$ -Hop-Subbaums darstellt, was die Verwendung von Knoten-Embeddings zur Repräsentation von Substrukturen rechtfertigt.

2. Neuro-symbolisches Regel-Lernen

TreeX lernt symbolische Regeln über die globalen Subgraph-Konzepte unter Verwendung einer CNF-Struktur (Conjunctive Normal Form), spezifisch einer OR-of-CNF-Relaxation:

Klassenweise Entdeckung: Regeln werden zunächst im One-vs-Rest-Verfahren für jede Zielklasse gelernt. Positive Literale ( $P[k]$ ) und negative Literale ( $\neg P[k]$ ) werden basierend auf der diskriminativen Kraft globaler Konzepte instantiiert.
Differenzierbare Logik: Eine hierarchische parametrisierung differenzierbarer Logik wird verwendet. Klauseln werden über eine Gödel-T-Conorm (Maximum über gating-Literale) erfüllt, und Regeln werden über eine produktartige weiche UND-Verknüpfung über Klauseln hinweg gebildet. Die endgültige Klassenvorhersage verwendet eine probabilistische Summe (Noisy-OR) über Kandidatenregeln.
Zusammenführung: Klassen-spezifische Regelkandidaten werden zu einer einheitlichen, geteilten Regelbank zusammengeführt. Dieses zweistufige Design stellt sicher, dass diskriminierende Regeln pro Klasse entdeckt werden, während eine geteilte Struktur für die Mehrklassen-Rekonstruktion erhalten bleibt.

3. Regel-zu-Graph-Readout

Die Kerninnovation besteht in der Neuinterpretation der Readout-Schicht:

Regel-Embeddings: Regel-Embeddings werden durch Aggregation der Embeddings ihrer konstituierenden Literale (gewichtet durch Gate-Aktivierungen) berechnet. Negative Literale werden als negierte Embeddings ihrer positiven Gegenstücke dargestellt.
Logit-Rekonstruktion: Aktive Regeln werden durch einen gelernten globalen Gewichtsvektor $w$ gewichtet. Die gewichtete Kombination aktiver Regel-Embeddings wird durch den eingefrorenen Klassifikationskopf des Basis-GNNs geleitet, um die rohen Mehrklassen-Logits ( $\hat{o}_G$ ) zu rekonstruieren.
Ziel: Das Modell wird trainiert, den Mean Squared Error (MSE) zwischen den rekonstruierten Logits und den rohen Logits des ursprünglichen GNNs zu minimieren.

4. Verankerung und Analyse zur Testzeit

Zur Testzeit projiziert TreeX ungesehene Graphen in den geteilten Konstruktionsraum, bewertet die festen Regeln und erzeugt instanzspezifische Erklärungen. Dies ermöglicht:

Verankerung: Das Abbilden erfüllter Literale auf konkrete lokale Subgraph-Evidenz (für positive Literale) oder das Fehlen von Konzepten (für negative Literale).
Ablation: Das Messen des Beitrags jeder Regel durch Nullsetzen ihres Gewichts und Beobachten der Änderung der rekonstruierten Logits ( $\Delta_{g,r}$ ).

Hauptbeiträge

Neues Erklärungsziel: Formuliert die GNN-Erklärung auf Modellebene als regelbasierte Logit-Rekonstruktion und geht über die einfache Assoziation von Mustern mit Labels hinaus, hin zur Erklärung der Generierung roher Vorhersage-Logits.
Symbolische Readout-Schnittstelle: Führt einen Regel-zu-Graph-Readout ein, bei dem verankerte logische Regeln als Recheneinheiten fungieren. Aktive Regel-Embeddings werden aggregiert und durch den eingefrorenen Klassifikator geleitet, um Mehrklassen-Logits zu rekonstruieren.
Verankerte und kompositionelle Regelkonstruktion: Minnt subbaum-inspirierte Subgraph-Konzepte für kontinuierliche Embeddings und konkrete Evidenz. Es lernt OR-of-CNF-Regeln, die alternative Realisierungen innerhalb erforderlicher Einschränkungen bewahren und unter demselben Regelbudget eine größere strukturelle Ausdruckskraft als DNF-artige Formulierungen bieten.
Funktionale und treue Erklärungen: Zeigt, dass identifizierte kritische Regeln die vorhergesagte Klasse aktiv unterstützen und Nicht-Zielklassen unterdrücken, wobei sie als funktionale Einheiten und nicht als bloße nachträgliche Artefakte fungieren.

Experimentelle Ergebnisse

TreeX wurde auf drei synthetischen (BA-2Motifs, BAMultiShapes, BA-Neg) und zwei realen molekularen (Mutagenicity, NCI1) Datensätzen evaluiert.

Logit-Treue: TreeX rekonstruiert die rohen Mehrklassen-Logits des Basis-GNNs treu und erreicht eine hohe Absolute Probability Fidelity (APF) (z. B. >97% auf BA-2Motifs, >75% auf realen Datensätzen).
Regel-Impact: Ablationsstudien zeigen, dass die top-aktiven Regeln konsistent das Logit der Zielklasse erhöhen und Nicht-Zielklassen unterdrücken, was ihre funktionale Rolle im Entscheidungsprozess bestätigt.
Notwendigkeit des Designs: Ablationen bestätigen, dass das Entfernen des Regelmoduls, des Zusammenführungsschritts oder negativer Literale die Leistung signifikant verschlechtert, insbesondere bei der Rekonstruktion roher Logits.
Effizienz und Vergleich: Im Vergleich zu früheren klassenweisen regelbasierten Erklärern (LogicXGNN, GLGExplainer, GraphTrail) erreicht TreeX eine wettbewerbsfähige oder bessere Prediction Agreement (PA) und ist dabei bis zu 20× schneller. Im Gegensatz zu Baselines bietet TreeX Regelgewichte, Verankerung zur Testzeit und eine Beitragsanalyse auf Logit-Ebene.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass TreeX ein globales, zur Testzeit instanziierbares und subgraph-verankertes Erklärungsframework bereitstellt. Durch die Verschiebung des Fokus auf die Logit-Rekonstruktion bietet TreeX eine rigorosere Evaluierung der Erklärbarkeit: Regeln sind nicht nur deskriptiv, sondern erweisen sich als funktionale Einheiten, die die Entscheidungsmarge aktiv formen.

Die Autoren betonen, dass TreeX nicht bloß ein nachträgliches Zusammenfassungswerkzeug ist, sondern ein Mechanismus, der aufdeckt, wie die Entscheidungslogik eines GNNs in wiederverwendbare, gewichtete symbolische Regeln zerlegt werden kann. Dieser Ansatz ermöglicht die Analyse, wie Regeln vorhergesagte Klassen unterstützen und Konkurrenten unterdrücken, und schließt eine Lücke in der aktuellen Interpretierbarkeit auf Modellebene, in der die Interaktion zwischen mehreren Regeln und der endgültigen Entscheidungsgrenze undurchsichtig bleibt. Das Framework schlägt einen breiteren Weg zur Erklärung neuronaler Modelle vor, indem menscheninterpretierbare Konzepte identifiziert, zu symbolischen Regeln komponiert und diese Regeln als Readout-Einheiten verwendet werden, um das Modellverhalten zu rekonstruieren.