🤖 machine learning

GoT-CD: Graph-of-Thoughts Causal Discovery and the Fragility of Post-hoc Path-Specific Fairness Audits

Dieses Paper führt GoT-CD ein, ein Graph-of-Thoughts-Framework, das strukturell wettbewerbsfähige kausale Graphen generiert und gleichzeitig aufzeigt, dass selbst hochpräzise Discovery-Methoden daran scheitern können, spezifische Pfade wiederherzustellen, die für genaue post-hoc pfadspezifische Fairness-Audits notwendig sind, wodurch die kritische Notwendigkeit hervorgehoben wird, die kausale Entdeckung unter dem Aspekt nachgelagerter Fairness-Anforderungen zu bewerten.

Ursprüngliche Autoren: Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Veröffentlicht 2026-08-05

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Nitish Nagesh, Elahe Khatibi, Thomas Dean Hughes, Mahdi Bagheri, Pratik Gajane, Amir M. Rahmani

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel anhand eines unscharfen, schwarz-weißen Fotos eines Tatorts zu lösen. Sie können die Verdächtigen nicht deutlich erkennen, aber Sie müssen herausfinden, wer was wem angetan hat. In der Welt der Datenwissenschaft nennt man das kausale Entdeckung (Causal Discovery). Anstatt ein kontrolliertes Experiment durchzuführen, bei dem Sie jede Bewegung beobachten können, analysieren Wissenschaftler „beobachtbare Daten“ – wie etwa einen Stapel medizinischer Unterlagen oder Verkehrsdaten – und versuchen, eine Karte zu zeichnen, die zeigt, welche Faktoren andere beeinflussen. Verursacht zum Beispiel zu viel Zuckerzufuhr wirklich Kopfschmerzen, oder treten sie nur gleichzeitig auf?

Sob once Sie diese Karte erstellt haben, möchten Sie vielleicht prüfen, ob sie fair ist. Hier kommt die pfadspezifische Fairness ins Spiel. Stellen Sie sich einen Einstellungsalgorithmus vor, der Bewerber ablehnt. Sie wollen wissen: Hat er sie aufgrund ihrer Fähigkeiten abgelehnt (ein legitimer Grund) oder aufgrund ihres Geschlechts oder ihrer Herkunft (ein unfairer Grund)? Um das zu beantworten, müssen Sie den spezifischen „Pfad“ auf Ihrer Karte vom Identitätsmerkmal der Person bis zur endgültigen Entscheidung nachverfolgen. Wenn die Karte falsch ist, ist Ihre Fairnessprüfung nutzlos. Sie könnten denken, der Algorithmus sei fair, während er in Wirklichkeit voreingenommen ist, oder umgekehrt. Dies ist die knifflige Ecke der Wissenschaft, die dieses Paper untersucht: Wie bauen wir die bestmögliche Karte, und wie stellen wir sicher, dass diese Karte uns nicht täuscht, wenn wir versuchen, Fairness zu prüfen?

Das Paper: GoT-CD und die „Fake Clean“-Falle

Die Autoren dieses Papers, Nitish Nagesh und sein Team, gehen ein Problem an, das einfach klingt, aber eigentlich eine Falle ist. Sie stellten fest, dass Wissenschaftler, wenn sie Künstliche Intelligenz (speziell Large Language Models oder LLMs) verwenden, um diese kausalen Karten zu zeichnen, meistens nur prüfen, ob die Karte „strukturell korrekt“ aussieht. Es ist, als würde man die Zeichnung eines Hauses eines Schülers bewerten, indem man zählt, wie viele Fenster und Türen an den richtigen Stellen sind. Aber was ist, wenn der Schüler ein perfektes Haus gezeichnet hat, aber die Haustür vergessen hat? Wenn Sie versuchen zu prüfen, ob das Haus für einen Rollstuhlfahrer zugänglich ist, ist diese fehlende Tür eine Katastrophe, selbst wenn der Rest der Zeichnung perfekt ist.

Das Paper stellt eine neue Methode namens GoT-CD (Graph-of-Thoughts Causal Discovery) vor. Um zu verstehen, wie sie funktioniert, stellen Sie sich ein Team von drei Detektiven vor, die am selben Fall arbeiten, aber anstatt miteinander zu streiten, schreibt jeder gleichzeitig seine gesamte Theorie des Verbrechens auf ein Blatt Papier.

Der alte Weg (Pairwise oder Traversal): Frühere KI-Methoden waren wie Detektive, die immer nur zwei Hinweise gleichzeitig betrachteten („Verursacht A B?“) oder die die Geschichte Schritt für Schritt aufbauten und sich bei jedem Schritt sofort festlegten. Wenn sie früh einen Fehler machten, war die ganze Geschichte ruiniert, und sie konnten nicht mehr zurückgehen.
Der GoT-CD-Weg: Diese Methode generiert mehrere vollständige Karten gleichzeitig. Dann prüft ein strenger „Schiedsrichter“ (eine deterministische Scoring-Funktion) diese. Die besten Teile der besten Karten werden zusammengeführt, aber mit einer sehr wichtigen Regel: Man darf keine neue Verbindung erfinden, die kein Detektiv vorgeschlagen hat. Dies verhindert, dass die KI künstliche Beziehungen erfindet, nur weil sie plausibel klingen. Schließlich stellt das Team sicher, dass die Karte keine Schleifen enthält (man kann nicht haben, dass A verursacht B, was C verursacht, was wiederum A verursacht), wodurch sie in einen sauberen, einseitigen Straßenplan verwandelt wird, der als DAG (Directed Acyclic Graph) bezeichnet wird.

Das Team testete diese neue Methode gegen ältere, klassische mathematische Algorithmen und andere KI-Methoden anhand von fünf Datensätzen, darunter einer über die Alzheimer-Krankheit. Sie verwendeten eine feste Menge an Daten (100 Beobachtungen) und ein spezifisches KI-Modell (gpt-4o-mini), um ein ebenbürtiges Spielfeld zu gewährleisten.

Die große Entdeckung: Das „False Clean“-Zertifikat
Die überraschendste Erkenntnis ist nicht nur, dass GoT-CD bessere Karten zeichnet; es ist das, was passiert, wenn man diese Karten verwendet, um Fairness zu prüfen. Die Forscher konzentrierten sich auf einen Alzheimer-Datensatz, bei dem sie sicher wussten, dass es einen unfairen Pfad gab: Geschlecht → Gehirnvolumen → MOCA-Score (ein kognitiver Test). Sie wussten, dass das Geschlecht das Gehirnvolumen beeinflusst, was wiederum den Testergebnis beeinflusste.

Hier liegt der Clou:

Eine der älteren KI-Methoden (LLM-BFS) zeichnete eine Karte, die insgesamt recht gut aussah. Sie erreichte einen strukturellen Score (F1) von 0,649, was ordentlich ist.
Als sie diese Karte jedoch auf den unfairen Pfad prüften, fehlte dieser völlig. Die Karte zeigte keine Verbindung zwischen dem Geschlecht und dem Testergebnis.
Da der Pfad fehlte, meldete die Fairness-Prüfung ein Ergebnis von 0. Es sah aus wie ein „sauberes“ Zertifikat, das besagte: „Keine Unfairness erkannt!“
Aber das war eine Lüge. Die reale Unfairness war riesig (ein Wert von 0,572). Die KI fand die Voreingenommenheit nicht, weil sie die Straße vergessen hatte, auf der die Voreingenommenheit existierte. Es war nicht so, dass das System fair war; es war so, dass die Karte defekt war.

Im Gegensatz dazu zeichnete GoT-CD eine Karte, die nicht nur den besten strukturellen Score (0,757) hatte, sondern auch diesen spezifischen unfairen Pfad erfolgreich fand. Sie meldete die korrekte Richtung des Effekts und zeigte auf, dass die Voreingenommenheit tatsächlich vorhanden war.

Eine andere Methode, namens GES, fand zwar den Pfad, fügte aber so viele zusätzliche falsche Pfade hinzu, dass sie die Unfairness siebenmal größer erscheinen ließ, als sie eigentlich war (ein Wert von 4,034 statt 0,572).

Was das für Sie bedeutet

Das Paper legt nahe, dass wir nicht einfach einem „guten Score“ einer Karte vertrauen können, um zu sagen, ob ein System fair ist. Wenn die Karte die spezifische Straße fehlt, die zu einem voreingenommenen Ergebnis führt, wird die Fairness-Prüfung Ihnen selbstbewusst mitteilen, dass alles in Ordnung ist, selbst wenn es nicht so ist. Dies ist das, was die Autoren eine „False Clean“-Zertifizierung nennen.

Sie argumentieren, dass man, wenn man KI verwendet, um diese Karten für Dinge wie medizinische Entscheidungen oder Einstellungen zu erstellen, nicht nur auf die allgemeine Genauigkeit schauen sollte. Man muss spezifisch prüfen: „Hat die Karte den Pfad gefunden, der uns wichtig ist?“

Die Studie legt nahe, dass GoT-CD ein starker Kandidat ist, da es einen „Team von Denkern“-Ansatz nutzt, um die Karte zu erstellen, und so sicherstellt, dass es weder kritische Verbindungen übersieht noch falsche Verbindungen erfindet. Während die Ergebnisse auf Simulationen und spezifischen Datensätzen basieren (wie dem Alzheimer-Beispiel), ist die Lektion klar: In dem Wettlauf um eine faire KI reicht eine hübsche Karte nicht aus; man braucht die richtigen Straßen darauf gezeichnet, sonst zertifiziert man versehentlich ein voreingenommenes System als fair.

Technisches Resümee: GoT-CD und die Fragilität post-hoc pfadspezifischer Fairness-Audits

1. Problemstellung

Kausale Entdeckung wird zunehmend im klinischen Umfeld eingesetzt, um das mechanistische Schließen und Fairness-Audits von Vorhersagemodellen zu unterstützen. Es besteht jedoch eine kritische Lücke zwischen der Genauigkeit der strukturellen Entdeckung und der Zuverlässigkeit nachgeschalteter Fairness-Bewertungen. Pfadspezifische kontrafaktische Fairness-Estimanden sind relativ zu einem bereitgestellten kausalen Graphen definiert; sie hängen vollständig von der Existenz und Struktur gerichteter Pfade von einem geschützten Attribut ( $S$ ) zu einem Ergebnis ( $Y$ ) ab.

Aktuelle Evaluierungspraktiken für die kausale Entdeckung stützen sich auf aggregierte strukturelle Metriken (z. B. Präzision, Recall, F1, Structural Hamming Distance), die alle Kanten gleich gewichten. Diese Metriken versäumen es zu bestimmen, ob die spezifische Substruktur, die für ein Fairness-Audit erforderlich ist (der $S \to Y$ -Pfad), den Entdeckungsprozess übersteht. Infolgedessen kann eine Entdeckungsmethode wettbewerbsfähige strukturelle F1-Scores erzielen, aber dennoch den kritischen unfairen Pfad nicht rekonstruieren. Wenn ein solcher Pfad fehlt, meldet das Fairness-Audit einen sicheren Effekt von Null ( $PSE|_{\cdot}| = 0$ ), was von einem tatsächlich fairen Modell ununterscheidbar ist. Dies schafft ein „falsch-sauberes“ Zertifikat, bei dem strukturelle Auslassung als Fairness getarnt wird.

2. Methodik: GoT-CD

Die Autoren führen GoT-CD (Graph-of-Thoughts Causal Discovery) ein, eine Methode, die die kausale Entdeckung als ein Problem des vollständigen Graph-Reasoning statt als eine Sequenz lokaler Abfragen umformt. Im Gegensatz zu paarweisen Ansätzen (die Variablenpaare abfragen) oder Traversierungs-Ansätzen (die Knoten sequenziell erweitern), behandelt GoT-CD die Reasoning-Einheit als einen vollständigen Kandidaten-Kanten-Satz.

Die GoT-CD-Pipeline führt einen einzigen Durchlauf eines „Graph of Operations“ aus:

Generieren: Ein Large Language Model (LLM) wird mit Variablennamen, Beschreibungen und einem Domänen-Preamble gefüttert, um parallel $k$ distinkte Kandidaten-Graphen (Kanten-Sets) zu generieren.
Scoren: Eine deterministische, nicht-LLM-basierte Validitätsfunktion bewertet die Kandidaten. Sie bestraft nicht deklarierte Variablen und Selbstschleifen, belohnt gut geformte Kanten, wendet einen weichen Dichte-Prior an und fügt einen Bonus für Azyklizität hinzu.
KeepBestN: Die obersten $N$ Kandidaten (typischerweise $N=2$ ) werden beibehalten.
Aggregieren: Die beibehaltenen Kandidaten werden unter einer Hard-Union-Constraint zusammengeführt. Das Modell wird angewiesen, nur Kanten auszuge-geben, die in mindestens einem der Eingangs-Kandidaten vorkamen. Dies verhindert, dass das Modell „plausibel klingende“ Kanten synthetisiert, die keinem der Reasoning-Zweige vorgeschlagen wurden.
Verbessern: Der zusammengeführte Graph wird verfeinert. Das Modell darf neue Kanten nur dann einführen, wenn diese keine Zyklen mit dem bereits akzeptierten Kern bilden.
Greedy Projection: Ein abschließender deterministischer Schritt erzwingt Azyklizität, indem er Kanten durchläuft und sie nur dann beibehält, wenn sie keinen gerichteten Zyklus mit zuvor behaltenen Kanten bilden. Dies stellt sicher, dass der Output immer ein gerichteter azyklischer Graph (DAG) ist.

Die Methode verwendet ein Locked-Protokoll mit $n=100$ Beobachtungen und das gpt-4o-mini-Backbone.

3. Zentrale Beiträge

Das Paper leistet drei primäre Beiträge:

GoT-CD Algorithmus: Eine Methode zur kausalen Entdeckung, bei der die Reasoning-Einheit ein vollständiger Kandidaten-Kanten-Satz ist, die parallele Generierung, deterministisches Scoring und eine Hard-Union-Constraint nutzt, um die Erfindung von Kanten zu verhindern und gleichzeitig Azyklizität zu erzwingen.
Umfassendes Benchmarking: Ein Vergleich von GoT-CD gegen vier klassische Baselines (PC, GES, NOTEARS, DAGMA-linear) und drei LLM-Baselines (Pairwise, LLM-BFS, GoT-CD-BFS) über fünf Benchmarks hinweg (Asia, Child, Alzheimer's, COVID-Respiratory, Sweden-Traffic).
Post-hoc Pfadspezifisches Fairness-Audit: Ein Evaluierungsrahmen, der auf den Alzheimer's-Benchmark angewendet wird (wo der Ground-Truth-unfaire Pfad $Sex \to Brain Volume \to MOCA Score$ ist), um Methoden nicht nur auf den strukturellen F1-Score, sondern auf die wortgetreue Rekonstruktion des spezifischen $S \to Y$ -Pfades zu bewerten.

4. Ergebnisse

Unter einem Locked- $n=100$ -Protokoll:

Strukturelle Performance: GoT-CD produziert auf allen fünf Benchmarks valide DAGs. Es erreicht den besten DAG-validen F1 unter den LLM-Methoden auf Asia (0.750), Alzheimer's (0.757) und COVID-Respiratory (0.688) und übertrifft LLM-BFS auf vier von fünf Datensätzen. Es konkurriert günstig mit klassischen Methoden, obwohl Continuous-Relaxation-Methoden (NOTEARS, DAGMA) auf dem linearen-Gaußschen Sweden-Traffic-Datensatz dominieren.
DAG-Validität: Im Gegensatz zu PC (zyklisch auf allen Datensätzen) und GES (zyklisch auf vier), liefert GoT-CD (und GoT-CD-BFS) konsistent DAGs zurück und vermeidet so die Notwendigkeit eines heuristischen Cycle-Breaking vor der Fairness-Analyse.
Fairness-Fidelity (Alzheimer's Benchmark):
- GoT-CD: Rekonstruiert den Ground-Truth-unfairen Pfad mit dem korrekten Vorzeichen des Effekts ( $TE_{lin} = -0.580$ vs. Benchmark $-0.572$) und führt beim strukturellen F1.
- LLM-BFS: Trotz eines wettbewerbsfähigen strukturellen F1 (0.649) findet es keinen einzigen $S \to Y$ -Pfad. Folglich berichtet es einen $PSE|_{\cdot}| = 0$ und produziert ein falsch-sauberes Fairness-Zertifikat.
- GES: Rekonstruiert den unfairen Pfad, bläht aber die gesamte Pfadmasse um mehr als das Siebenfache auf ( $PSE|_{\cdot}| = 4.034$ ) aufgrund von acht zusätzlichen, spuriösen Routen.
- Andere Methoden: PC, NOTEARS, DAGMA-linear und GoT-CD-BFS finden den $S \to Y$ -Pfad alle nicht und melden Effekte von Null.

5. Bedeutung und Behauptungen

Das Paper argumentiert, dass strukturelle Treue nicht gleichbedeutend mit Fairness-Treue ist. Eine Methode kann strukturell genau sein (hoher F1), aber dennoch daran scheitern, die spezifischen Kanten zu rekonstruieren, die für ein Fairness-Audit erforderlich sind, was zu sicheren, aber falschen „fairen“ Schlussfolgerungen führt.

Die Autoren behaupten, dass Pipelines, die die kausale Entdeckung mit pfadspezifischer Fairness verknüpfen, folgende Punkte erfüllen müssen:

Pfad-Rekonstruktion melden: Neben der Fairness-Schätzung müssen Pipelines explizit berichten, ob die kritische $S \to Y$ -Substruktur rekonstruiert wurde.
Entdeckungsmetriken neu bewerten: Entdeckungsmethoden, die für Fairness-Pipelines bestimmt sind, sollten auf den Kanten bewertet werden, von denen die nachgeschaltete Analyse abhängt, anstatt nur auf aggregierter struktureller Übereinstimmung.
Globales Reasoning nutzen: Die Ergebnisse legen nahe, dass globales Reasoning (GoT) gegenüber lokalem Traversal (BFS) oder paarweiser Abfrage überlegen ist, um fairness-relevante Strukturen zu bewahren, da es die „Edge-Flooding“-Probleme von paarweisen Methoden und die „unwiderrufliche Fehlerfortpflanzung“ von Traversal-Methoden vermeidet.

Das Paper schließt mit der Feststellung, dass LLM-Priors effektiv auf wissensreichen, kompakten Graphen (wie Alzheimer's) sind, aber statistische Methoden (die bei linearen-Gaußschen Daten exzellieren) ergänzen, statt sie zu ersetzen, und dass zukünftige Arbeiten score-gesteuerte Varianten und fairness-bewusste Entdeckungsziele untersuchen sollten.