🤖 AI

Why LLMs Fail at Causal Discovery and How Interventional Agents Escape

Dieser Artikel beweist, dass überwachte und präferenzbasierte Lernmethoden aufgrund eines Kernerstörungstheorems grundsätzlich bei der kausalen Entdeckung versagen, und schlägt Agentic Causal Bayesian Optimization (A-CBO) als eine nachweisbar konvergente Alternative vor, die ein eingefrorenes Sprachmodell als Interventionsorakel innerhalb einer externen Bayesschen Schleife nutzt, um bestehende Benchmarks zu übertreffen.

Ursprüngliche Autoren: Amartya Roy, Sonali Parbhoo

Veröffentlicht 2026-05-28

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Amartya Roy, Sonali Parbhoo

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Warum KI bei „kausalen" Rätseln stecken bleibt

Stellen Sie sich vor, Sie versuchen herauszufinden, wie eine Maschine funktioniert, indem Sie sie einfach nur beim Laufen beobachten. Sie sehen, dass eine Glocke läutet, wenn eine rote Lampe aufleuchtet. Sie sehen auch, dass die Glocke läutet, wenn eine blaue Lampe aufleuchtet.

Nun müssen Sie die Verkabelung im Inneren erraten:

Szenario A: Die rote Lampe löst einen Schalter aus, der die Glocke trifft.
Szenario B: Die blaue Lampe löst einen Schalter aus, der die Glocke trifft.

Wenn Sie nur die Maschine beobachten (beobachtende Daten), sehen beide Szenarien exakt gleich aus. Die Glocke läutet jedes Mal, wenn eine Lampe aufleuchtet. Dies nennt das Papier ein „Near-Miss"-Problem. Zwei völlig unterschiedliche interne Strukturen (kausale Graphen) können exakt dasselbe äußere Verhalten erzeugen.

Die Hauptentdeckung des Papiers:
Die Autoren beweisen, dass Large Language Models (LLMs) – die Gehirne hinter Tools wie ChatGPT – hier einen fundamentalen mathematischen Blindspot haben. Selbst wenn man sie auf Millionen von Beispielen trainiert (Fine-Tuning) oder sie auffordert, sehr intensiv nachzudenken (Prompting), können sie nicht zuverlässig zwischen diesen „Near-Miss"-Szenarien unterscheiden.

Die Analogie: Die „unscharfe Foto"-Grenze
Stellen Sie sich ein LLM als Fotografen vor, der ein Foto einer komplexen Maschine macht.

Das Problem: Wenn die Maschine größer und komplexer wird (mehr Variablen), sehen die „Near-Miss"-Szenarien im Foto zu 99,9 % identisch aus. Der winzige Unterschied, der Ihnen sagt, welcher Draht welcher ist, ist so klein, dass er im Unschärfebereich verloren geht.
Die Mathematik: Das Papier beweist, dass ein LLM, um diesen winzigen Unterschied zu erkennen, sein internes Gedächtnis unendlich „strecken" müsste. Da es das nicht kann, rät es einfach. Je schwieriger die Rätsel werden, desto mehr bricht die Leistung der KI ein, oft bis auf das Niveau des zufälligen Rätens.

Die Lösung: Der „Agent" und das „Orakel"

Da die KI das gesamte Rätsel nicht auf einmal lösen kann, haben die Autoren ein neues System namens A-CBO (Agentic Causal Bayesian Optimization) entwickelt.

Anstatt die KI zu fragen: „Welche dieser beiden komplexen Maschinen ist die echte?" (wobei sie scheitert), ändern sie das Spiel. Sie nutzen die KI als spezialisierten Helfer und einen mathematischen Detektiv als Entscheider.

So funktioniert es, Schritt für Schritt:

1. Das eingefrorene Orakel (Die KI)

Die KI ist „eingefroren", was bedeutet, dass sie nicht neu trainiert oder gezwungen wird, neue Regeln zu lernen. Sie fungiert wie ein wahrheits sagendes Orakel.

Die Frage: Anstatt die KI zu bitten, das gesamte Rätsel zu lösen, stellt das System ihr einfache, binäre Fragen: „Wenn ich diesen spezifischen roten Knopf drücke, läutet dann die Glocke?"
Warum es funktioniert: Selbst wenn die KI den Unterschied zwischen den beiden komplexen Maschinen nicht erkennen kann, ist sie sehr gut darin, einfache Ursache-Wirkungs-Fragen zu beantworten. Einen Knopf zu drücken und ein Ergebnis zu sehen, ist für die KI leicht vorherzusagen.

2. Die Bayessche Schleife (Der Detektiv)

Dies ist der Teil, der die schwere Arbeit leistet. Es ist eine mathematische Schleife, die außerhalb der KI läuft.

Die Strategie: Der Detektiv beginnt mit einer Liste aller möglichen Maschinenkonstruktionen.
Die Aktion: Er wählt diejenige Frage aus, die die meisten falschen Antworten eliminiert. Er fragt die KI: „Wenn ich Knopf A drücke, läutet dann die Glocke?"
Das Update:
- Wenn die KI „Ja" sagt, streicht der Detektiv jeden Maschinenentwurf durch, bei dem Knopf A die Glocke nicht läuten lassen würde.
- Wenn die KI „Nein" sagt, streicht er die Entwürfe durch, bei denen sie es tun würde.
Das Ergebnis: Mit jeder einfachen Frage schrumpft die Liste der Möglichkeiten. Der Detektiv braucht nicht, dass die KI perfekt ist; er braucht nur, dass die KI etwas besser ist als zufälliges Raten.

Warum dies ein Game-Changer ist

Das Papier zeigt, dass diese Methode dort funktioniert, wo alles andere versagt.

Kein Training erforderlich: Die KI muss nicht auf Millionen neuer Beispiele neu trainiert werden. Sie nutzt ihr bestehendes Wissen, um einfache Fragen zu beantworten.
Es skaliert: Je schwieriger die Rätsel werden (mehr Variablen, komplexere Maschinen), desto mehr scheitern die alten Methoden (Fine-Tuning) kläglich. Aber das A-CBO-System wird immer besser. Es kann Rätsel mit 24 Variablen lösen, die selbst die fortschrittlichsten feinabgestimmten Modelle in die Knie zwingen.
Der „faule" Vorteil: Das System hält die KI in ihrem „faulen" Zustand (wo sie einfach das nächste Wort vorhersagt), verlagert aber die Entscheidungsfindung an einen Ort, wo die mathematischen Grenzen der KI keine Anwendung finden.

Zusammenfassung in einem Satz

Das Papier beweist, dass KI mathematisch unfähig ist, komplexe, einander ähnliche Ursachen allein zu unterscheiden, aber indem wir die KI in einen einfachen „Ja/Nein"-Fragesteller verwandeln und einen mathematischen Zyklus die eigentliche Detektivarbeit übernehmen lassen, können wir diese Rätsel perfekt lösen, ohne die KI jemals neu trainieren zu müssen.

Technisches Fazit: Warum LLMs bei der kausalen Entdeckung scheitern und wie interventional Agenten diesem entkommen

Problemstellung
Die kausale Entdeckung – die Rekonstruktion kausaler Graphstrukturen aus statistischen Daten – ist grundlegend für wissenschaftliches Schlussfolgern, bleibt jedoch eine offene Herausforderung für Large Language Models (LLMs). Während LLMs bei natürlichen Sprachaufgaben hervorragend abschneiden, zeigen aktuelle Benchmarks (z. B. Corr2Cause), dass sie nicht zuverlässig zwischen kausalen Graphen unterscheiden können, die ähnliche beobachtende Daten erzeugen. Insbesondere haben Modelle Schwierigkeiten mit „Near-Miss"-Hypothesen: Gerichtete azyklische Graphen (DAGs), die zu verschiedenen Markov-Äquivalenzklassen gehören, aber nahezu identische Aussagen zur bedingten Unabhängigkeit produzieren. Bestehende Ansätze, einschließlich Prompting-Strategien, überwachtem Fine-Tuning (SFT), direkter Präferenzoptimierung (DPO) und In-Context-Learning (ICL), zeigen eine empirische Verschlechterung mit zunehmender Graphkomplexität, doch der theoretische Grund für dieses Versagen wurde bisher nicht ermittelt.

Methodik und Theoretischer Rahmen
Die Autoren formalisieren das Versagen von LLMs bei der kausalen Entdeckung als Kern-Obstruktionstheorem.

Kern-Obstruktionstheorem (Theorem 1): Die Arbeit beweist, dass SFT, DPO und ICL alle Prädiktoren hervorbringen, die innerhalb eines reproduzierenden Kernel-Hilbertraums (RKHS) mit beschränkten Normen operieren (das „faule" oder NTK-Regime). Für „Near-Miss"-Paare kausaler Hypothesen (z. B. eine Kette $V_1 \to V_2 \to V_3$ versus eine Gabel $V_1 \leftarrow V_2 \to V_3$ ) sind die Tokens der beobachtenden Daten nahezu identisch, was zu einer Kernel-Ähnlichkeit führt, die gegen 1 strebt ( $\delta \to 0$ ).
- Das Theorem zeigt, dass zur Trennung dieser Hypothesen mit einem Score-Margin $\gamma$ die Norm des Gewichtsvektors des Prädiktors ( $B$ ) so wachsen muss, dass $B \geq \gamma / (\kappa\sqrt{2\delta})$ gilt.
- Mit zunehmender Graphkomplexität ( $d$ ) skaliert $\delta$ als $O(1/d^2)$ . Folglich divergiert die erforderliche Norm $B$ gegen Unendlich. Da Trainingsmethoden wie SFT und DPO unter der Beschränkung beschränkter Normen (faules Training) operieren, sind sie geometrisch unfähig, Near-Miss-Hypothesen mit wachsender Komplexität zu unterscheiden.
Agentic Causal Bayesian Optimization (A-CBO): Um dieser Obstruktion zu entkommen, schlagen die Autoren einen Rahmen vor, der den diskreten Entscheidungsprozess außerhalb des RKHS des LLMs verlagert.
- Interventioneller Oracle: Ein eingefrorener LLM fungiert ausschließlich als Oracle, das binäre interventional Abfragen beantwortet (z. B. „Ändert sich $V_j$ unter $do(V_i=v)$ ?"). Lemma 2 beweist, dass, während beobachtende Daten Near-Misses sein mögen, interventional Antworten durch einen konstanten Margin $\rho$ kernelgetrennt sind, der unabhängig von $\delta$ ist.
- Externer Bayesscher Loop: Ein externer Agent hält eine Wahrscheinlichkeitsverteilung über Kandidatengraphen im Wahrscheinlichkeits-Simplex $\Delta^{n-1}$ vor. Er verwendet informations-theoretische Bewertung (Informationsgewinn), um die diskriminativste Intervention auszuwählen, fragt den LLM ab und aktualisiert die Glaubensverteilung mittels der Bayes-Regel.
- Konvergenz: Da die Entscheidungslogik im Simplex und nicht im RKHS operiert, ist die Konvergenzrate unabhängig vom Near-Miss-Parameter $\delta$ . Theorem 2 beweist, dass A-CBO in $O(\log n)$ Runden zum korrekten Graphen konvergiert, sofern der wahre Graph interventionell unterscheidbar ist.

Hauptbeiträge

Theoretischer Nachweis des Versagens: Die Arbeit stellt fest, dass die Unfähigkeit von LLMs, Near-Miss-kausale Hypothesen zu trennen, eine fundamentale geometrische Obstruktion ist, die Kernel-artigen Prädiktoren (SFT, DPO, ICL) im faulen Regime innewohnt, und keine Begrenzung des Modellumfangs oder des Datenvolumens darstellt.
A-CBO-Rahmen: Die Einführung der Agentic Causal Bayesian Optimization, die die Rolle des LLMs (Beantwortung lokaler binärer Abfragen) von der kausalen Entscheidung (globale Hypothesenauswahl) entkoppelt und thereby die Kern-Obstruktion umgeht.
Erweiterter Benchmark: Die Erstellung von Extended Corr2Cause, einem neuen Benchmark, der von 7 auf 24 Variablen skaliert und 18.000 Teststichproben umfasst, entwickelt, um kausale Diskriminierung im Maßstab zu testen, wo Near-Miss-Lücken auf $O(1/d^2)$ schrumpfen.

Experimentelle Ergebnisse

Corr2Cause (Original): A-CBO erreicht oder übertrifft die Leistung von Fine-Tuning-Baselines (z. B. LLaMA-7B FT) ohne jegliche Gradienten-Updates. Beispielsweise erzielte ein High-Tier-A-CBO-Modell (GLM-5.1) einen F1-Wert von 93,2 und übertraf damit das Fine-Tuning von LLaMA-7B (92,0).
Extended Corr2Cause (d=7–24):
- Skalierbarkeit: Fine-Tuning-Modelle (SFT und DPO) verschlechtern sich katastrophal mit zunehmender Graphgröße und fallen auf nahezu zufällige Genauigkeit (35,1 % für SFT bei $d=21-24$ ). Im Gegensatz dazu behält A-CBO über alle Graphgrößen hinweg eine robuste Leistung bei (83,2 % Genauigkeit für High-Tier-Modelle).
- Wachsende Vorteile: Die Leistungslücke zwischen A-CBO und Fine-Tuning-Baselines wächst monoton mit der Graphkomplexität. Bei den schwierigsten Graphen ( $d=21-24$ ) übertrifft A-CBO SFT um +44,7 Prozentpunkte.
- Ablation: Der agentische Loop selbst treibt die Leistung voran. Die Anwendung von A-CBO auf Zero-Shot-Modelle ergibt massive Gewinne (z. B. +59,3 pp für Qwen3-30B), was bestätigt, dass die Verbesserung aus dem architektonischen Wandel und nicht aus der rohen Modellfähigkeit stammt.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass interventional Abfragen nicht lediglich eine Heuristik sind, sondern ein beweisbar notwendiges und hinreichendes Entkommen aus der RKHS-Obstruktion. Durch die Beschränkung des LLMs auf eine nicht-dezisionale Oracle-Rolle und die Delegierung der Hypothesendiskriminierung an einen externen Bayesschen Loop erreicht A-CBO eine zuverlässige kausale Entdeckung im Maßstab, ohne dass das Modell neue Repräsentationen lernen oder das Regime des faulen Trainings verlassen muss. Diese Arbeit liefert eine prinzipielle Grundlage für LLM-Agenten in Wissenschaft und Politik und argumentiert, dass echte kausale Intelligenz erfordert, über korrelationsbasierte Überwachung hinauszugehen hin zu interventionalen Schlussfolgerungsstrukturen, die die geometrischen Grenzen aktueller Lernparadigmen respektieren.