Do-Calculus Interventions in Predictive Coding Networks: Formal Correspondence, Empirical Validation, and Architectural Prescriptions for Clinical Causal AI

Die Kernidee: Vorhersagen vs. Handeln

Stellen Sie sich vor, Sie sind ein Arzt, der lernen möchte, wie man Patienten behandelt.

• Standard-KI (Der „Beobachter“): Diese KI ist wie ein Student, der nur die Welt beobachtet. Sie sieht, dass Patienten, die Medikament A nehmen, meistens gesund werden. Sie lernt das Muster: Medikament A = Gutes Ergebnis. Aber sie versteht nicht das Warum. Wenn man sie fragt: „Was passiert, wenn wir einen Patienten zwingen, Medikament A zu nehmen?“, könnte sie verwirrt sein, weil sie noch nie eine Situation gesehen hat, in der ein Arzt das Medikament erzwungen hat; sie hat nur Patienten gesehen, die es selbst gewählt oder aufgrund ihrer spezifischen Symptome verschrieben bekommen haben.
• Die neue KI (Der „Intervenierende“): Dieses Paper stellt eine neue Art von KI auf Basis von Predictive Coding vor. Denken Sie bei dieser KI an einen Wissenschaftler, der ein mentales Modell davon aufbaut, wie die Welt funktioniert. Sie merkt sich nicht nur Muster; sie simuliert Ursache und Wirkung.

Die Forschungsfrage lautet: Kann diese „Wissenschaftler“-KI „Was wäre wenn?“-Fragen (Interventionen) besser beantworten als die „Beobachter“-KI?

Der Kernmechanismus: Der „Clamp and Cut“-Trick

Das Paper schlägt einen speziellen Trick vor, um die KI wie einen Wissenschaftler denken zu lassen.

1. Der Aufbau: Stellen Sie sich vor, die KI hat ein Netzwerk von Ideen, das wie ein Stammbaum verbunden ist. Obere Ideen (wie „Genetik“) beeinflussen mittlere Ideen (wie „Symptome“), welche wiederum untere Ideen (wie „Behandlung“) beeinflussen.
2. Das Problem: Im normalen Leben, wenn man ein Symptom sieht, aktualisiert das Gehirn seine Vermutung über die Ursache. Wenn man eine Behandlung sieht, aktualisiert das Gehirn seine Vermutung über die Ursache.
3. Der Trick (Do-Calculus): Um eine Intervention zu simulieren (wie das Erzwingen einer Medikamenteneinnahme), sagt das Paper, dass man zwei Dinge tun muss:
   • Clamp (Festsetzen): Man fixiert den „Behandlungs“-Knoten auf einen bestimmten Wert (z. B. „Nimmt Medikament A“).
   • Cut (Trennen): Man unterbricht die Verbindung von den „Symptomen“ zur „Behandlung“.

Die Analogie:
Stellen Sie sich ein Puppentheater vor.

• Normale KI: Der Puppenspieler (Symptome) zieht an den Fäden, und die Puppe (Behandlung) bewegt sich. Die Bewegung der Puppe verrät dem Publikum, was der Puppenspieler gerade macht.
• Intervenierende KI: Sie greifen nach dem Arm der Puppe und zwingen sie dazu zu winken (Clamp). Dann schneiden Sie den Faden durch, der den Arm der Puppe mit der Hand des Puppenspielers verbindet (Cut). Jetzt winkt die Puppe, aber das hat nichts damit zu tun, dass der Puppenspieler ihre Hand bewegt hat. Die KI erkennt: „Die Puppe winkt, aber nicht wegen des Signals des Puppenspielers. Sondern weil ich es erzwungen habe.“

Das Paper beweist mathematisch (Proposition 1), dass man durch dieses „Clamp and Cut“ in ihrer spezifischen KI-Architektur die mathematische Definition einer Intervention (Pearls do-Operator) perfekt nachahmt.

Die Experimente: Funktioniert es tatsächlich?

Die Autoren testeten dies in drei verschiedenen Szenarien:

1. Der Spielzeug-Test (Der „Proof of Concept“)
Sie bauten eine winzige, einfache Welt mit drei Knoten: Diagnose $\rightarrow$ Symptom $\rightarrow$ Behandlung.

• Ergebnis: Als sie das „Symptom“ erzwangen und die Verbindung von der „Diagnose“ unterbrachen, ignorierte die KI korrekt die übliche Verbindung zwischen Symptomen und Diagnose. Es bewies, dass die Mathematik in einer einfachen, kontrollierten Umgebung exakt so funktioniert wie vorhergesagt.

2. Der Realitätscheck (Der „Baby-Gesundheits“-Datensatz)
Sie nutzten einen Datensatz über die Gesundheit von Säuglingen (IHDP), um zu sehen, ob die KI vorhersagen kann, was passiert, wenn ein Baby eine bestimmte Behandlung erhält, obwohl die Trainingsdaten nur zeigten, was tatsächlich passiert ist.

• Der Konkurrent: Eine Standard-KI (MLP), die einfach nur Muster auswendig lernt.
• Das Ergebnis: Die Standard-KI machte riesige Fehler bei „Was wäre wenn?“-Fragen. Die neue Predictive-Coding-KI machte signifikant weniger Fehler.
• Der Haken: Die neue KI war bei der Vorhersage dessen, was in der Vergangenheit geschah (Beobachtungsdaten), tatsächlich schlechter als die Standard-KI. Sie war jedoch viel besser darin, die Zukunft unter neuen Bedingungen vorherzusagen.
• Die Lehre: Gut darin zu sein, die Vergangenheit auswendig zu lernen, bedeutet nicht, dass man gut darin ist, die Zukunft vorherzusagen, wenn sich die Regeln ändern.

3. Das „Geheimrezept“ (Ablationsstudien)
Die Autoren versuchten herauszufinden, warum die neue KI besser funktionierte. Sie fanden einen Hauptfaktor: die Latente Dimension (denken Sie an die „Größe des Kurzzeitgedächtnisses der KI“).

• Kleines Gedächtnis (Gut): Wenn das Gedächtnis der KI klein ist, kann sie nicht alle chaotischen, verwirrenden Details der Vergangenheit auswendig lernen. Sie ist gezwungen, die einfachen, grundlegenden Regeln von Ursache und Wirkung zu lernen. Dies machte sie exzellent in Interventionen.
• Großes Gedächtnis (Schlecht): Wenn das Gedächtnis riesig ist, lernt die KI jede kleine Zufälligkeit und jedes Detail auswendig. Dann wird sie verwirrt, wenn sich die Regeln ändern.
• Analogie: Ein Schüler mit einem kleinen Notizbuch ist gezwungen, nur die wichtigsten Gesetze der Physik aufzuschreiben. Ein Schüler mit einem riesigen Lehrbuch versucht vielleicht, jedes spezifische Beispiel auswendig zu lernen, was ihn verwirrt, sobald ein neues Problem auftaucht.

4. Der Krankenhaus-Test (MIMIC-IV)
Sie testeten dies mit echten Intensivstations-Daten (MIMIC-IV).

• Das Problem: In diesem kleinen Datensatz hatte die KI Schwierigkeiten, da die „Behandlung“ in ihrem Design nicht explizit mit dem „Ergebnis“ verbunden war.
• Die Lösung: Sie entwickelten PCNetworkV3, das der KI eine direkte „Verdrahtung“ von der Behandlung zum Ergebnis gab, wodurch der Flaschenhals im Gedächtnis umgangen wurde.
• Ergebnis: Diese Version konnte den wahren Effekt der Behandlung (Average Treatment Effect) mit nur 8,3 % Fehler berechnen, während die vorherige Version völlig versagte.

Zusammenfassung der Ergebnisse

1. Die Theorie: Man kann ein Predictive-Coding-Netzwerk in eine kausale Denkmaschine verwandeln, indem man eine Variable festsetzt („clamp“) und ihre eingehenden Fehlersignale kappt („cut“).
2. Der Beweis: Dies funktioniert perfekt in einfachen mathematischen Modellen und signifikant besser als Standard-KI bei realen Daten, wenn es um die Vorhersage von „Was wäre wenn“-Szenarien geht.
3. Die Design-Regel: Um eine KI gut in kausalem Denken zu machen, sollte man sie nicht so groß wie möglich machen. Man sollte ihr „Gedächtnis“ (latente Dimension) klein genug halten, damit sie gezwungen ist, die Regeln der Welt zu lernen, anstatt nur die Beispiele auswendig zu lernen.
4. Die Architektur: Für klinische Daten benötigt die KI einen direkten Pfad von der „Behandlung“ zum „Ergebnis“, um bei kleinen Datensätzen korrekt zu arbeiten.

Was das Paper NICHT behauptet:

• Es behauptet nicht, dass diese KI bereit ist, morgen Patienten zu behandeln.
• Es behauptet nicht, dass dies für alle Arten von medizinischen Daten (wie Bilder oder Zeitreihen) funktioniert.
• Es behauptet nicht, dass dies der einzige Weg für kausale KI ist, sondern nur, dass diese spezifische, biologisch inspirierte Architektur einen einzigartigen Vorteil bietet.

Kurz gesagt: Das Paper zeigt, dass wir, indem wir eine KI bauen, die die Fehlerprognose des Gehirns nachahmt, und dann während der Tests bestimmte Eingaben „ignorieren“ lassen, eine Maschine erschaffen können, die überraschend gut darin ist, auf die Frage „Was passiert, wenn wir das ändern?“ zu antworten – vorausgesetzt, wir halten ihr internes Gedächtnis klein und fokussiert.