🤖 machine learning

Identifiable Multimodal Causal Representation Learning under Partial Latent Sharing

Dieser Artikel liefert komponentenweise Identifizierbarkeitsgarantien für kausale latente Repräsentationen in multimodalen Daten mit teilweise geteilten Strukturen unter flexiblen, nicht-parametrischen Annahmen und stellt ein differentiables, auf dem Wasserstein-Abstand basierendes Modul vor, um diese Strukturen effektiv wiederherzustellen, wobei es in umfangreichen Experimenten state-of-the-art-Methoden übertrifft.

Ursprüngliche Autoren: Manal Benhamza, Marianne Clausel, Myriam Tami

Veröffentlicht 2026-05-20

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Manal Benhamza, Marianne Clausel, Myriam Tami

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der herausfinden soll, was an einem Tatort passiert ist, aber Sie haben keine einzelne, klare Videoaufnahme. Stattdessen haben Sie drei verschiedene Zeugen: einer sah das Ereignis durch eine Fischauge-Linse (eine verzerrte, weite Ansicht), ein anderer hörte es durch eine gedämpfte Wand (einen spezifischen, begrenzten Klang), und ein dritter sah es durch ein getöntes Fenster (eine farbige, gefilterte Ansicht).

Ihr Ziel ist es, die wahren Ereignisse (die „latenten Variablen") zu rekonstruieren und zu verstehen, wie sie einander verursacht haben (die „kausale Struktur"), obwohl kein einzelner Zeuge das gesamte Bild perfekt gesehen hat.

Diese Arbeit stellt eine neue Methode vor, um genau das zu tun, jedoch mit Computerdaten anstelle von Tatorten. Hier ist die Aufschlüsselung in einfachen Worten:

1. Das Problem: Das „Puzzle" mit fehlenden Teilen

In der Welt der Künstlichen Intelligenz versuchen wir oft, die „versteckten Ursachen" hinter einer Reihe von unordentlichen Daten zu finden.

Die Herausforderung: Normalerweise gehen KI-Modelle davon aus, dass man mit genügend Daten die versteckten Ursachen herausfinden kann. Aber in der realen Welt sind Daten „multimodal" (sie kommen in verschiedenen Formen vor, wie ein MRT-Scan, ein Bluttest und ein genetischer Bericht).
Der Twist: Diese verschiedenen Datenquellen zeigen nicht alle dasselbe. Einige Teile der Wahrheit sind geteilt (wie Entzündungen, die sowohl in einem MRT als auch in einem Bluttest auftreten), während andere Teile nur einer einzigen Quelle eigen sind (wie ein spezifischer genetischer Marker, der nur im Bluttest zu sehen ist).
Der alte Weg: Bisherige Methoden versuchten, dies zu lösen, indem sie annahmen, die Datenquellen seien perfekte Spiegelbilder voneinander, oder indem sie die KI zwangen, auf Basis strenger, unrealistischer Regeln zu raten. Wenn die Regeln auch nur geringfügig falsch waren, lernte die KI die falsche „Wahrheit".

2. Die Lösung: Ein „intelligenter Übersetzer" mit einem speziellen Werkzeug

Die Autoren schlagen eine neue Art vor, die KI zu lehren, die „geteilten" Geheimnisse von den „privaten" Geheimnissen zu trennen, ohne strenge Regeln oder zusätzliche menschliche Hilfe zu benötigen.

Stellen Sie sich ihre Methode als einen intelligenten Übersetzer mit einem speziellen Wasserstein-Modul (ein ausgeklügeltes mathematisches Werkzeug) vor.

Der Übersetzer (Das Modell): Er betrachtet die unordentlichen Daten aus allen Quellen (das MRT, der Bluttest usw.) und versucht, eine saubere, organisierte Liste der versteckten Ursachen zu erstellen.
Das spezielle Werkzeug (Das Wasserstein-Modul): Dies ist das Geheimnis der Arbeit. Stellen Sie sich vor, Sie haben zwei Stapel Lego-Steine aus verschiedenen Schachteln. Einige Steine sind identisch (geteilt), und einige sind einzigartig für jede Schachtel. Dieses Werkzeug fungiert wie ein superschlauer Sortierer. Es berechnet die „Distanz" zwischen den Steinen und stellt fest: „Hey, dieser rote Stein in Schachtel A ist tatsächlich derselbe wie dieser rote Stein in Schachtel B."
- Dies geschieht durch die Lösung eines „Transportproblems" (das Bewegen von Gegenständen von einem Stapel zum anderen mit dem geringsten Aufwand).
- Entscheidend ist, dass dies automatisch geschieht. Es braucht keinen Menschen, der sagt: „Diese beiden sind gleich." Es findet es selbst heraus.

3. Der große Durchbruch: „Komponentenweise" Klarheit

Die wichtigste Behauptung dieser Arbeit betrifft die Identifizierbarkeit.

Die alte Garantie (Blockweise): Bisherige Methoden konnten nur versprechen: „Wir haben eine Gruppe von Steinen gefunden, die vielleicht die richtigen sind, aber wir können Ihnen nicht genau sagen, welcher Stein welcher ist." Es ist wie zu sagen: „Wir haben den roten Haufen gefunden", aber nicht zu wissen, welcher spezifische rote Stein der Schlüssel ist.
Die neue Garantie (Komponentenweise): Diese Arbeit beweist, dass ihre Methode jede einzelne versteckte Ursache individuell identifizieren kann.
- Sie können sagen: „Diese spezifische Zahl in unserem Code repräsentiert exakt das Entzündungsniveau", und „Diese andere Zahl repräsentiert exakt das genetische Risiko."
- Sie können dies tun, selbst wenn die Daten „unvollständig" sind (was bedeutet, dass die Datenquellen mehr Informationen haben als die versteckten Ursachen, was im echten Leben häufig vorkommt, wie bei einem hochauflösenden Foto eines einfachen Objekts).

4. Wie sie es bewiesen haben (Die „Sparsity"-Regel)

Um sicherzustellen, dass die KI nicht einfach zufällig rät, verwendeten die Autoren eine Regel namens kausale strukturelle Sparsity (Sparsamkeit).

Die Analogie: Stellen Sie sich einen Stammbaum vor. In einem echten Stammbaum haben die meisten Menschen nur wenige direkte Eltern und Kinder. Sie haben keine Verbindung zu jedem in der Familie.
Die Arbeit geht davon aus, dass die versteckten Ursachen ähnlich sind: Sie beeinflussen nur wenige andere Dinge, nicht alles. Indem die KI gezwungen wird, nach diesen „spärlichen" (einfachen) Verbindungen zu suchen, beweist die Mathematik, dass die KI muss die korrekten versteckten Ursachen finden, damit die Daten passen.

5. Die Ergebnisse: Funktioniert es?

Das Team testete ihren „intelligenten Übersetzer" auf:

Synthetischen Daten: Ausgedachte Zahlen, bei denen sie die Antwort im Voraus kannten.
Realistischen Daten: 3D-Bilder von Objekten und Textbeschreibungen sowie sogar simulierte Gendaten.

Das Ergebnis: Ihre Methode schlug konsequent die aktuellen „State-of-the-Art" (SOTA)-Methoden. Sie war besser darin:

Die exakten versteckten Zahlen wiederherzustellen (hohe Korrelation).
Die korrekten Ursache-Wirkungs-Beziehungen zwischen den versteckten Variablen zu ermitteln.
Fälle zu handhaben, in denen verschiedene Datenquellen nur einige Informationen teilten, nicht alle.

Zusammenfassung

Diese Arbeit stellt ein neues mathematisches Rahmenwerk vor, das es der KI ermöglicht, verschiedene Datentypen (wie Bilder, Text oder medizinische Tests) zu betrachten, herauszufinden, welche Teile der Daten dieselben versteckten Ursachen teilen und welche Teile einzigartig sind. Es verwendet ein cleveres „Sortier"-Werkzeug, um diese geteilten Teile automatisch auszurichten. Am wichtigsten ist, dass es mathematisch beweist, dass die KI die exakten versteckten Ursachen einzeln identifizieren kann, nicht nur in vagen Gruppen, was das „Verständnis" der KI viel zuverlässiger und interpretierbarer macht.

Technisches Fazit: Identifizierbares multimodales kausales Repräsentationslernen unter partieller latenter Teilung

Problemstellung
Das kausale Repräsentationslernen (Causal Representation Learning, CRL) zielt darauf ab, aussagekräftige latente Variablen und deren kausale Strukturen aus hochdimensionalen Beobachtungsdaten aufzudecken. Ein kritischer Engpass im CRL ist jedoch die Identifizierbarkeit: Ohne Garantien können die erlernten Repräsentationen strukturell von dem tatsächlichen datengenerierenden Prozess abweichen, was Interpretierbarkeit und Robustheit untergräbt.

Bestehende Ansätze für multimodales CRL weisen erhebliche Einschränkungen auf:

Einschränkende Annahmen: Viele Methoden gehen von bijektiven Mischfunktionen aus (bei denen beobachtete und latente Dimensionen gleich sind), was für Szenarien wie Bilddaten unrealistisch ist, bei denen die Beobachtungen hochdimensional und die latenten Variablen niedrigdimensional sind (unvollständiges Setting).
Begrenzte Teilungsmuster: Vorarbeiten konzentrieren sich oft entweder auf nicht überlappende latente Strukturen oder vollständig geteilte Strukturen (bei denen alle Modalitäten von derselben Menge latenter Variablen abhängen). Nur wenige befassen sich mit partiell geteilten Strukturen, bei denen spezifische Teilmengen von Modalitäten latente Variablen teilen, während andere modalitätsspezifisch bleiben.
Abhängigkeit von Hilfsignalen: Viele Methoden verlassen sich auf Überwachung, Interventionen oder zeitliche Abhängigkeiten, die in realen Umgebungen nicht immer verfügbar sind.

Dieser Artikel adressiert die Herausforderung, eine komponentenweise Identifizierbarkeit für kausale latente Repräsentationen in einem multimodalen Setting mit partiell geteilten latenten Strukturen zu etablieren, ohne parametrische Verteilungsannahmen, Überwachung oder Interventionen zu erfordern.

Methodik

1. Theoretischer Rahmen
Die Autoren formulieren ein latentes Variablenmodell, bei dem beobachtete Modalitäten $x^{(m)}$ aus Teilmengen kausaler latenter Variablen $z_{A_m}$ über glatte, injektive (aber nicht notwendigerweise bijektive) Mischfunktionen $f_m$ generiert werden. Die latenten Variablen $z$ folgen einem strukturellen kausalen Modell (SCM), definiert durch $z_j = g_j(Pa(z_j), \epsilon_j)$ .

Der zentrale theoretische Beitrag ist der Nachweis der komponentenweisen Identifizierbarkeit (Wiederherstellung jeder latenten Variablen bis auf eine glatte invertierbare Transformation) unter folgenden Bedingungen:

Injektivität und Eigenschaft: Mischfunktionen sind injektiv und proper (verhindern Informationsverlust bei extremen Werten).
Kausale strukturelle Sparsamkeit: Der kausale Graph der latenten Variablen weist Sparsamkeit auf, insbesondere durch die Einschränkung kausaler Kanten zwischen spezifischen Variablen verschiedener Modalitäten.
Partielle Teilung: Keine einzelne latente Variable wird über alle Modalitäten hinweg geteilt; die Teilung erfolgt nur innerhalb von Teilmengen.
Mischdichte: Die kausale Struktur stellt sicher, dass Nicht-Permutations-Transformationen die Dichte kausaler Kanten erhöhen würden, was die Sparsamkeitsbeschränkungen verletzen würde.

Diese Bedingungen ermöglichen die Wiederherstellung sowohl geteilter Variablen (gemeinsam für Teilmengen von Modalitäten) als auch modalitätsspezifischer Variablen bis auf komponentenweise Bijektionen, selbst in unvollständigen Szenarien ( $|A_m| \leq d_m$ ).

2. Lernrahmen
Um diese theoretischen Garantien zu realisieren, schlagen die Autoren einen generativen Rahmen vor, der aus drei Hauptkomponenten besteht:

Autoencoder-Struktur: Modalitätsspezifische Encoder bilden beobachtete Daten $x^{(m)}$ auf latente Schätzungen $\hat{z}_{A_m}$ ab, die anschließend decodiert werden, um die Beobachtungen zu rekonstruieren.
Wasserstein-basierter einsetzbarer Modul: Ein neuartiges, differenzierbares Modul lernt die partiell geteilte latente Struktur. Es formuliert die Ausrichtung geteilter Variablen als ein Optimal-Transport-Problem. Durch Minimierung einer Transportkostenfunktion (basierend auf der Wasserstein-Distanz) zwischen latenten Variablen verschiedener Modalitäten lernt das Modul eine Permutationsmatrix $P$ , die identifiziert, welche latenten Komponenten über Modalitäten hinweg geteilt werden. Dieses Modul ist architekturagnostisch und erfordert keine zusätzliche Überwachung.
Lernen kausaler Strukturen: Der Rahmen verwendet einen Masked Autoregressive Normalizing Flow zur Modellierung exogener Rauschsignale und eine lernbare Adjazenzmatrix zur Inferenz des kausalen Graphen. Sparsamkeit ( $L_1$ -Regularisierung) und azyklische Beschränkungen werden durchgesetzt, um die theoretischen Identifizierbarkeitsbedingungen zu erfüllen.

Hauptbeiträge

Garantien für komponentenweise Identifizierbarkeit: Der Artikel stellt fest, dass sowohl geteilte als auch modalitätsspezifische latente Variablen in einem multimodalen Setting mit partieller Teilung komponentenweise identifiziert werden können, wodurch die strikte Bijektivitätsannahme, die von früheren Arbeiten gefordert wurde, gelockert wird.
Unvollständiges Setting: Die theoretischen Ergebnisse gelten auch dann, wenn die Anzahl der beobachteten Variablen die Anzahl der latenten Variablen in jeder Modalität übersteigt.
Architekturagnostisches Modul: Einführung eines differenzierbaren, Wasserstein-basierten Moduls, das die Permutationsmatrix der geteilten Struktur wiederherstellt, ohne zusätzliche Trainingsdaten, Überwachung oder Interventionen zu benötigen.
Generalisierung: Die Arbeit generalisiert vorherige Ergebnisse zur blockweisen Identifikation auf ein flexibleres Setting, in dem Modalitäten nicht notwendigerweise augmentierte Versionen voneinander sind.

Experimentelle Ergebnisse
Die Autoren bewerten ihren Ansatz auf synthetischen numerischen Datensätzen (2, 3 und 4 Modalitäten), einem synthetischen 3D-Bild-Text-Datensatz (MultiModal3DIdent) und einem Datensatz für Genregulationsnetzwerke (SERGIO).

Metriken: Die Leistung wird mittels des mittleren Korrelationskoeffizienten (MCC), des Bestimmtheitsmaßes ( $R^2$ ) und der erweiterten strukturellen Hamming-Distanz (EnSHD) gemessen.
Ergebnisse:
- Die vorgeschlagene Methode übertrifft State-of-the-Art-Baselines (CausalVAE, Multimodal Contrastive Learning, MultiBio, MultiView) in Bezug auf $R^2$ über alle numerischen Datensätze hinweg, was eine bessere Wiederherstellung der wahren latenten Struktur anzeigt.
- Auf dem MultiModal3DIdent-Datensatz erzielt die Methode im Vergleich zu Baselines überlegene $R^2$ -Werte.
- Auf dem Datensatz für Genregulationsnetzwerke erreicht die Methode die höchste MCC (0,98), was die Anwendbarkeit auf reale biologische Daten bestätigt.
- Die Methode zeigt beim Wiederherstellen kausaler Graphen (EnSHD) eine konkurrenzfähige oder überlegene Leistung im Vergleich zu Baselines, die auf kontrastivem Lernen oder blockweiser Identifikation basieren.

Bedeutung und Behauptungen
Der Artikel behauptet, dass seine primäre Bedeutung in der Bereitstellung schwächerer theoretischer Bedingungen für die Identifizierbarkeit im Vergleich zu bestehenden Arbeiten liegt. Durch die Beseitigung des Bedarfs an bijektiven Mischfunktionen, parametrischen Verteilungsannahmen und Hilfsignalen (Überwachung/Interventionen) bietet der vorgeschlagene Rahmen einen praktischeren und flexibleren Ansatz zum Erlernen interpretierbarer kausaler Repräsentationen.

Die Autoren betonen, dass ihre Garantien für die komponentenweise Identifizierbarkeit sicherstellen, dass erlernte Repräsentationen nicht nur strukturell ähnlich sind, sondern individuell wiederherstellbar, was für nachgelagerte Aufgaben, die spezifische kausale Faktoren erfordern, entscheidend ist. Die Einführung des Wasserstein-basierten Moduls bietet einen praktischen Mechanismus, um die komplexe Ausrichtung partiell geteilter Strukturen auf differenzierbare Weise zu handhaben und die Lücke zwischen theoretischer Identifizierbarkeit und der Implementierung im Deep Learning zu schließen.