🤖 machine learning

Identifiable Multimodal Causal Representation Learning under Partial Latent Sharing

Dit artikel vestigt componentsgewijze identificeerbaarheidsgaranties voor causale latente representaties in multimodale data met gedeeltelijk gedeelde structuren onder flexibele, niet-parametrische aannames en introduceert een differentieerbare op de Wasserstein-maat gebaseerde module om deze structuren effectief te herstellen, waarbij deze in uitgebreide experimenten de state-of-the-art-methoden overtreft.

Oorspronkelijke auteurs: Manal Benhamza, Marianne Clausel, Myriam Tami

Gepubliceerd 2026-05-20

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Manal Benhamza, Marianne Clausel, Myriam Tami

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die probeert uit te vinden wat er op een plaats delict is gebeurd, maar je hebt geen enkele, duidelijke video-opname. In plaats daarvan heb je drie verschillende getuigen: één zag het gebeurde door een visvisslens (een vervormd, breed beeld), een ander hoorde het door een gedempte muur (een specifiek, beperkt geluid), en een derde zag het door een gekleurd raam (een gekleurd, gefilterd beeld).

Je doel is om de ware gebeurtenissen (de "latente variabelen") te reconstrueren en te begrijpen hoe ze elkaar veroorzaakten (de "causale structuur"), ook al zag geen enkele getuige het volledige plaatje perfect.

Dit artikel presenteert een nieuwe methode om precies dat te doen, maar dan met computergegevens in plaats van plaatsdelicten. Hier is de uitleg in eenvoudige bewoordingen:

1. Het Probleem: De "Puzzel" met Ontbrekende Stukjes

In de wereld van Kunstmatige Intelligentie proberen we vaak de "verborgen oorzaken" achter een hoop rommelige gegevens te vinden.

De Uitdaging: Meestal gaan AI-modellen ervan uit dat als je genoeg gegevens hebt, je de verborgen oorzaken kunt achterhalen. Maar in de echte wereld zijn gegevens "multimodaal" (ze komen in verschillende vormen voor, zoals een MRI-scan, een bloedtest en een genetisch rapport).
De Twist: Deze verschillende gegevensbronnen tonen niet allemaal dezelfde dingen. Sommige delen van de waarheid zijn gedeeld (zoals ontsteking die zowel in een MRI als in een bloedtest naar voren komt), terwijl andere delen uniek zijn voor slechts één bron (zoals een specifiek genetisch merkteken dat alleen in de bloedtest zichtbaar is).
De Oude Manier: Eerdere methoden probeerden dit op te lossen door aan te nemen dat de gegevensbronnen perfecte spiegels van elkaar waren, of door de AI te dwingen te gokken op basis van strenge, onrealistische regels. Als de regels iets afweken, leerde de AI de verkeerde "waarheid".

2. De Oplossing: Een "Slimme Vertaler" met een Speciaal Gereedschap

De auteurs stellen een nieuwe manier voor om de AI te leren de "gedeelde" geheimen te scheiden van de "privé" geheimen, zonder strenge regels of extra menselijke hulp nodig te hebben.

Beschouw hun methode als een Slimme Vertaler met een speciaal Wasserstein-module (een verfijnd wiskundig gereedschap).

De Vertaler (Het Model): Het kijkt naar de rommelige gegevens van alle bronnen (de MRI, de bloedtest, enz.) en probeert een schone, georganiseerde lijst van de verborgen oorzaken op te bouwen.
Het Speciale Gereedschap (De Wasserstein-module): Dit is het geheime wapen van het artikel. Stel je voor dat je twee stapels Lego-blokjes hebt uit verschillende dozen. Sommige blokjes zijn identiek (gedeeld), en sommige zijn uniek voor elke doos. Dit gereedschap fungeert als een super-slim sorteerder. Het berekent de "afstand" tussen de blokjes en komt erachter: "Hé, dit rode blokje in Doos A is eigenlijk hetzelfde als dit rode blokje in Doos B."
- Het doet dit door een "transportprobleem" op te lossen (voorwerpen van de ene stapel naar de andere verplaatsen met de minste inspanning).
- Cruciaal is dat dit automatisch gebeurt. Het heeft geen mens nodig om te zeggen: "Deze twee zijn hetzelfde." Het komt er zelf op uit.

3. De Grote Doorbraak: "Component-gewijze" Duidelijkheid

De belangrijkste claim van dit artikel gaat over Identificeerbaarheid.

De Oude Garantie (Blok-gewijs): Eerdere methoden konden alleen beloven: "We hebben een groepje blokjes gevonden die misschien de juiste zijn, maar we kunnen je niet precies vertellen welk blokje welk is." Het is als zeggen: "We hebben de rode stapel gevonden," maar niet weten welk specifiek rood blokje de sleutel is.
De Nieuwe Garantie (Component-gewijs): Dit artikel bewijst dat hun methode elke specifieke verborgen oorzaak individueel kan identificeren.
- Ze kunnen zeggen: "Dit specifieke getal in onze code vertegenwoordigt exact het ontstekingsniveau," en "Dit andere getal vertegenwoordigt exact het genetische risico."
- Ze kunnen dit doen zelfs wanneer de gegevens "ondercompleet" zijn (wat betekent dat de gegevensbronnen meer informatie bevatten dan de verborgen oorzaken, wat vaak voorkomt in het echte leven, zoals het hebben van een hoogresolutiefoto van een eenvoudig object).

4. Hoe Ze Het Bewezen (De "Sparsiteit"-regel)

Om ervoor te zorgen dat de AI niet zomaar willekeurig gokt, gebruikten de auteurs een regel genaamd Causale Structurele Sparsiteit.

De Analogie: Stel je een stamboom voor. In een echte stamboom hebben de meeste mensen slechts een paar directe ouders en kinderen. Ze hebben geen connectie met iedereen in de familie.
Het artikel gaat ervan uit dat de verborgen oorzaken vergelijkbaar zijn: ze beïnvloeden slechts een paar andere dingen, niet alles. Door de AI te dwingen te zoeken naar deze "spare" (eenvoudige) connecties, bewijst de wiskunde dat de AI moet de juiste verborgen oorzaken vinden om de gegevens te laten kloppen.

5. De Resultaten: Werkt Het?

Het team testte hun "Slimme Vertaler" op:

Synthetische Gegevens: Gemaakte getallen waarbij ze van tevoren het antwoord wisten.
Realistische Gegevens: 3D-afbeeldingen van objecten en tekstbeschrijvingen, en zelfs gesimuleerde gen-gegevens.

Het Resultaat: Hun methode won consequent van de huidige "State-of-the-Art" (SOTA) methoden. Het was beter in:

Het herstellen van de exacte verborgen getallen (hoge correlatie).
Het achterhalen van de juiste oorzaak-en-gevolgrelaties tussen de verborgen variabelen.
Het omgaan met gevallen waarin verschillende gegevensbronnen slechts sommige informatie deelden, niet alles.

Samenvatting

Dit artikel introduceert een nieuw wiskundig raamwerk dat AI in staat stelt om naar meerdere soorten gegevens te kijken (zoals afbeeldingen, tekst of medische tests), uit te zoeken welke delen van de gegevens dezelfde verborgen oorzaken delen en welke delen uniek zijn. Het gebruikt een slim "sorteer"-gereedschap om deze gedeelde delen automatisch uit te lijnen. Het belangrijkste is dat het wiskundig bewijst dat de AI de exacte verborgen oorzaken één voor één kan identificeren, niet alleen in vage groepen, waardoor het "begrip" van de AI veel betrouwbaarder en interpreteerbaarder wordt.

Technische Samenvatting: Identificeerbare Multimodale Causale Representatielerening onder Gedeeltelijke Latente Deling

Probleemstelling
Causale Representatielerening (CRL) beoogt betekenisvolle latente variabelen en hun causale structuren bloot te leggen uit hoogdimensionale observationele data. Een kritieke knelpunt in CRL is echter identificeerbaarheid: zonder garanties kunnen de geleerde representaties structureel verschillen van het ware data-generatieproces, wat de interpreteerbaarheid en robuustheid ondermijnt.

Bestaande multimodale CRL-benaderingen ondervinden aanzienlijke beperkingen:

Beperkende Aannames: Veel methoden gaan uit van bijectieve mengfuncties (waarbij de waargenomen en latente dimensies gelijk zijn), wat onrealistisch is voor scenario's zoals beelddata, waarbij waarnemingen hoogdimensionaal zijn en latente variabelen laagdimensionaal (een ondercomplexe setting).
Beperkte Delingspatronen: Vorig werk richt zich vaak op óf niet-overlappende latente structuren óf volledig gedeelde structuren (waarbij alle modaliteiten afhankelijk zijn van dezelfde set latente variabelen). Weinig onderzoek adresseert gedeeltelijk gedeelde structuren, waarbij specifieke subsets van modaliteiten latente variabelen delen terwijl andere modaliteitsspecifiek blijven.
Afhankelijkheid van Auxiliaire Signalen: Veel methoden vertrouwen op supervisie, interventies of temporele afhankelijkheden, die niet altijd beschikbaar zijn in real-world settings.

Dit artikel adresseert de uitdaging om component-gewijze identificeerbaarheid te vestigen voor causale latente representaties in een multimodale setting met gedeeltelijk gedeelde latente structuren, zonder parametrische distributie-aannames, supervisie of interventies te vereisen.

Methodologie

1. Theoretisch Kader
De auteurs formuleren een latent-variabelenmodel waarbij waargenomen modaliteiten $x^{(m)}$ worden gegenereerd uit subsets van causale latente variabelen $z_{A_m}$ via gladde, injectieve (maar niet noodzakelijk bijectieve) mengfuncties $f_m$ . De latente variabelen $z$ volgen een structureel causaal model (SCM) gedefinieerd door $z_j = g_j(Pa(z_j), \epsilon_j)$ .

De kerntheoretische bijdrage is het bewijs van component-gewijze identificeerbaarheid (het herstellen van elke latente variabele tot een gladde inverteerbare transformatie) onder de volgende voorwaarden:

Injectiviteit & Properheid: Mengfuncties zijn injectief en proper (voorkomend informatieverlies bij extreme waarden).
Causale Structurele Sparsiteit: De causale graaf van latente variabelen vertoont sparsiteit, specifiek door causale randen tussen specifieke variabelen van verschillende modaliteiten te beperken.
Gedeeltelijke Deling: Geen enkele latente variabele wordt gedeeld over alle modaliteiten; deling vindt alleen plaats binnen subsets.
Mengdichtheid: De causale structuur zorgt ervoor dat niet-permutatie-transformaties de dichtheid van causale randen zouden verhogen, waardoor de sparsiteitsbeperkingen worden geschonden.

Deze voorwaarden maken het mogelijk om zowel gedeelde variabelen (gemeenschappelijk voor subsets van modaliteiten) als modaliteitsspecifieke variabelen te herstellen tot component-gewijze bijecties, zelfs in ondercomplexe scenario's ( $|A_m| \leq d_m$ ).

2. Leerframework
Om deze theoretische garanties te concretiseren, stellen de auteurs een generatief framework voor dat bestaat uit drie hoofdcomponenten:

Autoencoder-structuur: Modaliteitsspecifieke encoders mappingen waargenomen data $x^{(m)}$ naar latente schattingen $\hat{z}_{A_m}$ , die vervolgens worden gedecodeerd om waarnemingen te reconstrueren.
Wasserstein-gebaseerde Pluggable Module: Een innovatieve, differentieerbare module leert de gedeeltelijk gedeelde latente structuur. Deze formuleert de uitlijning van gedeelde variabelen als een optimaal transportprobleem. Door een transportkosten (gebaseerd op de Wasserstein-afstand) tussen latente variabelen van verschillende modaliteiten te minimaliseren, leert de module een permutatiematrix $P$ die identificeert welke latente componenten over modaliteiten worden gedeeld. Deze module is architectuur-agnostisch en vereist geen auxiliaire supervisie.
Causale Structuurlerering: Het framework maakt gebruik van een Masked Autoregressive Normalizing Flow om exogene ruis te modelleren en een leerbare adjacencymatrix om de causale graaf af te leiden. Sparsiteit ( $L_1$ -regularisatie) en acyclische beperkingen worden afgedwongen om te voldoen aan de theoretische identificeerbaarheidsvoorwaarden.

Belangrijkste Bijdragen

Component-gewijze IdentificeerbaarheidsGaranties: Het artikel stelt vast dat zowel gedeelde als modaliteitsspecifieke latente variabelen component-gewijs kunnen worden geïdentificeerd in een multimodale setting met gedeeltelijke deling, waardoor de strikte bijectiviteitsaanname van vorig werk wordt versoepeld.
Ondercomplexe Setting: De theoretische resultaten gelden zelfs wanneer het aantal waargenomen variabelen het aantal latente variabelen in elke modaliteit overschrijdt.
Architectuur-agnostische Module: Introductie van een differentieerbare, Wasserstein-gebaseerde module die de permutatiematrix van de gedeelde structuur herstelt zonder aanvullende trainingsdata, supervisie of interventies te vereisen.
Generalisatie: Het werk generaliseert eerdere blok-gewijze identificatieresultaten naar een flexibeler setting waarin modaliteiten niet noodzakelijk versterkte versies van elkaar zijn.

Experimentele Resultaten
De auteurs evalueren hun aanpak op synthetische numerieke datasets (2, 3 en 4 modaliteiten), een synthetische 3D-beeld-tekstdataset (MultiModal3DIdent) en een dataset voor genregulatienetwerken (SERGIO).

Meters: Prestaties worden gemeten met de Mean Correlation Coefficient (MCC), de Coëfficiënt van Bepaling ( $R^2$ ) en de Enhanced Structural Hamming Distance (EnSHD).
Vondsten:
- De voorgestelde methode presteert beter dan state-of-the-art baselines (CausalVAE, Multimodal Contrastive Learning, MultiBio, MultiView) wat betreft $R^2$ over alle numerieke datasets, wat wijst op een betere herstel van de ground-truth latente structuur.
- Op de MultiModal3DIdent-dataset bereikt de methode superieure $R^2$ -scores in vergelijking met baselines.
- Op de Genregulatienetwerk-dataset bereikt de methode de hoogste MCC (0,98), wat de toepasbaarheid op real-world biologische data bevestigt.
- De methode toont concurrerende of superieure prestaties bij het herstellen van causale grafen (EnSHD) in vergelijking met baselines die vertrouwen op contrastief leren of blok-gewijze identificatie.

Betekenis en Claims
Het artikel claimt dat de primaire betekenis ligt in het bieden van zwakkere theoretische voorwaarden voor identificeerbaarheid in vergelijking met bestaand werk. Door de behoefte aan bijectieve mengfuncties, parametrische distributie-aannames en auxiliaire signalen (supervisie/interventies) te verwijderen, biedt het voorgestelde framework een meer praktische en flexibele aanpak voor het leren van interpreteerbare causale representaties.

De auteurs benadrukken dat hun component-gewijze identificeerbaarheidsgaranties ervoor zorgen dat geleerde representaties niet alleen structureel vergelijkbaar zijn, maar individueel herstelbaar, wat cruciaal is voor downstream-taken die specifieke causale factoren vereisen. De introductie van de Wasserstein-gebaseerde module biedt een praktische mechanisme om de complexe uitlijning van gedeeltelijk gedeelde structuren op een differentieerbare manier te hanteren, waardoor de kloof tussen theoretische identificeerbaarheid en deep learning-implementatie wordt overbrugd.