🤖 machine learning

Identifiable Multimodal Causal Representation Learning under Partial Latent Sharing

Ce papier établit des garanties d'identifiabilité composante par composante pour les représentations latentes causales dans des données multimodales à structures partiellement partagées sous des hypothèses flexibles et non paramétriques, et introduit un module différentiable basé sur la distance de Wasserstein pour récupérer efficacement ces structures, surpassant les méthodes de l'état de l'art dans des expériences extensives.

Auteurs originaux : Manal Benhamza, Marianne Clausel, Myriam Tami

Publié 2026-05-20

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Manal Benhamza, Marianne Clausel, Myriam Tami

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective essayant de déterminer ce qui s'est passé sur une scène de crime, mais sans aucune vidéo claire et unique. Au lieu de cela, vous avez trois témoins différents : l'un a vu l'événement à travers un objectif fisheye (une vue déformée et large), un autre l'a entendu à travers un mur étouffant (un son spécifique et limité), et un troisième l'a vu à travers une fenêtre teintée (une vue colorée et filtrée).

Votre objectif est de reconstituer les événements réels (les « variables latentes ») et de comprendre comment ils se sont causés les uns les autres (la « structure causale »), même si aucun témoin unique n'a vu l'ensemble du tableau parfaitement.

Cet article présente une nouvelle méthode pour faire exactement cela, mais avec des données informatiques plutôt que des scènes de crime. Voici la décomposition en termes simples :

1. Le Problème : Le « Puzzle » avec des Pièces Manquantes

Dans le monde de l'Intelligence Artificielle, nous essayons souvent de trouver les « causes cachées » derrière un ensemble de données désordonnées.

Le Défi : Habituellement, les modèles d'IA supposent que si vous avez suffisamment de données, vous pouvez déterminer les causes cachées. Mais dans le monde réel, les données sont « multimodales » (elles se présentent sous différentes formes, comme une IRM, une prise de sang et un rapport génétique).
La Surprise : Ces différentes sources de données ne montrent pas toutes les mêmes choses. Certaines parties de la vérité sont partagées (comme l'inflammation qui apparaît à la fois sur une IRM et dans une prise de sang), tandis que d'autres parties sont uniques à une seule source (comme un marqueur génétique spécifique visible uniquement dans la prise de sang).
L'Ancienne Façon : Les méthodes précédentes tentaient de résoudre ce problème en supposant que les sources de données étaient des miroirs parfaits les unes des autres, ou en forçant l'IA à deviner sur la base de règles strictes et irréalistes. Si les règles étaient légèrement décalées, l'IA apprenait la « vérité » erronée.

2. La Solution : Un « Traducteur Intelligent » avec un Outil Spécial

Les auteurs proposent une nouvelle façon d'enseigner à l'IA de séparer les secrets « partagés » des secrets « privés » sans avoir besoin de règles strictes ou d'aide humaine supplémentaire.

Pensez à leur méthode comme à un Traducteur Intelligent doté d'un Module de Wasserstein spécial (un outil mathématique sophistiqué).

Le Traducteur (Le Modèle) : Il examine les données désordonnées de toutes les sources (l'IRM, la prise de sang, etc.) et tente de construire une liste propre et organisée des causes cachées.
L'Outil Spécial (Le Module de Wasserstein) : C'est l'ingrédient secret de l'article. Imaginez que vous avez deux tas de briques Lego provenant de boîtes différentes. Certaines briques sont identiques (partagées), et d'autres sont uniques à chaque boîte. Cet outil agit comme un trieur ultra-intelligent. Il calcule la « distance » entre les briques et détermine : « Hé, cette brique rouge dans la Boîte A est en fait la même que cette brique rouge dans la Boîte B. »
- Il fait cela en résolvant un « problème de transport » (déplacer des objets d'un tas à un autre avec le moins d'effort possible).
- Crucialement, il fait cela automatiquement. Il n'a pas besoin qu'un humain dise : « Ces deux-là sont identiques. » Il le déduit seul.

3. La Grande Percée : La Clarté « Composante par Composante »

La revendication la plus importante de cet article concerne l'Identifiabilité.

L'Ancienne Garantie (Par Blocs) : Les méthodes précédentes ne pouvaient promettre que : « Nous avons trouvé un groupe de briques qui pourrait être les bonnes, mais nous ne pouvons pas vous dire exactement quelle brique est laquelle. » C'est comme dire : « Nous avons trouvé le tas rouge », sans savoir quelle brique rouge spécifique est la clé.
La Nouvelle Garantie (Par Composantes) : Cet article prouve que leur méthode peut identifier chaque cause cachée spécifique individuellement.
- Ils peuvent dire : « Ce nombre spécifique dans notre code représente exactement le niveau d'inflammation », et « Cet autre nombre représente exactement le risque génétique ».
- Ils peuvent le faire même lorsque les données sont « sous-complètes » (ce qui signifie que les sources de données contiennent plus d'informations que les causes cachées, ce qui est courant dans la vie réelle, comme avoir une photo haute résolution d'un objet simple).

4. Comment Ils L'Ont Prouvé (La Règle de « Sparsité »)

Pour s'assurer que l'IA ne devine pas au hasard, les auteurs ont utilisé une règle appelée Sparsité Structurelle Causale.

L'Analogie : Imaginez un arbre généalogique. Dans un vrai arbre généalogique, la plupart des gens n'ont que quelques parents et enfants directs. Ils n'ont pas de lien avec tout le monde dans la famille.
L'article suppose que les causes cachées sont similaires : elles n'influencent que quelques autres choses, pas tout. En forçant l'IA à rechercher ces connexions « éparse » (simples), les mathématiques prouvent que l'IA doit trouver les bonnes causes cachées pour que les données correspondent.

5. Les Résultats : Est-ce Que Ça Marche ?

L'équipe a testé son « Traducteur Intelligent » sur :

Des Données Synthétiques : Des nombres fabriqués où ils connaissaient la réponse à l'avance.
Des Données Réalistes : Des images 3D d'objets et des descriptions textuelles, et même des données génétiques simulées.

Le Résultat : Leur méthode a systématiquement battu les méthodes actuelles « de l'État de l'Art » (SOTA). Elle était meilleure pour :

Retrouver les nombres cachés exacts (forte corrélation).
Déterminer les relations de cause à effet correctes entre les variables cachées.
Gérer les cas où différentes sources de données ne partageaient que certaines informations, et non la totalité.

Résumé

Cet article introduit un nouveau cadre mathématique permettant à l'IA d'examiner plusieurs types de données (comme des images, du texte ou des tests médicaux), de déterminer quelles parties des données partagent les mêmes causes cachées et quelles parties sont uniques. Il utilise un outil de « tri » astucieux pour aligner automatiquement ces parties partagées. Plus important encore, il prouve mathématiquement que l'IA peut identifier les causes cachées exactes une par une, et non pas seulement par groupes vagues, rendant la « compréhension » de l'IA beaucoup plus fiable et interprétable.

Résumé Technique : Apprentissage de Représentations Causales Multimodales Identifiables sous Partage Latent Partiel

Énoncé du Problème
L'apprentissage de représentations causales (CRL) vise à découvrir des variables latentes significatives et leurs structures causales à partir de données observationnelles de haute dimension. Cependant, un goulot d'étranglement critique en CRL est l'identifiabilité : sans garanties, les représentations apprises peuvent être structurellement différentes du véritable processus de génération des données, ce qui compromet l'interprétabilité et la robustesse.

Les approches existantes de CRL multimodal présentent des limitations significatives :

Hypothèses Restrictives : De nombreuses méthodes supposent des fonctions de mélange bijectives (où les dimensions observées et latentes sont égales), ce qui est irréaliste pour des scénarios comme les données d'images où les observations sont de haute dimension et les variables latentes de basse dimension (configuration sous-complète).
Modèles de Partage Limités : Les travaux antérieurs se concentrent souvent soit sur des structures latentes non chevauchantes, soit sur des structures entièrement partagées (où toutes les modalités dépendent du même ensemble de latents). Peu abordent les structures partiellement partagées, où des sous-ensembles spécifiques de modalités partagent des variables latentes tandis que d'autres restent spécifiques à la modalité.
Dépendance aux Signaux Auxiliaires : De nombreuses méthodes reposent sur une supervision, des interventions ou des dépendances temporelles, qui ne sont pas toujours disponibles dans des contextes réels.

Cet article aborde le défi d'établir l'identifiabilité composante par composante pour les représentations causales latentes dans un cadre multimodal avec des structures latentes partiellement partagées, sans nécessiter d'hypothèses paramétriques de distribution, de supervision ou d'interventions.

Méthodologie

1. Cadre Théorique
Les auteurs formulent un modèle de variables latentes où les modalités observées $x^{(m)}$ sont générées à partir de sous-ensembles de variables latentes causales $z_{A_m}$ via des fonctions de mélange lisses et injectives (mais pas nécessairement bijectives) $f_m$ . Les variables latentes $z$ suivent un modèle causal structurel (SCM) défini par $z_j = g_j(Pa(z_j), \epsilon_j)$ .

La contribution théorique centrale est la preuve de l'identifiabilité composante par composante (récupération de chaque variable latente à une transformation inversible lisse près) sous les conditions suivantes :

Injectivité et Propreté : Les fonctions de mélange sont injectives et propres (empêchant la perte d'information aux valeurs extrêmes).
Sparsité de la Structure Causale : Le graphe causal des variables latentes présente une sparsité, restreignant spécifiquement les arêtes causales entre certaines variables de différentes modalités.
Partage Partiel : Aucune variable latente unique n'est partagée entre toutes les modalités ; le partage ne se produit que parmi des sous-ensembles.
Densité de Mélange : La structure causale garantit que les transformations non-permutationnelles augmenteraient la densité des arêtes causales, violant ainsi les contraintes de sparsité.

Ces conditions permettent la récupération des variables partagées (communes à des sous-ensembles de modalités) et des variables spécifiques à la modalité à des bijections composante par composante près, même dans des scénarios sous-complets ( $|A_m| \leq d_m$ ).

2. Cadre d'Apprentissage
Pour concrétiser ces garanties théoriques, les auteurs proposent un cadre génératif comprenant trois composants principaux :

Structure d'Autoencodeur : Des encodeurs spécifiques à la modalité mapent les données observées $x^{(m)}$ vers des estimations latentes $\hat{z}_{A_m}$ , qui sont ensuite décodées pour reconstruire les observations.
Module Plug-and-Play Basé sur Wasserstein : Un module différentiable novateur apprend la structure latente partiellement partagée. Il formule l'alignement des variables partagées comme un problème de transport optimal. En minimisant un coût de transport (basé sur la distance de Wasserstein) entre les variables latentes de différentes modalités, le module apprend une matrice de permutation $P$ qui identifie quelles composantes latentes sont partagées entre les modalités. Ce module est agnostique à l'architecture et ne nécessite aucune supervision auxiliaire.
Apprentissage de la Structure Causale : Le cadre utilise un flot de normalisation autorégressif masqué (Masked Autoregressive Normalizing Flow) pour modéliser le bruit exogène et une matrice d'adjacence apprenable pour inférer le graphe causal. Des contraintes de sparsité (régularisation $L_1$ ) et d'acyclicité sont appliquées pour satisfaire les conditions d'identifiabilité théoriques.

Contributions Clés

Garanties d'Identifiabilité Composante par Composante : L'article établit que les variables latentes partagées et spécifiques à la modalité peuvent être identifiées composante par composante dans un cadre multimodal avec partage partiel, assouplissant l'hypothèse stricte de bijectivité requise par les travaux antérieurs.
Configuration Sous-Complète : Les résultats théoriques tiennent même lorsque le nombre de variables observées dépasse le nombre de variables latentes dans chaque modalité.
Module Agnostique à l'Architecture : Introduction d'un module différentiable basé sur Wasserstein qui récupère la matrice de permutation de la structure partagée sans nécessiter de données d'entraînement supplémentaires, de supervision ou d'interventions.
Généralisation : Le travail généralise les résultats précédents d'identification par blocs à un cadre plus flexible où les modalités ne sont pas nécessairement des versions augmentées les unes des autres.

Résultats Expérimentaux
Les auteurs évaluent leur approche sur des ensembles de données numériques synthétiques (2, 3 et 4 modalités), un ensemble de données synthétique image-texte 3D (MultiModal3DIdent) et un ensemble de données de réseaux de régulation génique (SERGIO).

Métriques : La performance est mesurée à l'aide du Coefficient de Corrélation Moyen (MCC), du Coefficient de Détermination ( $R^2$ ) et de la Distance de Hamming Structurelle Améliorée (EnSHD).
Constats :
- La méthode proposée surpasse les références de l'état de l'art (CausalVAE, Apprentissage Contrastif Multimodal, MultiBio, MultiView) en termes de $R^2$ sur tous les ensembles de données numériques, indiquant une meilleure récupération de la structure latente de vérité terrain.
- Sur l'ensemble de données MultiModal3DIdent, la méthode obtient des scores $R^2$ supérieurs par rapport aux références.
- Sur l'ensemble de données de réseaux de régulation génique, la méthode atteint le MCC le plus élevé (0,98), confirmant son applicabilité aux données biologiques réelles.
- La méthode démontre des performances compétitives ou supérieures dans la récupération des graphes causaux (EnSHD) par rapport aux références reposant sur l'apprentissage contrastif ou l'identification par blocs.

Signification et Revendications
L'article revendique que sa signification principale réside dans la fourniture de conditions théoriques plus faibles pour l'identifiabilité par rapport aux travaux existants. En éliminant le besoin de fonctions de mélange bijectives, d'hypothèses paramétriques de distribution et de signaux auxiliaires (supervision/interventions), le cadre proposé offre une approche plus pratique et flexible pour apprendre des représentations causales interprétables.

Les auteurs soulignent que leurs garanties d'identifiabilité composante par composante assurent que les représentations apprises ne sont pas seulement structurellement similaires, mais individuellement récupérables, ce qui est crucial pour les tâches en aval nécessitant des facteurs causaux spécifiques. L'introduction du module basé sur Wasserstein fournit un mécanisme pratique pour gérer l'alignement complexe des structures partiellement partagées de manière différentiable, comblant le fossé entre l'identifiabilité théorique et l'implémentation par apprentissage profond.