🤖 machine learning

One Size does not Fit All: Heterogeneous Latent Space Alignment for Unsupervised Domain Adaptation

Cet article propose ADualVUOT, un nouveau cadre d'adaptation de domaine non supervisée pour la segmentation d'images médicales qui combine un auto-encodeur variationnel (VAE) à double encodeur avec des flux normalisants continus et un transport optimal non équilibré via la distance de Gaussian-Gromov-Wasserstein afin de traiter efficacement les décalages de domaine grâce à une expressivité accrue de l'espace latent et à l'augmentation adversaire.

Auteurs originaux : Evangelia Koskinioti, Yi Shen, Georgios Stamou, Michael M. Zavlanos

Publié 2026-06-23

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Evangelia Koskinioti, Yi Shen, Georgios Stamou, Michael M. Zavlanos

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous formez un étudiant brillant (le modèle d'IA) pour identifier des organes spécifiques dans des scanners médicaux. Vous lui donnez une immense bibliothèque de manuels provenant d'un hôpital spécifique (le Domaine Source) où l'éclairage est parfait, les machines sont neuves et les patients sont tous issus du même quartier. L'étudiant a réussi son examen en utilisant ces livres.

Cependant, lorsque vous envoyez cet étudiant dans un hôpital différent (le Domaine Cible) pour faire son vrai travail, les choses tournent mal. Le nouvel hôpital utilise des machines plus anciennes, l'éclairage est plus faible et les patients ont des morphologies différentes. L'étudiant, qui a mémorisé l'« apparence » des scanners du premier hôpital, est confus et échoue. C'est le problème du Décalage de Domaine (Domain Shift).

Le document que vous avez fourni, intitulé "One Size does not Fit All" (Une taille unique ne convient pas à tous), propose une nouvelle façon de résoudre ce problème. Voici la décomposition de leur solution en utilisant des analogies simples :

1. Le Problème : « Une taille unique ne convient pas à tous »

La plupart des méthodes précédentes essayaient de forcer l'étudiant à apprendre un ensemble de règles unique et rigide qui s'appliquait de la même manière aux deux hôpitaux. Elles essayaient de faire entrer les données complexes et de haute qualité du premier hôpital et les données désordonnées et plus petites du second dans la même « boîte mentale » exacte (un espace latent partagé).

Les auteurs soutiennent que c'est une mauvaise idée. C'est comme essayer de faire entrer une grande carte détaillée d'une ville et une petite carte schématique d'un village dans la même poche minuscule. Soit vous perdez les détails de la ville, soit vous ne pouvez pas faire entrer la carte du village du tout.

2. La Solution : ADualVUOT

Les auteurs ont construit un nouveau système appelé ADualVUOT. Considérez cela comme un système intelligent de traduction et d'entraînement doté de trois astuces principales :

Astuce A : Deux « Boîtes Mentales » différentes (Dual-Encoder VAE)

Au lieu de forcer l'étudiant à utiliser une seule boîte mentale pour les deux hôpitaux, ils donnent à l'étudiant deux boîtes différentes.

Boîte 1 (Source) : Une grande boîte spacieuse pour les données complexes et détaillées du premier hôpital.
Boîte 2 (Cible) : Une boîte plus petite et plus compacte pour les données limitées du second hôpital.

Cela permet à l'étudiant de conserver tous les détails riches des données d'entraînement sans les écraser, tout en apprenant comment traduire ce savoir vers les données plus simples et plus petites de la cible.

Astuce B : Le Traducteur « Changeur de Forme » (CNF & GGW)

Même avec deux boîtes différentes, comment savoir si un « cœur » dans la grande boîte correspond à un « cœur » dans la petite boîte ?

Le Flux : Ils utilisent un outil de « changement de forme » (Continuous Normalizing Flows) qui étire et tord les données à l'intérieur des boîtes pour les rendre plus expressives, comme si l'on modelait de l'argile pour obtenir la forme parfaite.
Le Traducteur : Ils utilisent un outil mathématique spécial appelé Gaussian Gromov-Wasserstein (GGW). Imaginez que vous avez deux langues différentes. Au lieu de traduire mot à mot (ce qui échoue si les langues sont trop différentes), cet outil compare la structure des phrases. Il demande : « Est-ce que la relation entre ces organes dans la grande boîte ressemble à la relation entre les organes dans la petite boîte ? » Cela leur permet d'aligner parfaitement les deux boîtes de tailles différentes sans les forcer à avoir la même taille.

Astuce C : Le Coach de « Test de Stress » (Adversarial Augmentation)

Pour s'assurer que l'étudiant est vraiment prêt pour le nouvel hôpital, les auteurs ajoutent un coach de « test de stress ».

Au lieu de simplement montrer à l'étudiant des scanners de pratique standard, ce coach crée dynamiquement des scénarios de pire cas. Il mélange le « style » du premier hôpital avec celui du second, ajoute du bruit aléatoire et crée des images confuses à la volée.
Le coach essaie de piéger l'étudiant (en rendant les images plus difficiles à lire) et l'étudiant essaie de lutter pour obtenir quand même la bonne réponse. Cet entraînement « adversarial » rend l'étudiant incroyablement robuste, de sorte que lorsqu'il est confronté aux données réelles et désordonnées du nouvel hôpital, il ne panique pas.

3. Les Résultats

Les auteurs ont testé ce système sur de réelles données médicales :

IRM de la prostate : Des scans provenant de différents hôpitaux avec différentes machines.
Scans cardiaques : Passage de l'IRM au scanner CT (qui sont très différents visuellement).

Dans les deux cas, leur nouveau système (ADualVUOT) a surpassé toutes les méthodes précédentes. Il est plus performant pour gérer les différences entre l'« hôpital d'entraînement » et l'« hôpital de travail », prouant que donner à l'IA des boîtes mentales flexibles de tailles différentes et la tester avec des défis dynamiques fonctionne bien mieux que d'essayer de tout forcer dans un moule unique et rigide.

En résumé : L'article affirme que pour corriger l'IA lorsqu'elle passe d'un environnement à un autre, il ne faut pas chercher une solution « taille unique ». Au lieu de cela, donnez à l'IA des outils flexibles pour gérer différentes tailles de données et entraînez-la avec un coach qui crée les scénarios de pratique les plus difficiles possibles.

Résumé Technique : ADualVUOT pour l'Adaptation de Domaine Non Supervisée

Énoncé du Problème

Le déploiement fiable de modèles d'apprentissage automatique dans des environnements à enjeux élevés, particulièrement en imagerie médicale, est entravé par le décalage de domaine (domain shift). Les différences entre les distributions de données d'entraînement (source) et de déploiement (cible) — causées par la variation des dispositifs d'imagerie, des populations de patients ou des protocoles d'acquisition — entraînent une dégradation significative des performances. Bien que l'Adaptation de Domaine Non Supervisée (UDA) vise à atténuer ce problème en transférant les connaissances des données étiquetées de la source vers les données non étiquetées de la cible, les approches existantes font face à deux limitations principales :

Représentations Latentes Restrictives : De nombreuses méthodes basées sur le Transport Optimal (OT) imposent un alignement dans un espace latent partagé de dimension identique. Cela force souvent la compression de domaines sources de haute dimension très diversifiés ou l'expansion de domaines cibles plus petits, écartant ainsi des informations spécifiques au domaine cruciales pour les tâches en aval.
Augmentation Statique : Les stratégies d'augmentation de données actuelles reposent souvent sur des transformations prédéfinies et manuelles, ou nécessitent une connaissance préalable du domaine cible, ce qui est irréaliste lorsque les données cibles sont limitées, partiellement observées ou évolutives.

Méthodologie : ADualVUOT

Les auteurs proposent ADualVUOT (Adversarial Dual Variational Unbalanced Optimal Transport), une nouvelle architecture d'apprentissage profond conçue spécifiquement pour la segmentation d'images médicales. Le cadre intègre quatre composantes clés pour répondre aux limitations des espaces latents partagés et de l'augmentation statique :

1. Auto-encodeur Variationnel à Double Encodeur avec Flux Normalisants Continus (CNF)

Au lieu de forcer les données sources et cibles dans un seul espace latent partagé, ADualVUOT utilise une architecture à double encodeur :

Encodeur Partagé : Un backbone partagé extrait les représentations de caractéristiques des images d'entrée.
Têtes Spécifiques au Domaine : Les caractéristiques sont divisées en têtes entièrement connectées spécifiques au domaine qui prédisent les paramètres de deux postulats gaussiens distincts. Cela permet de projeter les domaines source et cible dans des espaces latents de dimensions différentes ( $K$ pour la source, $P$ pour la cible), s'adaptant au fait que les domaines sources sont souvent plus vastes et plus diversifiés que les domaines cibles.
Flux Normalisants Continus (CNF) : Pour surmonter le biais inductif restrictif des hypothèses gaussiennes, les variables latentes initiales sont transformées via des CNF. Cela crée des distributions postérieures plus expressives et non gaussiennes, améliorant la flexibilité de modélisation.

2. Transport Optimal Déséquilibré Hiérarchique (UOT) avec Gromov-Wasserstein Gaussien (GGW)

Pour aligner les espaces latents hétérogènes sans exiger une dimensionnalité partagée, le cadre utilise une formulation d'OT hiérarchique :

Alignement au Niveau de l'Embedding (GGW) : La distance de Gromov-Wasserstein Gaussienne est utilisée pour comparer les structures géométriques internes des distributions latentes source et cible. Cela permet un transport entre des espaces de dimensions différentes en comparant les valeurs propres de leurs matrices de covariance plutôt qu'en s'appuyant sur des distances ponctuelles.
Alignement au Niveau Mini-Batch (UOT) : Un plan de Transport Optimal Déséquilibré est calculé pour établir des correspondances souples entre les échantillons sources et cibles au sein d'un mini-batch. Cela gère la relaxation de masse, accommodant les potentiels décalages de distribution.
Cohérence Sémantique : Le coût de transport combine la distance géométrique GGW avec une composante sémantique basée sur le coefficient de similitude de Dice (DSC) entre les étiquettes sources et les pseudo-étiquettes cibles, garantissant que des embeddings géométriquement similaires mais sémantiquement incompatibles ne soient pas couplés.

3. Augmentation de Données Adversaire (MaxStyle)

Pour améliorer la robustesse sans dépendre de politiques d'augmentation prédéfinies, les auteurs adaptent la stratégie MaxStyle :

Mélange de Style : Les cartes de caractéristiques des décodeurs de reconstruction source et cible sont mélangées en utilisant des combinaisons linéaires de leurs moyennes et écarts types par canal.
Optimisation Adversaire : Les coefficients de mélange et les paramètres de bruit additif sont optimisés via une ascension de gradient sur la perte de segmentation source (tout en maintenant les poids du réseau gelés). Ce processus génère dynamiquement des compositions de styles "pire cas" qui défient le modèle, le forçant à apprendre des caractéristiques invariantes au domaine sans nécessiter de connaissance préalable du domaine cible.

4. Objectif d'Entraînement

La fonction de perte totale combine :

Les pertes de borne de preuve (ELBO) spécifiques au domaine pour la reconstruction et la segmentation (pour la source).
La perte de transfert UOT pour minimer la disparité de domaine.
Un terme de perte adversaire qui minimise l'objectif sur les échantillons augmentés du pire cas.

Contributions Clés

L'article revendique les contributions suivantes :

Cadre Novateur : La proposition d'ADualVUOT, qui exploite la théorie du Transport Optimal via la distance de Gromov-Wasserstein Gaussienne pour effectuer un alignement sensible à la géométrie entre des espaces latents hétérogènes (dimensions différentes).
Dual-Encoder CNF-VAE : L'introduction d'une architecture à double encodeur qui projette les données sources et cibles dans des espaces latents distincts. Les auteurs notent qu'il s'agit du premier travail intégrant une architecture à double encodeur avec un alignement de l'espace latent basé sur l'OT pour l'UDA, évitant les hypothèses restrictives de dimensionnalité partagée.
Augmentation Adversaire : Une stratégie d'augmentation dynamique qui génère des échantillons stimulants pour améliorer la robustesse et faciliter l'alignement, éliminant le besoin de connaissances préalables sur le domaine cible ou de politiques statiques.
Validation Empirique : Démonstration de l'efficacité sur plusieurs benchmarks de segmentation d'images médicales, montrant des améliorations constantes par rapport aux méthodes OT existantes.

Résultats Expérimentaux

Les auteurs ont évalué ADualVUOT sur deux benchmarks d'imagerie médicale :

Jeu de données d'IRM de la prostate multi-sites : Impliquant une adaptation à travers sept sites d'acquisition différents. ADualVUOT a obtenu les scores Dice les plus élevés sur tous les domaines cibles par rapport aux modèles de base comme PUFT, JUMBOT et les modèles "source-only". Des gains notables ont été observés sur des sites difficiles (par exemple, une amélioration allant jusqu'à 8 % par rapport à PUFT sur le Site D).
Segmentation du Cœur Entier Multi-Modalité (MM-WHS) : Impliquant une adaptation cross-modalité (IRM $\leftrightarrow$ CT). ADualVUOT a surpassé tous les modèles de base, avec des améliorations particulièrement significatives (jusqu'à 5 % au total) dans la tâche difficile d'adaptation CT-vers-IRM.

Études d'Ablation :

DualVUOT vs. ADualVUOT : Le retrait de l'augmentation adversaire (DualVUOT) a entraîné des performances moindres, confirmant le bénéfice de la génération dynamique d'échantillons du pire cas.
VUGW vs. DualVUOT : Le remplacement du plan hiérarchique UOT-GGW par un plan Gromov-Wasserstein déséquilibré standard (VUGW) a montré des performances inférieures, soulignant l'importance de l'alignement hiérarchique et de la conception du double encodeur.

Signification et Revendications

L'article positionne ADualVUOT comme une solution à la limitation du "taille unique" des méthodes actuelles d'adaptation de domaine. En découplant les représentations latentes et en utilisant la distance GGW, la méthode préserve les informations spécifiques au domaine qui sont souvent perdues dans les approches à espace partagé. L'intégration de l'augmentation adversaire renforce davantage la robustesse contre les décalages de domaine complexes courants en imagerie médicale, tels que les variations de scanners et de protocoles d'acquisition. Les auteurs affirment que leur approche atteint des résultats de pointe sur les benchmarks médicaux standards, chaque composante (double encodeur, alignement GGW et augmentation adversaire) contribuant substantiellement à l'amélioration globale des performances.