Résumé Technique : Déverrouiller les dimensions latentes dans les données de diffusion de rayons X à grande échelle

Énoncé du problème

Les installations scientifiques, en particulier les synchrotrons, génèrent des données de diffusion de rayons X à des taux qui dépassent la capacité des flux de travail traditionnels d'inspection manuelle et de traitement par lots hors ligne. Les jeux de données résultants sont hétérogènes, de haute dimension et d'une échelle massive (millions d'images). Bien que l'apprentissage automatique ait montré un potentiel pour l'analyse de données complexes de rayons X, une lacune critique subsiste dans l'extraction de structures interprétables à partir de ces archives massives en temps réel. Un défi spécifique abordé dans ce travail est de déterminer si les modèles de fondation de vision à usage général (entraînés sur des images naturelles) sont suffisants pour l'analyse des données de diffusion, ou si les caractéristiques structurelles uniques des motifs de diffusion (par exemple, les anneaux de diffraction, la symétrie des pics) nécessitent des modèles spécifiques au domaine.

Méthodologie

1. Architecture du modèle : Auto-encodeur variationnel convolutionnel basé sur l'attention (C-VAE)

Les auteurs ont développé un auto-encodeur variationnel convolutionnel (C-VAE) spécifique au domaine pour apprendre des représentations de faible dimension des images de diffusion de rayons X.

• Conception hybride : L'architecture combine des réseaux de neurones convolutionnels (CNN) pour capturer les caractéristiques spatiales locales avec des mécanismes d'auto-attention fenêtrés (inspirés des Transformers Swin) pour modéliser les dépendances à longue portée et les structures hiérarchiques.
• Entrée/Sortie : Le modèle traite des images de $512 \times 512$ pixels et les projette dans un espace latent de 512 dimensions.
• Cadre probabiliste : En tant que VAE, il impose un espace latent structuré et continu, facilitant les tâches en aval comme le partitionnement (clustering) et l'interpolation. L'encodeur produit la moyenne et la log-variance d'une distribution gaussienne diagonale, utilisant l'astuce de reparamétrage pour l'échantillonnage stochastique.

2. Données d'entraînement et infrastructure

• Jeu de données : Le modèle a été entraîné sur 1,5 million d'images de diffusion de rayons X collectées sur une décennie à l'Advanced Light Source (ALS), spécifiquement sur la ligne de faisceau 7.3.3. Les données englobent divers systèmes de matériaux (poudres cristallines, cristaux liquides, matériaux amorphes, films minces) et géométries (transmission et incidence rasante).
• Matériel : L'entraînement a été réalisé sur le supercalculateur NERSC Perlmutter en utilisant 80 GPU NVIDIA A100 sur environ 48 heures.
• Prétraitement : Les images ont été redimensionnées de leur résolution native ($1475 \times 1679$) à $512 \times 512$ avant l'encodage.

3. Stratégies de génération de données synthétiques

Pour générer des images de diffusion synthétiques contrôlées à partir de l'espace latent, deux stratégies ont été implémentées :

• Échantillonnage PCA guidé par UMAP : Des modèles PCA sensibles aux clusters sont ajustés sur les vecteurs latents centraux. De nouveaux échantillons sont générés en échantillonnant un bruit gaussien dans l'espace PCA de clusters spécifiques, pondéré par un softmax contrôlé par la température sur les centroïdes UMAP proches.
• Appariement de flux conditionnel (Conditional Flow Matching - CFM) : Un réseau de vitesse apprend un flux normalisant continu d'une distribution gaussienne standard vers la distribution latente d'entraînement, conditionné par des coordonnées UMAP en 2D. Cette méthode incorpore un guidage sans classificateur (classifier-free guidance) pour améliorer la fidélité du conditionnement.

4. Infrastructure logicielle

Le flux de travail est intégré à la plateforme MLExchange via le composant Latent Space Explorer. Ce système prend en charge :

• Analyse hors ligne : Exploration interactive des archives de données à l'aide de réduction de dimensionnalité (PCA, UMAP, t-SNE) et de partitionnement (HDBSCAN).
• Analyse à la volée : Encodage en temps réel des images de détecteurs en flux continu avec un temps d'inférence d'environ 0,05 seconde par échantillon.
• Gestion des modèles : Intégration avec MLflow pour l'enregistrement versionné des modèles et Tiled pour l'accès aux données.

Résultats clés

1. Organisation de l'espace latent

Le C-VAE a appris un espace latent bien organisé à partir des 1,5 million d'images historiques :

• Partitionnement (Clustering) : HDBSCAN a identifié des clusters distincts correspondant à différents régimes de diffusion (par exemple, anneaux isotropes versus pics aigus).
• Trajectoires : À l'intérieur des clusters, les plongements (embeddings) forment des trajectoires lisses, de type linéique, qui reflètent la progression temporelle d'expériences individuelles, capturant des transitions morphologiques continues.
• Interprétabilité : L'espace latent a réussi à séparer les expériences indépendantes tout en regroupant les motifs structurellement similaires, une structure non récupérable par la simple projection des intensités de pixels bruts.

2. Déploiement à la volée et généralisation

Le C-VAE pré-entraîné a été déployé sans réentraînement pour l'analyse en direct dans deux installations :

• Ligne de faisceau 7.3.3 de l'ALS : A suivi avec succès l'évolution structurelle de films d'ionomères de perfluorosulfonique (PFSA) lors du revêtement par lame, capturant les transitions d'états dominés par le solvant vers des agrégats semi-cristallins.
• Ligne de faisceau SMI du NSLS-II : Le modèle s'est généralisé à une installation différente avec un matériel de détection et une géométrie de ligne de faisceau distincts, maintenant des trajectoires latentes fluides et un partitionnement cohérent des états structurels.

3. Comparaison avec les modèles de vision à usage général

Le C-VAE a été comparé à DINOv3 (ViT-7B), un modèle de fondation de vision à usage général entraîné sur des images naturelles :

• Performance : Bien que DINOv3 produise des trajectoires cohérentes, ses assignations de clusters sont plus fragmentées et ses trajectoires intra-expérience sont moins fluides.
• Interprétabilité : Le C-VAE spécifique au domaine démontre une capacité supérieure à organiser les caractéristiques propres à la diffusion (symétrie des anneaux de diffraction, netteté des pics, orientation) par rapport au modèle généraliste, qui repose sur des caractéristiques d'images naturelles telles que la texture et le contraste de couleur.

4. Génération d'images synthétiques

Les deux stratégies d'échantillonnage ont produit des images de diffusion synthétiques physiquement réalistes (anneaux concentriques, halos diffus, distributions anisotropes) qui occupent les mêmes régions de l'embedding UMAP que les données d'entraînement. L'appariement de flux conditionnel (CFM) a atteint une fidélité de conditionnement supérieure à l'échantillonnage PCA guidé par UMAP.

Signification et affirmations

L'article affirme que l'entraînement d'un modèle spécifique au domaine sur des données de diffusion à grande échelle permet d'obtenir une organisation latente plus interprétable que les modèles de vision à usage général. Les principales contributions incluent :

1. Démonstration de la faible dimensionnalité : Montrer que les variations structurelles dominantes dans les données de diffusion de rayons X peuvent être capturées dans un espace latent compact de 512 dimensions, justifiant l'analyse en temps réel sans perte significative d'informations discriminantes.
2. Généralisation inter-installations : Prouver qu'un modèle entraîné dans un synchrotron (ALS) peut efficacement organiser les données d'un autre (NSLS-II) sans réentraînement, suggérant que les représentations apprises capturent la physique fondamentale plutôt que des artefacts spécifiques à l'installation.
3. Flux de travail intégré : Fournir un environnement logiciel unifié (Latent Space Explorer) qui fait le pont entre l'exploration des archives hors ligne et la surveillance expérimentale en direct, permettant une découverte structurelle interactive.
4. Fondation pour l'automatisation : Établir un espace latent structuré qui peut servir d'interface pour de futurs contrôles expérimentaux autonomes et des agents de modèles de langage, passant d'une surveillance passive à une prise de décision basée sur les données.

Les auteurs notent que bien que les résultats soient prometteurs, les découvertes scientifiques spécifiques du déploiement sur la ligne P03 dépassent le cadre de cette étude centrée sur les méthodes et feront l'objet d'un rapport séparé. Ce travail souligne la nécessité d'un entraînement spécifique au domaine pour traiter les caractéristiques texturales et structurelles uniques des données de diffusion de rayons X.