A transcriptomics-native foundation model for universal cell representation and virtual cell synthesis

Le modèle xVERSE, une fondation native de la transcriptomique, surpasse les méthodes actuelles en apprentissage de représentations et en synthèse de cellules virtuelles de haute fidélité, permettant ainsi une analyse précise de petits ensembles de données et la détection de types cellulaires rares.

L'essentiel

Imaginez que vous essayez de comprendre la ville la plus complexe du monde : le corps humain. Chaque cellule est comme un habitant avec sa propre histoire, ses propres besoins et sa propre personnalité. Pour étudier cette ville, les scientifiques utilisent des "caméras" (les technologies de séquençage) pour prendre des photos de ces habitants. Mais il y a deux gros problèmes :

1. Les photos sont souvent floues ou incomplètes : Parfois, la caméra ne voit que quelques détails (comme si on ne pouvait lire que 500 mots sur un livre de 20 000).
2. Il y a trop peu de photos : Pour étudier des maladies rares ou des cellules très spécifiques, on n'a parfois que 4 ou 5 habitants à observer. C'est comme essayer de comprendre la culture d'une ville entière en ne parlant qu'à 4 personnes.

C'est là qu'intervient xVERSE, le nouveau héros de cette histoire.

Qu'est-ce que xVERSE ?

Imaginez un chef cuisinier génie qui a goûté à des milliards de plats différents (des milliards de cellules) provenant de toutes les cuisines du monde (tous les tissus, toutes les maladies). Ce chef ne se contente pas de mémoriser les recettes ; il a compris la chimie profonde de la cuisine.

xVERSE est un "modèle fondamental" (une sorte de super-intelligence artificielle) conçu spécifiquement pour comprendre le langage des cellules (l'ARN). Contrairement aux anciens modèles qui essayaient de lire les gènes comme une phrase (mot après mot), xVERSE comprend les gènes comme un orchestre où chaque instrument joue en même temps, sans ordre fixe.

Voici ce que xVERSE peut faire, expliqué simplement :

1. Le Traducteur Universel (Représentation)

Avant, si vous preniez une photo d'une cellule avec un appareil photo A et une autre avec un appareil photo B, les images semblaient différentes à cause de la lumière ou de l'angle (c'est ce qu'on appelle l'effet de "lot" ou batch effect).
xVERSE agit comme un traducteur universel. Peu importe l'appareil photo ou la langue utilisée, il peut dire : "Ah, c'est la même cellule !". Il nettoie les images pour ne garder que la vraie personnalité de la cellule, effaçant les défauts de la caméra. Il est même meilleur que les meilleurs traducteurs actuels pour cela.

2. Le Magicien de la Cuisine (Synthèse de cellules virtuelles)

C'est la partie la plus magique. Si vous avez un livre de cuisine incomplet (un échantillon de cellules avec peu de gènes mesurés), xVERSE peut deviner ce qu'il manque.
Mais il va plus loin : il peut inventer de nouveaux plats.

• L'analogie : Imaginez que vous avez un seul œuf dans votre frigo. Un cuisinier normal ne peut rien faire. xVERSE, lui, peut utiliser cet œuf pour imaginer et créer une omelette parfaite, puis une autre, et encore une autre, qui sont indiscernables d'une vraie omelette faite avec des œufs frais.
• En science : Il crée des "cellules virtuelles" si réalistes que même les experts ne peuvent pas dire si elles sont réelles ou inventées. Cela permet d'avoir un "gros échantillon" pour étudier des maladies rares, même si on n'a eu que quelques cellules réelles au départ.

3. Le Détective de la Ville (Découverte biologique)

Grâce à ces cellules virtuelles, xVERSE aide les scientifiques à :

• Trouver les aiguilles dans les bottes de foin : Il peut repérer des cellules très rares (comme une cellule malade unique parmi des milliers de saines) que les méthodes classiques ratent.
• Compléter les cartes : En spatial transcriptomics (qui permet de voir où sont les cellules dans le tissu), on ne mesure souvent que quelques gènes. xVERSE peut "remplir les trous" et deviner l'activité de tous les autres gènes, comme si on pouvait lire tout le livre en ne regardant que le titre et le premier paragraphe.

Pourquoi est-ce une révolution ?

Avant, pour étudier une maladie rare, il fallait faire des années d'expériences en laboratoire pour obtenir assez de cellules. C'était lent, cher et parfois impossible.

Avec xVERSE, les chercheurs peuvent simuler des expériences. Ils peuvent dire : "Et si on avait 1000 cellules de ce type ?" et le modèle les génère instantanément. Cela permet d'entraîner d'autres intelligences artificielles pour mieux diagnostiquer les maladies, prédire comment un patient réagira à un traitement, ou comprendre comment le cœur se répare après une greffe.

En résumé :
xVERSE est comme un moteur de réalité augmentée pour la biologie. Il prend les données imparfaites et incomplètes que nous avons, et les transforme en une image claire, complète et infiniment détaillée du monde cellulaire, nous permettant de voir ce qui était auparavant invisible.

Résumé technique

Résumé Technique : xVERSE, un modèle fondation natif pour la transcriptomique

1. Problématique et Contexte

L'expansion rapide du séquençage à l'échelle d'une seule cellule (scRNA-seq) et de la transcriptomique spatiale a généré des atlas cellulaires massifs. Cependant, les modèles fondation actuels pour les données omiques (comme scGPT, Nicheformer, Geneformer) reposent principalement sur des architectures de modèles de langage (LLM) adaptées (ex: BERT, GPT).

Les limites de l'état de l'art :

• Inadéquation architecturale : Ces modèles traitent les données transcriptomiques comme des séquences de tokens ordonnés, alors que les profils d'expression génique sont intrinsèquement désordonnés, haute dimensionnels et épars.
• Absence de génération fidèle : Bien qu'ils apprennent de bonnes représentations, ils ne modélisent pas explicitement les distributions de probabilité complètes du transcriptome. Ils fonctionnent comme des apprenants de représentations plutôt que comme des moteurs génératifs capables de synthétiser des cellules virtuelles réalistes.
• Performance limitée : Ils sous-performent souvent les méthodes spécialisées traditionnelles pour des tâches comme la correction des effets de lot (batch effects), l'imputation de gènes non mesurés ou l'analyse de petits jeux de données.

2. Méthodologie : L'Architecture xVERSE

xVERSE est un modèle fondation génératif natif à la transcriptomique, conçu pour unifier l'apprentissage de représentations universelles et la reconstruction probabiliste du transcriptome entier.

Architecture Clé

Le modèle intègre quatre innovations majeures :

1. Modélisation des comptes bruts (Raw Counts) : Contrairement aux modèles basés sur des Transformers séquentiels, xVERSE modélise directement les comptes de gènes bruts, respectant la nature désordonnée et haute dimensionnelle des données.
2. Apprentissage auto-supervisé robuste : Utilisation d'une stratégie de masquage stochastique des gènes "panel-aware" pour apprendre à travers des panels de gènes variables (crucial pour la transcriptomique spatiale).
3. Désentrelacement des signaux biologiques et techniques : Utilisation d'une Couche de Réversion de Gradient (Gradient Reversal Layer - GRL) pour séparer explicitement la variation biologique des confondants techniques (effets de lot, plateformes), assurant des représentations invariantes au batch.
4. Décodeur Génératif Probabiliste : Le modèle ne prédit pas simplement des valeurs, mais apprend à générer des distributions de Poisson spécifiques à chaque cellule et chaque gène. Cela permet de synthétiser des profils d'expression réalistes en échantillonnant à partir de ces distributions.

Données d'Entraînement

Le modèle a été pré-entraîné sur une base de données massive et hétérogène comprenant :

• Plus de 89 millions de profils cellulaires.
• 70 millions de cellules issues de technologies de séquençage par gouttelettes (scRNA-seq/snRNA-seq) couvrant 64 tissus et 138 états pathologiques.
• 19 millions de cellules issues de technologies de transcriptomique spatiale (Xenium, MERFISH, CosMx) couvrant 13 tissus.

3. Contributions et Fonctionnalités Principales

A. Représentations Universelles de Cellules et de Gènes

xVERSE apprend des représentations latentes robustes et invariantes aux effets de lot, aux variations de panels de gènes et aux différences technologiques.

• Score Gene2Cell : Le modèle attribue un score à chaque gène indiquant sa contribution à l'identité biologique d'une cellule. Cela permet d'identifier les gènes marqueurs les plus informatifs et de guider la conception de panels pour la transcriptomique spatiale (réduire le nombre de gènes tout en conservant l'information biologique).

B. Synthèse de Cellules Virtuelles Haute Fidélité

xVERSE est le premier modèle fondation capable de synthétiser des "cellules virtuelles" indiscernables des données biologiques réelles.

• Fidélité : Les cellules synthétisées reproduisent fidèlement la distribution des comptes UMI, la sparsité et les dépendances complexes haute dimensionnelles.
• Indiscernabilité : Des classificateurs binaires ne parviennent pas à distinguer les cellules virtuelles des cellules biologiques (AUROC ≈ 0,5, soit une chance aléatoire), surpassant largement les modèles génératifs existants comme scVI (AUROC > 0,7).

C. Imputation et Augmentation de Données

• Imputation sans référence externe : xVERSE peut imputer des gènes non mesurés dans des données spatiales (panels restreints) sans dépendre de jeux de données de référence externes, surpassant les méthodes spécialisées (SpaGE, gimVI) de 34,3 % en moyenne.
• Récupération de la puissance statistique : En générant des cellules virtuelles de haute fidélité, xVERSE permet d'augmenter les petits jeux de données (ex: échantillons cliniques rares), permettant la résolution de types cellulaires rares (détectés avec seulement 4 cellules biologiques) et l'amélioration de l'analyse des gènes différentiellement exprimés (DEG).

4. Résultats Expérimentaux

• Représentation : xVERSE surpasse les modèles fondation leaders (scGPT, Nicheformer) de 17,9 % et la méthode de correction de lot spécialisée (Harmony) de 11,4 % en termes de score de silhouette moyen (ASW) pour la séparation des types cellulaires, même en mode "zero-shot" (sans fine-tuning).
• Imputation Spatiale : Dans des tests de masquage sur des données CosMx, xVERSE a atteint une corrélation de Pearson de 0,4130 (zero-shot) et 0,4785 (fine-tuned), surpassant les meilleures performances des méthodes spécialisées et démontrant une robustesse supérieure face aux échecs catastrophiques observés chez les autres méthodes pour les gènes les plus difficiles à prédire.
• Généralisation des Modèles ML : L'utilisation de cellules virtuelles xVERSE pour l'augmentation des données d'entraînement a considérablement amélioré la généralisation des modèles de prédiction cross-modale (prédiction de protéines ADT, isotypes de chaînes lourdes de B-cells, lignées T-cells) vers des états pathologiques non vus (dysfonctionnement de greffon, vasculopathie), réduisant l'erreur quadratique moyenne (MSE) et augmentant l'AUC.

5. Signification et Impact

xVERSE représente un changement de paradigme dans l'analyse des données à l'échelle d'une seule cellule :

1. Passage du Token à la Distribution : Il abandonne l'approche "token-based" des LLM pour une modélisation probabiliste native des distributions d'expression, mieux adaptée à la biologie.
2. Moteur d'Augmentation de Données : Il permet aux chercheurs de "réaliser des expériences computationnelles" en générant des réplicats virtuels réalistes, contournant les contraintes physiques et coûteuses de la biologie expérimentale (manque de tissus, rareté des échantillons).
3. Universalité et Interopérabilité : En découplant la découverte biologique des contraintes matérielles (panels de gènes limités), il permet d'extraire un maximum d'informations à partir de technologies ciblées et peu coûteuses.
4. Accélération de la Découverte : Il démocratise l'accès aux modèles d'apprentissage profond de pointe, permettant de les entraîner efficacement même avec des échantillons biologiques très limités.

En conclusion, xVERSE établit un nouveau cadre pour la découverte guidée par les données en génomique, transformant la manière dont les biologistes intègrent, analysent et synthétisent les données transcriptomiques complexes.