Probabilistic coupling of cellular and microenvironmental heterogeneity by masked self-supervised learning

Dit artikel introduceert Mievformer, een op masked self-supervised learning gebaseerd Transformer-framework dat probabilistische koppelingen tussen microomgevings- en celheterogeniteit in ruimtelijke omics-data onthult door het leren van microomgevingsrepresentaties die gebaseerd zijn op naburige celtatoestanden en ruimtelijke configuraties.

De kern

Stel je voor dat een stukje weefsel in je lichaam niet zomaar een hoopje cellen is, maar meer lijkt op een levende stad.

In deze stad zijn er verschillende wijken (de micro-omgevingen). In sommige wijken wonen vooral rustige, oude mensen, in andere drukke jonge gezinnen, en weer elders werken alleen maar bouwvakkers. De manier waarop deze mensen met elkaar omgaan en waar ze wonen, bepaalt hoe ze zich gedragen.

Het probleem
Vroeger konden wetenschappers alleen maar kijken naar één persoon tegelijk en zeggen: "Ah, dit is een bouwvakker." Maar ze zagen niet waar die bouwvakker woonde of met wie hij praatte. Ze misten het grote plaatje van de stad.

Nieuwe technologieën maken het nu mogelijk om te zien wie er waar woont, maar het is nog steeds heel moeilijk om die wijken goed te definiëren. Het is alsof je een enorme foto van een stad hebt, maar je weet niet welke straten bij welke wijk horen of welke groep mensen het meest invloed heeft op de sfeer.

De oplossing: Mievformer
De onderzoekers hebben een slimme computerprogramma bedacht dat Mievformer heet. Je kunt dit zien als een super-scherpe detective die een masker draagt.

Hoe werkt deze detective?

1. Het Masker: De detective kijkt naar een specifieke plek in de stad (een cel) en doet alsof hij die plek even niet ziet (het masker).
2. De Omgeving: Hij kijkt wel naar alle buren om die plek heen. Hij ziet wie er woont, hoe dicht ze bij elkaar staan en wat voor "sfeer" er hangt.
3. Het Gokje: Op basis van die buren moet de detective raden: "Wat voor soort persoon zou hier normaal gesproken wonen?"
4. Leren: Als hij het goed raadt, krijgt hij een puntje. Als hij het fout heeft, leert hij van zijn fouten. Door dit miljoenen keren te doen, leert hij precies hoe de verschillende wijken (micro-omgevingen) eruitzien en hoe ze bepalen wat de bewoners (cellen) doen.

Waarom is dit zo goed?
Andere methoden proberen gewoon groepjes te maken die op elkaar lijken. Mievformer doet iets slimmers: het leert de kans (de probabiliteit) dat een bepaald type bewoner in een bepaalde wijk voorkomt.

Het is alsof je niet alleen zegt: "Hier is een school," maar je begrijpt ook: "In deze wijk is de kans 90% dat je kinderen ziet, en 10% dat je alleen ouderen ziet." Dit helpt om de verborgen regels van de stad te ontdekken.

De resultaten
De onderzoekers hebben getest of Mievformer beter werkt dan andere programma's:

• Op gesimuleerde data (een virtuele stad) was hij de beste in het vinden van de juiste wijken.
• Op echte data (van drie verschillende soorten microscopen) presteerde hij ook het beste, zelfs zonder dat ze de "juiste antwoorden" hadden om hem te controleren.

Wat levert dit op?
Met Mievformer kunnen artsen en biologen nu:

• Groepen cellen vinden die opvallend veel voorkomen in specifieke wijken (bijvoorbeeld: "Deze ziekte-cellen houden van de buurt van de bloedvaten").
• Ontdekken welke genen (de instructieboekjes van de cellen) actief worden als ze naast elkaar wonen.

Kortom:
Mievformer is een slimme tool die leert hoe cellen met elkaar en met hun omgeving "praten". Het helpt ons de complexe stad van ons lichaam beter te begrijpen, zodat we misschien sneller ziektes kunnen vinden of genezen.

Technische samenvatting

Probleemstelling

Hoewel ruimtelijke 'omics'-technologieën (zoals ruimtelijke transcriptomica) zijn doorgebroken naar een resolutie op het niveau van individuele cellen, blijft er een aanzienlijke uitdaging bestaan in de computationele analyse. De kernproblemen zijn:

1. Het definiëren van microomgevingstoestanden op het niveau van individuele cellen.
2. Het identificeren van representaties die het meest informatief zijn voor biologische ontdekkingen.
   Bestaande methoden slagen er vaak niet in om de complexe interactie tussen de heterogeniteit van de cel zelf en de heterogeniteit van de omliggende microomgeving op een robuuste manier te modelleren.

Methodologie: Mievformer

Het paper introduceert Mievformer, een nieuw framework dat gebaseerd is op Transformers en gemaskerde zelftoezichtlering (masked self-supervised learning). De technische werking omvat de volgende stappen:

• Architectuur en Input: Mievformer encodeert de toestanden van naburige cellen en hun relatieve ruimtelijke configuratie. Het model is ontworpen om de conditionele verdeling van continue celfuncties op centrale ruimtelijke posities te parameteriseren.
• Maskering: Net als bij andere transformer-modellen wordt een deel van de data gemaskeerd, waarna het model traint om deze gemaskeerde informatie te reconstrueren op basis van de context van de omgeving.
• Optimalisatie (InfoNCE): Het model wordt getraind met behulp van de InfoNCE-verliesfunctie (Information Noise Contrastive Estimation). Dit zorgt ervoor dat het model representaties leert die de relatieve verrijking van celfuncties over verschillende microomgevingen vastleggen.
• Probabilistische Koppeling: De methode formaliseert de relatie tussen microomgeving en celtoestand als een conditionele dichtheidsverhouding (conditional density ratio). Dit maakt probabilistische inferentie mogelijk over hoe microomgevingen en celpopulaties aan elkaar gekoppeld zijn.

Belangrijkste Bijdragen

1. Nieuw Framework: De ontwikkeling van Mievformer, dat voor het eerst microomgevingsembeddings leert door zowel interne celfuncties als ruimtelijke context expliciet te modelleren via een transformer-architectuur.
2. Probabilistische Formulering: Een wiskundige formalisatie van de koppeling tussen microomgeving en celheterogeniteit, wat verder gaat dan deterministische clustering.
3. Nieuwe Evaluatiemetriek (DREC): De introductie van DREC, een metriek die geen gebruik maakt van grond-waarheid (ground-truth) data. Simulaties hebben aangetoond dat DREC de sterkste correlatie vertoont met prestaties op grond-waarheid, wat het een ideaal hulpmiddel maakt voor het evalueren van methoden op echte datasets waar grond-waarheid vaak ontbreekt.
4. Uitgebreide Functionaliteit: Naast conventionele clustering biedt het framework de mogelijkheid om:
   • Celsubpopulaties te identificeren op basis van hun verdeling in de microomgeving.
   • Genexpressiesignaturen te detecteren die geassocieerd zijn met de colocalisatie van specifieke celpopulaties.

Resultaten

De prestaties van Mievformer werden getest op zowel gesimuleerde als reële data:

• Gesimuleerde Data: Mievformer overtrof bestaande methoden in het clusteren van ruimtelijke niches.
• Reële Data: Het model behaalde de hoogste gemiddelde prestatie over vijf echte datasets die afkomstig waren van drie verschillende ruimtelijke transcriptomica-platforms.
• Validatie: De superioriteit werd bevestigd met de DREC-metriek, die in simulaties sterk correleerde met de werkelijke prestaties.

Betekenis en Impact

Mievformer stelt een kwantitatief robuust en biologisch informatief framework voor voor het leren van microomgevingrepresentaties in ruimtelijke 'omics'. Door de probabilistische koppeling tussen celtoestand en omgeving te modelleren, biedt het onderzoekers een krachtig instrument om de complexe organisatie van weefsels beter te begrijpen. Dit gaat verder dan eenvoudige clustering en opent de deur tot het ontdekken van nieuwe biologische mechanismen die voortkomen uit de interactie tussen cellen en hun microomgeving, wat essentieel is voor velders zoals oncologie en ontwikkelingsbiologie.