Self-supervised learning for a gene program-centric view of cell states

Dit artikel introduceert Tripso, een zelftoezichtend transformer-model dat celtoestanden analyseert op basis van gedefinieerde en nieuw ontdekte genprogramma's om interpreteerbare biologische inzichten en waardevolle hypotheses voor de biomedische wetenschap te genereren.

De kern

Tripso: De "Reisgids" voor Cellen die Verwarring Oplost

Stel je voor dat een cel niet als een statisch blokje is, maar als een levend, ademend orkest. In het verleden hebben wetenschappers geprobeerd dit orkest te begrijpen door naar één enkele noot te luisteren (één gen) of door het geluid van het hele orkest te mixen tot één vaag geluid (één "latente representatie"). Het probleem? Dat ene geluid verbergt wie er precies aan het spelen is. Is het de trompettist (een signaalroute) die hard speelt, of de fluitist (een andere route)? Soms spelen ze allebei, en dat maakt het moeilijk om te begrijpen wat er echt gebeurt.

Deze paper introduceert Tripso, een nieuwe manier om naar cellen te kijken. In plaats van één vaag geluid, luistert Tripso naar de afzonderlijke instrumentgroepen (de "Gene Programs" of GP's) binnen het orkest.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Smoothie" van de Cel

Stel je voor dat je een smoothie maakt met aardbeien, spinazie en chocolade. Als je de smoothie proeft, smaakt het naar "fruit-choco-mix". Je kunt niet meer zeggen hoeveel er van elk ingrediënt in zit.

• Huidige methoden: Ze maken zo'n smoothie. Ze nemen duizenden genen, mixen ze en zeggen: "Dit is een bloedcel." Maar ze weten niet precies welke "smaak" (welk biologisch proces) dominant is.
• Het gevolg: Als je wilt weten waarom een cel ziek wordt of veroudert, is die ene "smoothie-smaak" te vaag. Je mist de details.

2. De Oplossing: Tripso als "Scheidingstafel"

Tripso is als een slimme kok die de smoothie weer terugdraait naar losse ingrediënten, maar dan in real-time.

• Gene Programs (GP's): Tripso kijkt naar groepen genen die samenwerken, zoals een "signaalroute" (bijv. een alarmbel die af gaat) of een "transcriptiefactor" (een chef-kok die de recepten schrijft).
• De Magie: Tripso leert voor elke cel niet één antwoord, maar veel kleine antwoorden. Het zegt: "In deze cel is de 'JAK-STAT'-route (een alarm) heel hard aan het spelen, maar de 'IKZF1'-route (een chef) is juist aan het rusten."

Tripso gebruikt een technologie genaamd Transformer (dezelfde technologie die AI-chatbots zoals ik aansturen). Het leert de "taal" van de genen en begrijpt de context: welke genen spelen samen in welke situatie?

3. Wat hebben ze ontdekt? (De Drie Grote Verhalen)

De auteurs hebben Tripso getest op drie verschillende gebieden:

A. De Leeftijdsreis van Bloedcellen (Hematopoësis)

Stel je voor dat je een bloedcel bent die opgroeit van een baby tot een oude man.

• De ontdekking: Tripso zag dat jonge (pediatrische) bloedcellen een heel ander "alarm" hebben dan volwassen cellen. Ze zagen dat jonge cellen veel actiever waren in het JAK-STAT-systeem (vergelijkbaar met een snelle groeispurt).
• De B-cel-verandering: Ze zagen ook dat de manier waarop B-cellen (een type witte bloedcel) zich ontwikkelen, verandert na de geboorte. Voor de geboorte focussen ze op "veel maken" (vermenigvuldigen), maar daarna op "diversiteit" (leren om verschillende ziektes te bestrijden). Tripso kon dit verschil zien omdat het naar de juiste "chef" (het IKZF1-programma) keek, terwijl andere methoden dit over het hoofd zagen.

B. Het Verbeteren van Kweekcellen (In vitro vs. In vivo)

Wetenschappers proberen vaak bloedstamcellen in een flesje (in het lab) te kweken om ze te gebruiken voor therapieën. Maar vaak "vergeten" deze cellen hun oorspronkelijke identiteit en sterven ze of veranderen ze te snel.

• De zoektocht: Tripso vergeleek de cellen in het flesje met de cellen in het menselijk lichaam. Het zag dat de cellen in het flesje een verkeerd "recept" volgden.
• De oplossing: Tripso wees op een specifiek mechanisme: het SEC61-translocon (een soort poort in de cel die eiwitten verplaatst). Het voorspelde: "Als we deze poort een beetje blokkeren, blijven de cellen jonger."
• Het resultaat: Ze deden het experiment. Ze gaven de cellen een remmer voor deze poort. Het werkte! Er waren veel meer gezonde stamcellen over. Tripso had de sleutel gevonden die met de oude methoden onzichtbaar was gebleven.

C. Huidziekten en de "Verborgen Buurman"

Bij huidziektes zoals eczeem (atopische dermatitis) is het immuunsysteem vaak in paniek.

• De ontdekking: Tripso vond een nieuw, onbekend "programma" (GP23) dat actief was in specifieke T-cellen (verdedigers) bij eczeem.
• De locatie: Met behulp van een soort "GPS voor cellen" (ruimtelijke transcriptomics) zagen ze dat deze cellen zich niet willekeurig verspreidden. Ze zaten vastgeplakt bij talgklieren (de klieren die ons huidvet produceren).
• De betekenis: Het lijkt erop dat deze verdedigers zich nestelen bij de talgklieren omdat ze daar hun "voedsel" (vetten) vinden om te overleven, zelfs als de huid rustig lijkt. Dit verklaart waarom eczeem vaak terugkomt: de "sluipmoordenaars" zitten nog steeds daar, klaar om weer aan te vallen.

Waarom is dit belangrijk?

Vroeger was het alsof je een auto probeerde te repareren door alleen naar de buitenkant te kijken en te zeggen: "De auto is kapot."
Tripso kijkt onder de motorkap en zegt: "De ontsteking in cilinder 3 is te hoog, en de brandstofpomp in cilinder 5 werkt niet goed."

Door cellen te beschrijven als een verzameling van specifieke, begrijpelijke programma's in plaats van één vaag punt, maakt Tripso het mogelijk om:

1. Betere diagnoses te stellen (we zien nu subtiele verschillen in ziekte).
2. Betere medicijnen te ontwerpen (we weten precies welk "programma" we moeten aan- of uitzetten).
3. Betere laboratoriumtests te doen (we weten hoe we cellen in een flesje "menselijker" kunnen houden).

Kortom: Tripso is de vertaler die ons helpt de complexe taal van de cel te begrijpen, niet door naar één woord te kijken, maar door de volledige zin en de context te analyseren. Het maakt de "zwarte doos" van de cel een stuk transparanter.

Technische samenvatting

Probleemstelling

Single-cell omics-technologieën hebben de biologische analyse uitgebreid van het bekijken van individuele genen naar het onbevooroordeeld profileren van tienduizenden genen tegelijk. Echter, het extraheren van biologische inzichten uit deze hoogdimensionele data blijft een uitdaging.

• Beperkingen van bestaande methoden: Veel computergestuurde benaderingen comprimeren de toestand van een cel in één enkele "latent representation" (bijv. via PCA of Variational Autoencoders). Dit verbergt de structuur van onderliggende Genprogramma's (Gene Programs - GPs), gedefinieerd als gecoördineerde sets van biologisch gerelateerde genen (zoals signaalwegmodules of transcriptiefactor-doelen).
• Interpretatie en complexiteit: Bestaande foundation-modellen voor single-cell data vertegenwoordigen vaak elke cel als één embedding die meerdere bronnen van biologische variatie "verstrengelt". Dit bemoeilijkt de studie van complexe experimentele opzetten (bijv. in vivo vs. in vitro of verschillende ziektestatussen) en maakt het moeilijk om mechanistische hypothesen te genereren die experimenteel getest kunnen worden.
• Behoefte: Er is een behoefte aan een model dat cellulaire staten decomposeert in interpreteerbare eenheden (GPs) zonder de flexibiliteit van moderne deep learning-architecturen op te geven.

Methodologie: Tripso

De auteurs introduceren Tripso (Transformers for learning Representations of Interpretable gene Programs in Single-cell transcriptOmics), een zelftoezichtend (self-supervised) deep learning-framework.

Architectuur en Werkingsprincipe:
Tripso modelleert celpunten als een hiërarchie van interpreteerbare representaties:

1. Gen-Encoder (Gene Representation): Een transformer-model genereert contextuele gen-embeddings via self-attention tussen genen binnen individuele cellen. Dit vangt context-afhankelijke expressierelaties op.
2. GP-specifieke Transformers (GP Representation):
   • Vooraf gedefinieerde GPs (gebaseerd op databases zoals CollecTRI of PROGENy) worden verwerkt door aparte transformer-blokken.
   • Gen-embeddings worden gerouteerd naar de specifieke GP-blocks.
   • Elk blok bevat een speciale CLS-token die attendeert op de bijbehorende gen-embeddings. Deze token fungeert als een niet-lineaire samenvatting van de activiteit van dat specifieke genprogramma in die cel.
   • Training gebeurt via een masked language modeling doelstelling (vergelijkbaar met BERT), waarbij het model moet voorspellen welke genen gemaskeerd zijn binnen een programma.
3. Globale Cel-Representatie (Cell Representation):
   • Een globale cel-embedding wordt geleerd door te attenderen op de verzameling van alle GP-embeddings (CLS-tokens).
   • Een decoder traint deze representatie door de oorspronkelijke gen-expressie-aantallen te reconstrueren (met een negatief-binomiale verliesfunctie).

Ontdekking van Nieuwe Genprogramma's:
Naast het gebruik van vooraf gedefinieerde GPs, kan Tripso nieuwe, datagedreven GPs ontdekken. Dit gebeurt door een extra transformer-block te trainen op een selectie van genen (bijv. highly variable genes). De aandachtspatronen (attention weights) van de CLS-token naar de genen worden geclusterd om nieuwe, context-specifieke genprogramma's te identificeren die niet in bestaande databases staan.

Analyse en Metrieken:

• Gen-bijdrage: De bijdrage van individuele genen aan een GP wordt gekwantificeerd via cosinus-similariteit tussen de gen-embedding en de GP CLS-token.
• GP-bijdrage: De belangrijkheid van een GP voor de algehele celidentiteit wordt bepaald door ablatie (het instellen van de embedding op nul) en het meten van de afwijking in de cel-embedding.
• Vergelijking: Tripso maakt geavanceerde analyses mogelijk, zoals optimale transport (optimal transport) tussen condities (bijv. in vivo vs. in vitro) in de GP-latente ruimte.

Belangrijkste Resultaten

1. Benchmarking en Validatie

• Tripso werd vergeleken met matrix-factorenmethoden (Spectra) en interpretable VAE's (Expimap) op een grote Perturb-seq dataset (cytokine-stimulatie en genetische perturbaties).
• Resultaat: Tripso presteerde significant beter in het onderscheiden van celtoestanden op basis van specifieke GP-activiteit (hogere F1-scores) en in het herkennen van genetische perturbaties. Het model was ook beter bestand tegen batch-effecten dan methoden die direct op gen-expressie werken.

2. Hematopoëse: Leeftijdsafhankelijke Patronen

• Toepassing op een uitgebreide dataset van menselijke hematopoëtische cellen (van prenataal tot oud).
• JAK-STAT: Tripso identificeerde verhoogde JAK-STAT-activiteit in pediatrische hematopoëtische stamcellen, wat overeenkomt met een interferon-puls die postnatale expansie bevordert.
• IKZF1 en B-cel differentiatie: Er werd een verschuiving waargenomen in de IKZF1-activiteit tijdens de overgang van prenataal naar postnataal. Prenatale Pro-B-cellen toonden een programma gericht op expansie (hoge DTX1, BCL2L1), terwijl postnatale cellen een programma vertoonden gericht op BCR-diversificatie (hoge IGLL1, DNTT). Deze verschillen waren specifiek zichtbaar in de IKZF1-embedding, maar niet in andere programma's (zoals WNT), wat de resolutie van het model onderstreept.

3. In vitro vs. In vivo Mapping en Experimentele Validatie

• Tripso werd gebruikt om in vitro gekweekte hematopoëtische stamcellen (HSC) te vergelijken met in vivo referenties.
• PI3K en SEC61: Door de PI3K-GP te analyseren, identificeerde Tripso dat de genen SSR1 en SEC61G (onderdelen van het ER-translocon) minder belangrijk waren in stamcellen en meer in gedifferentieerde cellen.
• Hypothese en Validatie: De auteurs hypothesiseerden dat remming van SEC61 de stamceltoestand zou kunnen behouden. Experimentele validatie met de SEC61-remmer SEC61-IN-1 bevestigde dit: de behandeling resulteerde in een significant hoger percentage immunofenotypische HSC's in cultuur, vooral in media met UM171 en SR-1. Dit toont aan dat Tripso actieerbare therapeutische doelen kan identificeren die met traditionele methoden (zoals differentiële expressie-analyse) moeilijk te prioriteren waren vanwege kleine effectgroottes.

4. Huidinfectie: Ontdekking van Ziekte-geassocieerde GPs

• Toepassing op een grote atlas van menselijke huid (1,7 miljoen cellen) inclusief atopische dermatitis (AD) en psoriasis.
• GP23: Tripso ontdekte een nieuw, data-gedreven genprogramma (GP23) dat specifiek geassocieerd was met AD en niet met psoriasis. Dit programma bevatte genen gerelateerd aan ontstekingsremming, metabole aanpassing en vesikelvervoer.
• Ruimtelijke Validatie: Ruimtelijke transcriptomics (Xenium) en proteomics toonden aan dat GP23-activiteit gelokaliseerd was in specifieke weefsel-niches: dicht bij talgklieren en in ontstekingsrijke epidermale gebieden, geassocieerd met IL13+ tissue-resident memory (TRM) T-cellen.
• Significantie: GP23-activiteit bleef aanwezig in huid die klinisch genezen leek, maar waar de ziekte terugkeerde, wat suggereert dat deze ruimtelijk beperkte programma's een rol spelen in terugkerende ontstekingen.

Bijdragen en Betekenis

Technische Innovatie:
Tripso verschuift de focus van het comprimeren van celtoestanden naar één scalar of één embedding, naar het modelleren van celtoestanden als een compositie van meerdere, interpreteerbare GP-embeddings. Dit combineert de kracht van transformer-architecturen (contextuele afhankelijkheid, niet-lineariteit) met biologische interpreteerbaarheid.

Biologische Impact:

• Resolutie: Het model kan subtiele, context-specifieke verschillen in celtoestanden ontrafelen die door globale methoden worden gemist (bijv. de prenatale vs. postnatale B-cel differentiatie).
• Hypothesegeneratie: Het biedt een raamwerk om experimentele protocollen te optimaliseren (zoals HSC-kweek) en nieuwe ziektemechanismen te ontdekken (zoals de rol van metabole aanpassing in TRM-cellen bij AD).
• Ruimtelijke Context: Het koppelt succesvol dissociatie-data aan ruimtelijke weefselarchitectuur, wat cruciaal is voor het begrijpen van cel-cel interacties en niches.

Toekomstperspectief:
Tripso legt de basis voor "interpretable virtual cell models". Hoewel het nu werkt op transcriptomische data, is het framework ontworpen om uit te breiden naar multimodale data (chromatine, eiwitten) en cross-species vergelijkingen. Het stelt onderzoekers in staat om te bepalen welke genprogramma's geconserveerd zijn, welke divergeren, en welke als therapeutische targets dienen.

Kortom, Tripso biedt een fundamentele verbetering in de manier waarop single-cell data wordt geanalyseerd, waardoor het mogelijk wordt om complexe biologische systemen te begrijpen op het niveau van functionele genprogramma's in plaats van alleen op het niveau van individuele genen of globale celclusters.