🧬 biology

HEIST: A Graph Foundation Model for Spatial Transcriptomics and Proteomics Data

Dit artikel introduceert HEIST, een hiërarchisch graph transformer foundation model dat vooraf is getraind op 22,3 miljoen ruimtelijk opgeloste cellen en de ruimtelijke context integreert met intra-cellulaire gen- en eiwitnetwerken om een state-of-the-art prestatie te behalen in celannotatie, genimputatie en klinische uitkomstvoorspelling, terwijl het generaliseert naar onbekende datatypen zoals ruimtelijke proteomica.

Oorspronkelijke auteurs: Hiren Madhu, João Felipe Rocha, Tinglin Huang, Siddharth Viswanath, Smita Krishnaswamy, Rex Ying

Gepubliceerd 2026-06-05

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Hiren Madhu, João Felipe Rocha, Tinglin Huang, Siddharth Viswanath, Smita Krishnaswamy, Rex Ying

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer

Stel je voor dat je een bruisende, drukke stad probeert te begrijpen. Je hebt twee soorten gegevens over deze stad:

De Mensenlijst: Een enorme spreadsheet die vertelt wat elke persoon denkt en doet (hun "genexpressie").
De Kaart: Een GPS die laat zien waar elke persoon precies staat en bij wie ze staan (hun "ruimtelijke locatie").

Lange tijd moesten wetenschappers kiezen tussen het bekijken van de Mensenlijst of de Kaart. Als ze naar de lijst keken, misten ze de context van de buurt. Als ze naar de kaart keken, misten ze de interne gedachten van de individuen. Bovoltrek behandelden de meeste computermodellen de "woordenschat" van elke persoon als vaststaand, wat betekende dat ze een nieuwe stad niet konden begrijpen als die andere woorden (genen of eiwitten) gebruikte dan waarvoor ze getraind waren.

Ontmoet HEIST.

HEIST is een nieuw "foundation model" (een superintelligent AI-basismodel) dat ontworpen is om zowel de interne gedachten van cellen als hun buurtcontext tegelijkertijd te begrijpen. Hier is hoe het werkt, met behulp van eenvoudige analogieën:

1. De Twee-Niveaus Stadkaart (Hiërarchische Grafen)

De meeste modellen bekijken een stad op slechts één manier. HEIST bekijkt het als een Russische matroesjka-pop of een gebouw met twee verdiepingen:

De Bovenverdieping (De Buurt): Dit is een kaart van het hele weefsel. Het verbindt cellen op basis van wie naast wie staat. Het weet dat een cel in een "tumor-omgeving" anders is dan een cel in een "gezonde omgeving".
De Benedenverdieping (Het Interne Kantoor): Binnen elke afzonderlijke cel bouwt HEIST een mini-netwerk van de genen van die cel. Het somt niet alleen de genen op; het verbindt ze op basis van met wie ze communiceren (co-expressie).

De Magische Truc: HEIST kijkt niet alleen naar de bovenverdieping of de benedenverdieping. Het laat ze met elkaar praten.

Als een cel in een luidruchtige, drukke buurt staat (een specifieke weefselomgeving), werkt HEIST de interne "gedachten" van die cel bij om de stress te reflecteren.
Omgekeerd, als de genen binnen een cel een specifieke boodschap schreeuwen, gebruikt HEIST dit om te updaten hoe het de plaats van de cel in de buurt ziet.

2. Geen Vast Woordenboek (Generalisatie)

Stel je voor dat je een vertaler hebt getraind om Engels te spreken, maar ik geef je vervolgens een boek in het Frans. Een standaardmodel zou crashen omdat het alleen de "Engelse woordenschat" kent.

HEIST is anders. In plaats van een vaste lijst met woorden (genen) uit het hoofd te leren, leert het hoe woorden zich tot elkaar verhouden.

Als het een nieuw eiwit ziet dat het nog nooit eerder heeft gezien (zoals in proteomics-data), raakt het niet in paniek. Het kijkt naar hoe dat nieuwe eiwit met zijn buren "praat" en concludeert de betekenis op basis van die relaties.
Dit stelt HEIST in staat om over te springen van het bestuderen van RNA (transcriptomics) naar het bestuderen van Eiwitten (proteomics) zonder dat het vanaf nul opnieuw getraind hoeft te worden. Het is als een polyglot die een nieuwe taal kan leren door simpelweg de grammatica en zinsstructuur te begrijpen, zelfs als hij de woorden nog nooit heeft gehoord.

3. Hoe het heeft geleerd (De Training)

HEIST werd getraind op een enorme "stad"-dataset met 22,3 miljoen cellen uit 15 verschillende organen en 124 verschillende weefsels.

Het Spel van de Leraar: Om te leren, speelde de AI twee spelletjes:
1. Het "Zoek de Verschillen"-spel (Contrastief Leren): Het kreeg twee cellen te zien en de vraag: "Zijn deze buren vergelijkbaar of verschillend?" Het leerde om vergelijkbare cellen bij elkaar te groeperen en verschillende cellen uit elkaar te duwen.
2. Het "Vul de Gaten In"-spel (Masked Autoencoding): De AI kreeg een cel te zien waarvan sommige genen of locatiegegevens verborgen waren (gemaskeerd). Het moest de ontbrekende stukjes raden op basis van wat het wist over de buren van de cel en het interne genennetwerk van de cel.

4. Wat HEIST Kan Doen (De Resultaten)

Het artikel beweert dat HEIST een "superkracht" is voor de biologie op vier specifieke gebieden:

Verborgen Clusters Vinden: Het kan kleine, verborgen subgroepen van cellen vinden die andere modellen missen. Bijvoorbeeld, het kan een specif kind type immuuncel opsporen dat alleen in een zeer specifieke "micro-omgeving" binnen een tumor bestaat, terwijl eerdere modellen dit als slechts "generieke immuuncellen" beschouwden.
Gezondheidsuitkomsten Voorspellen: Het kan een weefselmonster analyseren en voorspellen of een kankerpatiënt zal reageren op immunotherapie of of een placenta gezond is, waarbij het vaak de beste andere modellen verslaat.
De Gaten Opvullen: Als een genmeting ontbrekend of ruizig is (een veelvoorkomend probleem in laboratoria), kan HEIST nauwkeurig raden wat het zou moeten zijn.
Snelheid: Het is ongelooflijk snel—8 keer sneller dan sommige concurrenten en 48 keer sneller dan anderen—omdat het een slimme, ijle (sparse) manier gebruikt om naar de data te kijken, in plaats van te proberen elke enkele cel met elke andere cel te verbinden.

Samenvatting

Beschouw HEIST als de ultieme biologische detective. Het leest niet alleen de identiteitsbewijzen van de cellen (genen); het bekijkt de plaats delict (de weefselkaart), begrijpt de relaties tussen de verdachten (genennetwerken) en gebruikt die context om mysteries op te lossen die andere detectives (modellen) te blind waren om te zien. Het is het eerste model dat er succesvol in is geslaagd om de "wie" (genen), de "waar" (ruimte) en de "hoe ze praten" (netwerken) te combineren in één verenigd, aanpasbaar systeem.

Technische Samenvatting: HEIST - Een Graph Foundation Model voor Ruimtelijke Transcriptomics en Proteomics

Probleemstelling

Single-cell transcriptomics en proteomics hebben diepgaande inzichten mogelijk gemaakt in cellulaire heterogeniteit, maar traditionele single-cell RNA-sequencing (scRNA-seq) mist de ruimtelijke context die nodig is om weefselorganisatie, interacties in de micro-omgeving en de invloed van gen-co-expressie op weefselniveau te begrijpen. Hoewel ruimtelijke transcriptomics en proteomics dit adresseren door fysieke locaties te behouden, kampen bestaande computationele modellen met aanzienlijke beperkingen:

Negeren van ruimtelijke of moleculaire complexiteit: Veel modellen negeren ofwel ruimtelijke informatie, of falen in het modelleren van de complexe genetische en proteomische programma's binnen cellen, wat de inferentie verhindert van hoe interne regulatie zich aanpast aan signalen uit de micro-omgeving.
Vaste vocabularies: De meeste foundation models maken gebruik van vaste gen-vocabularies, wat hun generaliseerbaarheid belemmert bij datasets die genen of eiwitten bevatten die niet aanwezig waren tijdens de pre-training.
Gebrek aan hiërarchische modellering: Bestaande benaderingen behandelen cellen en genen vaak als platte structuren of volledig verbonden grafen, waardoor ze de inductieve bias van ijle, biologisch plausibele co-expressie netwerken die interageren met ruimtelijke nabijheid, niet kunnen vastleggen.

Methodologie: HEIST Architectuur

De auteurs stellen HEIST voor (Hierarchical EmbeddIngs for Spatial Transcriptomics), een hiërarchisch graph transformer foundation model dat ontworpen is om zowel ruimtelijke nabijheid als interne gen-co-expressie netwerken gezamenlijk te modelleren.

1. Hiërarchische Graph Constructie

HEIST modelleert weefsels als een twee-niveau hiërarchische graaf:

Hoogniveau (Ruimtelijke Graaf): Een cel-cel graaf ( $G_c$ ) geconstrueerd door Voronoi-polygonen te berekenen vanuit celcoördinaten en cellen in aangrenzende polygonen te verbinden om ruimtelijke nabijheid en weefselarchitectuur te vangen.
Lagedniveau (Gen Co-expressie Netwerken): Elke cel wordt gerepresenteerd door een lagedniveau gen co-expressie netwerk ( $G^k_g$ ). Deze netwerken worden per celtype geconstrueerd door het berekenen van paarwise wederzijdse informatie tussen gedenoised genen (met behulp van MAGIC) en het verbinden van paren boven een datagedreven, adaptieve drempelwaarde $\tau$ .

2. Model Architectuur

HEIST maakt gebruik van een Hierarchical Graph Transformer die twee verschillende soorten message passing uitvoert:

Intra-level Message Passing: Binnen elke laag werkt het model cel-embeddings bij met een CellGraphTransformer (die langafstands ruimtelijke interacties vangt) en gen-embeddings met een GeneGraphTransformer (die fijnmazige co-expressie patronen vangt).
Cross-level Message Passing: Een nieuwrichtingsgebonden aandachtmechanisme integreert de twee modaliteiten.
- Gen-naar-Cel: Cel-embeddings worden verfijnd met behulp van gepoolde samenvattingen van hun constituerende genen, wat ervoor zorgt dat transcriptionele staten de ruimtelijke identiteit vormgeven.
- Cel-naar-Gen: Gen-embeddings worden bijgewerkt op basis van de ruimtelijke context van hun ouder-cel. Dit stelt het model in staat om hetzelfde gen anders te coderen afhankelijk van de cellulaire context, wat de mogelijkheid biedt om te generaliseren naar ongeziene genen of proteomische kenmerken zonder hertraining.

3. Pre-training Doelstellingen

HEIST wordt gepre-traind op 22,3 miljoen cellen uit 124 weefsels uit 15 organen met een combinatie van zelfgesuperviseerde doelstellingen:

Contrastief Leren: Brengt vergelijkbare cellen en genen in lijn (bijv. naburige cellen van hetzelfde type, co-expressieve genen) terwijl dissimilar paren uit elkaar wordt geduwd. Dit omvat cross-level contrastieve uitlijning om consistentie tussen gen- en celrepresentaties te waarborgen.
Masked Autoencoding (MAE): Het model reconstrueert gemaskeerde gen-expressiewaarden en ruimtelijke coördinaten, wat het model dwingt ontbrekende data te infereren en robuuste representaties van gen-signalen en ruimtelijke signalen te leren.
Orthogonaliteitsregularisatie: Moedigt aan dat embedding-dimensies ongecorreleerd zijn, wat diverse en niet-redundante representaties bevordert.

Belangrijkste Bijdragen

Eerste Hiërarchische Foundation Model voor Ruimtelijke Omics: HEIST is het eerste model dat expliciet co-expressie netwerken naast ruimtelijke grafen integreert in een verenigd hiërarchisch framework, waardoor lokale gen-programma's de weefselorganisatie kunnen beïnvloeden en vice versa.
Context-bewuste, Dynamische Gen-embeddings: In tegenstelling tot modellen die vertrouwen op vaste vocabularies, berekent HEIST gen-embeddings dynamisch vanuit co-expressie netwerken en cellulaire context. Dit maakt generalisatie naar nieuwe datatypen mogelijk, inclus_ de ruimtelijke proteomics, zonder hertraining.
Computationele Efficiëntie: Door gebruik te maken van sparse modellering en volledige self-attention over alle genen te vermijden, bereikt HEIST aanzienlijke versnellingen, gerapporteerd als 8× sneller dan SCGPT-SPATIAL en 48× sneller dan SCFOUNDATION voor het extraheren van embeddings.
Biologische Inductieve Bias: De architectuur vangt fijnmazige gen co-expressie binnen cellen en langafstands cellulaire interacties via cross-level message passing, wat biologisch gecontextualiseerde embeddings oplevert.

Experimentele Resultaten

HEIST werd geëvalueerd op vier downstream taken over meerdere technologieën (MERFISH, Xenium, CODEX, MIBI) en organen:

Cel Clustering: HEIST presteerde beter dan baselines (STAGATE, GraphST, CellPLM, scGPT-spatial) in Normalized Mutual Information (NMI) scores. Cruciaal is dat het succesvol ruimtelijk geïnformeerde subpopulaties identificeerde die eerdere modellen lieten instorten, waardoor micro-omgeving-gestuurde heterogeniteit werd onthuld (bijv. onderscheidende L4-IT neuron subclusters).
Celtype Annotatie: Behaalde state-of-the-art F1-scores in vier van de vijf datasets, met substantiële verbeteringen (bijv. +48,5% op UPMC nek data) vergeleken met baselines.
Klinische Uitkomst Voorspelling: HEIST behaalde de hoogste AUC-ROC in zes van de zeven scenario's, waaronder het voorspellen van immuuntherapie respons, remissie en placentale condities. Opvallend genoeg presteerde het tot 44,3% beter dan proteomics-specifieke baselines door alle beschikbare markers te benutten zonder hertraining.
Gen Imputatie: Na fine-tuning overtrof HEIST alle baselines (inclusief MAGIC en fine-tuned foundation models) in Pearson correlatie voor gen-imputatie op placenta en huid datasets.
Ligand-Receptor Predictie: HEIST behaalde een AUC-ROC van 0,995 in het voorspellen van ligand-receptor interacties, wat aanzienlijk beter is dan andere foundation models, wat aangeeft dat de embeddings de ruimtelijke signaturen van celcommunicatie effectief vangen.

Betekenis en Claims

Het artikel beweert dat HEIST een significante vooruitgang vormt in ruimtelijke omics modellering door ruimtelijke en moleculaire hiërarchieën te verenigen. De primaire betekenis ligt in het vermogen om:

Nieuwe Biologie te Ontdekken: Door micro-omgeving-specifieke subpopulaties te vangen die door eerdere modellen werden gemist, biedt HEIST diepere inzichten in weefselorganisatie en ziekteprogressie (bijv. Braak stage progressie in Alzheimer's).
Cross-Modale Transfer mogelijk te maken: Het dynamische embedding mechanisme stelt het model in staat om te generaliseren naar proteomics data en datasets met verschillende gen-sets, wat een belangrijke beperking van huidige vaste-vocabulaire foundation modellen aanpakt.
Een Schaalbaar Fundament te Bieden: Met state-of-the-art prestaties en hoge computationele efficiëntie, biedt HEIST een praktisch, algemeen bruikbaar fundament voor diverse downstream klinische en biologische taken, van cel annotatie tot het voorspellen van therapeutische responsen.

De auteurs concluderen dat het modelleren van zowel moleculaire (co-expressie) als ruimtelijke informatie essentieel is voor het ontwikkelen van overdraagbare modellen voor ruimtelijke omics, een gat dat HEIST beoogt te vullen.