Hi-Cformer enables multi-scale chromatin contact map modeling for single-cell Hi-C data analysis

Dit artikel introduceert Hi-Cformer, een op transformatoren gebaseerde methode die de sparsiteit van single-cell Hi-C-data overwint door multi-schaal chromatincontacten te modelleren, waardoor nauwkeurige imputatie van 3D-genoomkenmerken en robuuste celtype-annotatie mogelijk worden.

De kern

Hi-Cformer: De Digitale Architect voor het 3D-Genoom

Stel je voor dat je DNA niet als een lange, saaie streng van kralen ziet, maar als een enorme, ingewikkelde stad. In deze stad wonen miljoenen gebouwen (genen). Om de stad te laten werken, moeten bepaalde gebouwen dicht bij elkaar staan, zelfs als ze ver uit elkaar liggen in de straten. Soms zijn het alleen de gebouwen in de buurt die praten, en soms moeten hele wijken met elkaar communiceren.

De manier waarop deze stad is opgebouwd, heet het 3D-genoom. Als je de stad goed begrijpt, snap je waarom een cel een huidcel wordt en niet een hersencel.

Het Probleem: Een wazige foto van de stad

Vroeger konden wetenschappers alleen een foto maken van de hele stad gemiddeld over miljoenen mensen. Dat gaf een scherp beeld van de grote wijken, maar het verdoofde de individuele huizen.

Nu hebben we nieuwe camera's (single-cell Hi-C) die een foto kunnen maken van de stad in één enkel huis. Het probleem? Deze foto's zijn extreem wazig en vol gaten. Het is alsof je probeert een kaart te tekenen van een stad, maar je camera heeft maar één flits en mist 90% van de straten. Je ziet een paar gebouwen, maar de rest is zwart. Dit maakt het heel moeilijk om te zien hoe de stad er echt uitziet.

De Oplossing: Hi-Cformer

Hier komt Hi-Cformer om de hoek kijken. Het is een slimme computerprogramma (een AI) dat is gebouwd op dezelfde technologie die grote taalmodellen (zoals de onderliggende technologie van ChatGPT) gebruiken.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Legpuzzel-principe (Multi-scale modeling)
Stel je voor dat je een enorme legpuzzel hebt.

• De oude methoden keken alleen naar de hele puzzel, of alleen naar één klein stukje.
• Hi-Cformer kijkt naar alles tegelijk. Het kijkt naar de hele stad (het hele chromosoom), maar ook naar de grote wijken, en zelfs naar de individuele straten. Het begrijpt dat de manier waarop een straat eruitziet, beïnvloed wordt door de wijk waar hij in ligt, en die wijk weer door de hele stad.

2. De Vertaler (De Transformer)
Hi-Cformer behandelt het DNA niet als een wiskundig probleem, maar als een taal.

• Het ziet de contactpunten tussen genen als woorden in een zin.
• Net zoals een taalmodel begrijpt dat het woord "hond" in een zin iets anders betekent als het woord "bak" erbij staat, begrijpt Hi-Cformer dat een gen in contact komt met een ander gen omdat ze in dezelfde "wijk" zitten.
• Het gebruikt een slimme "blik" (attention mechanism) die weet: "Ik mag alleen kijken naar gebouwen in dezelfde stad, maar ik mag wel weten wat er in de andere steden gebeurt om de context te begrijpen."

3. Het Herstellen van de Foto (Imputatie)
Omdat de originele foto's zo wazig zijn, gebruikt Hi-Cformer zijn kennis van de "taal van het DNA" om de ontbrekende stukjes in te vullen.

• Het is alsof je een beschadigde foto van een landschap hebt, maar je weet precies hoe een landschap eruit moet zien. De AI vult de gaten in met de juiste kleuren en vormen, zodat je weer een scherp beeld krijgt van de stad.
• Het doet dit niet zomaar; het houdt rekening met de unieke kenmerken van dat specifieke huis (die specifieke cel).

Wat levert dit op?

Dankzij Hi-Cformer kunnen wetenschappers nu:

• Huisnummers vinden: Ze kunnen precies zien welke cellen tot welke groep behoren (bijvoorbeeld: "dit is een hersencel, dat is een levercel"), zelfs als ze heel veel op elkaar lijken.
• De blauwdruk zien: Ze kunnen de verborgen structuur van de stad zien, zoals de grote wijken (A/B compartimenten) en de muren tussen de wijken (TADs), die bepalen welke genen aan en uit gaan.
• Fouten opsporen: Het helpt om te zien waar de stad "kapot" is gegaan, wat belangrijk is voor het begrijpen van ziektes zoals kanker.

Kortom:
Hi-Cformer is als een super-slimme architect die een wazige, gatenrijke schets van een stad kan omzetten in een haarscherpe 3D-kaart. Het begrijpt de grote lijnen én de kleine details tegelijk, waardoor we eindelijk kunnen zien hoe het leven in elke individuele cel echt is opgebouwd.

Technische samenvatting

Probleemstelling

Single-cell Hi-C (scHi-C) data biedt unieke inzichten in de driedimensionale organisatie van chromosomen op het niveau van individuele cellen, wat essentieel is voor het begrijpen van genregulatie en transcriptie. Echter, de analyse van scHi-C-data staat voor aanzienlijke uitdagingen:

• Extreme Spaarzaamheid: In tegenstelling tot bulk Hi-C-data, zijn scHi-contactkaarten zeer spaarzaam (veel nulwaarden) door beperkte sequencing-diepte.
• Ongebalanceerde Distributie: Contacten zijn niet uniform verdeeld; er zijn sterke signalen dicht bij de diagonaal (lokale interacties) en complexe patronen op verschillende schalen.
• Beperkingen van Bestaande Methoden: Bestaande methoden modelleren vaak ofwel de hele chromosoomcontactkaart op een vaste resolutie, ofwel paarsgewijze interacties. Ze slagen er niet in om expliciet de complexe multi-schaal structuren (zoals TADs, A/B-compartimenten en lokale blokken) tegelijkertijd te vangen, wat noodzakelijk is om zowel globale als fijne chromatinestructuren te begrijpen.

Methodologie: Hi-Cformer Architectuur

Hi-Cformer is een transformer-gebaseerde methode die is ontworpen om scHi-C-contactkaarten te modelleren als sequenties van embeddings, analoog aan hoe taalmodellen woorden sequenties verwerken. De architectuur bestaat uit drie kernmodules:

1. Multi-Schaal Encoder Module:

   • De input bestaat uit intra-chromosomale contactkaarten.
   • Chromosoom-niveau: De hele contactkaart van een chromosoom wordt via PCA omgezet in een vaste vector (chromosoom-embeddings).
   • Blok-niveau: Diagonale blokken van verschillende groottes (8, 16, 32, 64, 128 bins) worden via specifieke MLP-encoders omgezet in blokken-embeddings. Dit vangt lokale structuren zoals TADs op.
   • Deze embeddings worden georganiseerd in een geordende sequentie, gesorteerd op chromosoom-index, blokgrootte en positie.

2. Transformer Module (Chromosoom-bewust):

   • De sequentie wordt verwerkt door een transformer met een aangepaste zelf-attentie-mechanisme.
   • Contextuele Embeddings: Er worden extra embeddings toegevoegd voor chromosoom-identiteit, blokgrootte en genomische positie.
   • Biologisch Beperkte Attention Mask: Een cruciale innovatie is het gebruik van een "attention mask". Dit zorgt ervoor dat:
     • Blokken alleen kunnen "kijken" naar andere blokken en het chromosoom-embeddings van hetzelfde chromosoom (intra-chromosomaal).
     • Chromosoom-embeddings kunnen communiceren met alle andere chromosoom-embeddings (inter-chromosomaal), waardoor globale context wordt geïntegreerd.
   • Dit modelleert zowel lokale afhankelijkheden als langeafstandsinteracties tussen chromosomen.

3. Multi-Schaal Decoder Module:

   • De decoder reconstructeert de data op drie niveaus:
     • Cell-niveau: Een geïntegreerde representatie van de hele cel.
     • Chromosoom-niveau: Reconstructie van individuele chromosoomkaarten.
     • Blok-niveau: Reconstructie van lokale sub-kaarten.
   • Training: Het model wordt getraind in een zelf-supervised manier met een Masked Language Modeling (MLM) taak. Random geselecteerde embeddings worden gemaskeerd en het model moet deze reconstrueren. Dit dwingt het model om langeafstandsafhankelijkheden te leren.

Belangrijkste Bijdragen

• Multi-Schaal Modellering: Hi-Cformer is de eerste methode die expliciet multi-schaal blokken en globale chromosoomcontext tegelijkertijd modelleert binnen een transformer-architectuur voor scHi-C.
• Robuuste Imputatie: Het model kan spaarzame contactkaarten nauwkeurig imputeren (invullen) door biologische patronen te leren, zonder kunstmatige gladmaking.
• Universele Toepasbaarheid: Het framework ondersteunt zowel ongesuperviseerde taken (clustering, imputatie) als gesuperviseerde taken (celtype-annotatie) via een flexibele architectuur.

Resultaten

De auteurs hebben Hi-Cformer getest op vijf verschillende scHi-C-datasets (inclusief Ramani2017, Lee2019, Tan2021A/B, Wu2024) en vergeleken met zes state-of-the-art baselines (zoals Higashi, scDEC-Hi-C, scHiCluster).

1. Cel-embeddings en Clustering:

   • Hi-Cformer genereert laag-dimensionale representaties die cellen van verschillende typen duidelijker scheiden dan bestaande methoden.
   • Metingen: Gemiddelde verbetering van 6,41% in NMI (Normalized Mutual Information) en 29,35% in ARI (Adjusted Rand Index) ten opzichte van de tweede beste methode (Higashi).
   • Het model is zeer robuust tegen "dropout" (verlies van data) en presteert consistent over datasets met verschillende sequencing-dieptes en ruisniveaus.

2. Imputatie van Contactkaarten:

   • Hi-Cformer herstelt ontbrekende contacten aanzienlijk beter dan baselines.
   • Metingen: Median verbetering van 68,95% in Pearson-correlatie en 66,15% in cosine-ähnlichkeit ten opzichte van bulk Hi-C referenties.
   • De geïmputeerde kaarten behouden de ruimtelijke structuur (zoals TAD-grenzen en compartimenten) beter, wat blijkt uit hogere SSIM (Structural Similarity Index) en PSNR (Peak Signal-to-Noise Ratio) scores.

3. Identificatie van Biologische Structuren:

   • TAD-achtige grenzen: Na imputatie zijn de grenzen van Topologically Associating Domains (TADs) scherper en duidelijker zichtbaar.
   • A/B Compartimenten: De imputatie leidt tot compartimentscores die beter correleren met biologische markers (zoals H3K27ac ChIP-seq signalen) dan ruwe data.
   • Het model kan zelfs specifieke structurele verschillen tussen celtypen (bijv. K562 vs. GM12878 rond de ABL1 locus) blootleggen die in ruwe data verborgen blijven.

4. Gesuperviseerde Celtype-annotatie:

   • Bij het toepassen als een classifier (met een discriminator-laag) overtreft Hi-Cformer methoden zoals scHiClassifier, Logistieke Regressie en Random Forest.
   • Het bereikt hogere nauwkeurigheid, vooral bij het onderscheiden van zeldzame celtypen en subtiel verschillende neuronale subtypes (bijv. in de Lee2019 dataset).
   • Het toont sterke generalisatievermogen bij "inter-dataset" annotatie (trainen op dataset A, testen op dataset B), wat cruciaal is voor batch-effect correctie.

Significantie

Hi-Cformer vertegenwoordigt een doorbraak in de analyse van single-cell 3D-genoomdata. Door de kracht van transformers toe te passen met biologisch geïnformeerde beperkingen, slaagt het erin om de complexiteit van chromosomale interacties op meerdere schalen tegelijk te vatten.

• Technisch: Het bewijst dat taalmodellen-architecturen effectief kunnen worden vertaald naar genomische data, mits ze worden aangepast aan de specifieke biologische structuur (chromosoom-hiërarchie).
• Biologisch: Het biedt onderzoekers een krachtig hulpmiddel om celheterogeniteit te ontrafelen, zeldzame celtypen te identificeren en functionele 3D-genoomstructuren te bestuderen, zelfs bij zeer spaarzame data.
• Toekomstperspectief: De modulaire opzet maakt het mogelijk om in de toekomst andere 'omics'-data (zoals DNA-methylering of genexpressie) te integreren, wat de weg vrijmaakt voor multi-modale analyse van het 3D-genoom.