EpiExpr: Predicting gene expression using epigenetic data and chromatin interactions

EpiExpr is een flexibel deep learning-framework dat genexpressie voorspelt door 1D-epigenetische data te combineren met 3D-chromatine-interacties, waardoor het zowel lokale als langeafstands-regulerende effecten efficiënt kan modelleren.

De kern

EpiExpr: De "GPS" voor het lezen van je genen

Stel je je DNA voor als een gigantische, duizelingwekkende bibliotheek. In deze bibliotheek staan de instructies voor het bouwen van een mens. Maar hier is het probleem: de meeste boeken (ongeveer 98,5%) zijn niet de instructies zelf, maar de regels die zeggen wanneer en hoe hard een bepaald boek moet worden gelezen. Deze regels zijn de "epigenetica".

Vroeger was het voor computers heel moeilijk om te voorspellen welke regels welke boeken activeren. Het was alsof je probeerde te raden welk lichtje in een stad brandt, alleen door naar de wolken te kijken.

De onderzoekers in dit paper hebben een nieuwe, slimme tool bedacht genaamd EpiExpr. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het probleem met de oude methoden

Eerdere computersystemen probeerden dit op twee manieren:

• De "DNA-vertalers": Deze keken naar de hele tekst van het DNA. Ze waren heel slim, maar ze waren ook gigantisch, traag en kostten enorme hoeveelheden computerkracht (zoals een vrachtwagen die gebruikt wordt om een postzegel te bezorgen).
• De "Epigenetica-lezers": Deze keken alleen naar de regels (de epigenetica), maar ze misten vaak de langeafstandscommunicatie. Het was alsof je alleen naar de buren op de eerste verdieping keek, terwijl de echte beslissingen soms door buren op de 10e verdieping worden genomen.

2. De oplossing: EpiExpr (De slimme, snelle regisseur)

EpiExpr is een nieuw systeem dat de beste van beide werelden combineert, maar dan veel slimmer en lichter. Het werkt in twee stappen:

Stap 1: De lokale lezer (EpiExpr-1D)
Stel je voor dat je een lange trein hebt (het DNA). EpiExpr kijkt eerst naar de directe omgeving van een station (een gen). Het leest de "verkeersborden" (epigenetische data, zoals welke chemische stoffen aan het DNA hangen).

• Het slimme trucje: In plaats van een zware vrachtwagen te gebruiken, bouwen ze een Residual CNN. Dat is een beetje als een slimme trap. De computer kijkt naar de details, en stap voor stap "zoomt" het in, alsof je van een vogelvlucht naar een straatniveau gaat. Hierdoor ziet het precies welke borden belangrijk zijn, zonder de hele stad te hoeven scannen.

Stap 2: De langeafstands-verbinder (EpiExpr-3D)
Soms zit de regel die een gen aan- of uitschakelt niet vlakbij, maar ver weg in het DNA. In de bibliotheek is het alsof een notitie op pagina 1000 zegt: "Lees pagina 10".

• EpiExpr-3D voegt een 3D-kaart toe. Het weet hoe de bibliotheek in elkaar zit (de 3D-vouwing van het DNA).
• Het gebruikt een Graph Neural Network (een soort digitaal spinnenweb). Stel je voor dat de bibliotheek een netwerk is van mensen die met touwtjes aan elkaar verbonden zijn. Als iemand op de 10e verdieping roept, weten de mensen op de 1e verdieping het ook, omdat ze met een touw verbonden zijn. EpiExpr volgt die touwtjes (de chromosoom-interacties) om te zien wie met wie praat.

3. Waarom is dit zo geweldig?

• Snelheid en Efficiëntie: Terwijl de oude "DNA-vertalers" (zoals Enformer) enorme supercomputers nodig hebben, kan EpiExpr draaien op een gewone laptop of een simpele grafische kaart. Het is als het verschil tussen een vrachtwagen en een elektrische scooter: beide komen op hetzelfde punt, maar de scooter is veel sneller en goedkoper.
• Precisie: Het systeem is getest op twee soorten cellen (GM12878 en K562) en bleek net zo goed te zijn als de zware systemen, maar dan zonder de zware last.
• Betrouwbaarheid: De onderzoekers hebben het getest met echte experimenten (CRISPRi). Ze hebben gekeken of de computer de juiste "regels" vond. Het bleek dat EpiExpr de verkeerde regels (de "valse positieven") beter kon negeren dan de oude methoden. Het is alsof een ervaren detective die precies weet welke getuige liegt en welke waarheid spreekt.

Conclusie

EpiExpr is als een slimme, snelle en goedkope GPS voor biologen. Het helpt hen te begrijpen hoe onze cellen beslissen welke genen aan moeten gaan. Door niet naar het hele DNA te kijken, maar slim te focussen op de regels en de 3D-verbindingen, kunnen wetenschappers nu sneller en goedkoper ontdekken hoe ziektes ontstaan of hoe we nieuwe medicijnen kunnen maken.

Kortom: Het maakt het lezen van het "geheime boek" van het leven veel makkelijker, sneller en toegankelijker voor iedereen.

Technische samenvatting

Probleemstelling

Het decoderen van genexpressie op basis van epigenomische landschappen blijft een fundamentele uitdaging in de genomica. Bestaande diepe leermodellen (zoals Enformer, Borzoi en EPInformer) die DNA-sequenties combineren met epigenetische data, stuiten op ernstige beperkingen:

1. Rekenkracht: Transformer-architecturen vereisen enorme rekenbronnen (vaak TPUs) en zijn beperkt in de invoerwindowgrootte (bijv. 200 kb tot 1 Mb), wat het vastleggen van distale regulatorische effecten bemoeilijkt.
2. Flexibiliteit: Modellen zoals Epi-GraphReg zijn vaak beperkt tot één celtype, een vast aantal epigenetische tracks en vaste resoluties, waardoor ze niet schaalbaar zijn voor diverse experimentele opstellingen.
3. Efficiëntie: Er is behoefte aan modellen die genexpressie nauwkeurig kunnen voorspellen zonder de zware computational cost van sequentie-gebaseerde transformers, maar wel gebruikmaken van 3D-chromatine-interacties.

Methodologie: EpiExpr Framework

De auteurs introduceren EpiExpr, een flexibel deep-learning framework dat bestaat uit twee varianten: EpiExpr-1D en EpiExpr-3D. Het framework maakt gebruik van een combinatie van residu-convolutienetwerken (Residual CNNs) en Graph Neural Networks (GNNs).

1. Data-voorbereiding en Pipeline:

• De auteurs hebben een open-source Snakemake-pipeline ontwikkeld die het mogelijk maakt om trainingsdata flexibel te construeren voor meerdere celtypen, met een variabel aantal epigenetische tracks (bijv. ChIP-seq, ATAC-seq) en aanpasbare resoluties.
• Het genome wordt opgedeeld in "chunks" van 6 Mb, waarbij het centrale 2 Mb-segment wordt gebruikt voor voorspelling en de flankerende gebieden als achtergrond.
• Voor EpiExpr-3D worden chromatine-interacties (loops) gegenereerd met FitHiChIP (op basis van Hi-C, HiChIP of PCHi-C data) en gebruikt als randen in een graaf.

2. EpiExpr-1D (1D Epigenetische Profielen):

• Architectuur: Een residu-CNN gebaseerd op ResNet18.
• Downsampling: Het model gebruikt adaptieve downsampling om de invoerresolutie (bijv. 100 bp voor epigenetica) om te zetten naar de uitvoerresolutie (bijv. 5 kb voor CAGE-expressie). Dit gebeurt via een reeks residublokken met specifieke downsampling-factoren (bepaald door de priemfactoren van de verhouding tussen resoluties).
• Doel: Genexpressie voorspellen uitsluitend op basis van 1D epigenetische signalen.

3. EpiExpr-3D (Integratie van 3D Interacties):

• Hybride Architectuur: De intermediate representaties van de EpiExpr-1D residublokken (op de expressie-resolutie) dienen als node embeddings voor een Graph Neural Network (GNN).
• GNN Variaties: Het framework implementeert twee attention-based GNN-architecturen:
  • GATv2Conv: Graph Attention Network.
  • TransformerConv: Graph Transformer (gecombineerd met label propagation).
• Training: Het model wordt end-to-end getraind om instabiliteit (zoals gradient collapse) te voorkomen die optreedt bij het losse pre-trainen van CNN en GNN componenten.
• Edge Features: De graaf wordt opgebouwd uit significante chromatinelussen (FDR < 0.1). Er is onderzocht of het toevoegen van randkenmerken (zoals contactaantallen of p-waarden) de prestaties verbetert, maar dit bleek niet consistent te leiden tot betere resultaten.

Belangrijkste Bijdragen

1. Flexibiliteit en Schaalbaarheid: In tegenstelling tot voorgangers zoals Epi-GraphReg, ondersteunt EpiExpr meerdere celtypen, willekeurige aantallen tracks en door de gebruiker gedefinieerde resoluties dankzij de Snakemake-pipelines.
2. Efficiëntie zonder Sequentie-Embeddings: EpiExpr bereikt prestaties vergelijkbaar met zware transformer-modellen (zoals EPInformer) zonder DNA-sequenties als invoer te gebruiken. Dit elimineert de noodzaak voor dure sequentie-embeddings en reduceert de rekenkosten aanzienlijk.
3. Validatie van Regulatorische Elementen: Het model is gevalideerd tegen CRISPRi-FlowFISH data, wat aantoont dat het in staat is om functionele enhancers nauwkeurig te prioriteren, zelfs op grote afstand van promotors.
4. Open Science: Alle code, pipelines en aangepaste versies van concurrentmodellen (Epi-GraphReg) zijn openbaar beschikbaar gesteld.

Resultaten

• Vergelijking met Epi-GraphReg: Zowel EpiExpr-1D als EpiExpr-3D presteerden consistent beter dan Epi-GraphReg (in zowel 1D als 3D configuraties) op GM12878 en K562 celtypen, gemeten aan de hand van Pearson-correlatie en Mean Absolute Error (MAE).
• Vergelijking met EPInformer: EpiExpr-1D en EpiExpr-3D bereikten correlaties die vergelijkbaar waren met of beter waren dan EPInformer (een sequentie-gebaseerd transformer-model), maar dan met een veel lagere rekencomplexiteit. EpiExpr-3D (met Graph Transformer) benaderde de prestaties van EPInformer-PE-Activity-HiC zonder de noodzaak van vooraf berekende ABC-scores of sequentie-embeddings.
• Validatie met CRISPRi: Bij het testen op experimenteel gevalideerde enhancer-promotor interacties (CRISPRi-FlowFISH), behaalde EpiExpr-1D een hogere gemiddelde AUPRC (Area Under Precision-Recall Curve) dan het Activity-by-Contact (ABC) model. EpiExpr-3D met Graph Transformer-architecturen toonde een verbeterde specificiteit door minder vals-positieven te voorspellen in vergelijking met het ABC-model (bijvoorbeeld in de KLF1 locus).
• Computational Cost: De training en inferentie zijn zeer efficiënt. Data-curatie duurt minder dan 30 minuten en inferentie op een enkele GPU (NVIDIA A75) duurt ongeveer 40 minuten met een piekgeheugengebruik van 10 GB.

Significantie

EpiExpr biedt een schaalbaar, multi-resolutie framework dat de bijdragen van epigenetische modificaties en 3D-genoomorganisatie aan genregulatie effectief ontleedt. Het bewijst dat geavanceerde deep learning-architecturen (ResCNN + GNN), die puur op epigenetische data zijn getraind, concurrerend kunnen zijn met de zwaarste sequentie-gebaseerde foundation models. Dit maakt het een praktische en kosteneffectieve tool voor het modelleren van genexpressie in diverse celtypen en experimentele settings, zonder de barrière van extreme rekenvereisten. De aanpak opent de deur voor bredere toepassingen in de functionele genomica en het begrijpen van ziekte-gerelateerde regulatorische variaties.