Prior-Guided Multi-Omic Transformers for Single-Cell Gene Regulatory Network Inference

Technische Samenvatting: Prior-gestuurde Multi-omische Transformers voor Single-Cell Genregulerende Netwerkinferentie

Probleemstelling
Het reconstrueren van genregulerende netwerken (GRNs) vanuit gekoppelde single-cell transcriptomische (scRNA-seq) en chromatine-toegankelijkheidsdata (scATAC-seq) is een cruciale uitdaging in de computationele biologie. Hoewel het integreren van deze modaliteiten complementaire bewijslast biedt, worden huidige methoden geconfronteerd met aanzienlijke hindernissen:

1. Data-schaarsheid en Ruis: scATAC-seq data is extreem schaars en ruisig, wat het moeilijk maakt om genuweine regulatoire signalen te onderscheiden van stochastische fluctuaties.
2. Ambigue Koppeling: Het koppelen van chromatine-toegankelijkheidspieken aan hun doelgenen is fundamenteel ambigu. Bestaande benaderingen vertrouwen vaak op vaste, heuristische piek-naar-gen koppelingen (bijv. gebaseerd op genomische afstand), die toegankelijkheidselementen aan de verkeerde doelwitten kunnen toewijzen en er niet in slagen contextspecifieke enhancer-promotor interacties te vangen.
3. Schaarsheid aan Labels: Nauwkeurige GRN-inferentie vereist het leren van gerichte regulatoire relaties uit observationele data met een beperkte hoeveelheid betrouwbare grondwaarheid-labels.

Methodologie: EpiAwareNet
De auteurs stellen EpiAwareNet voor, een prior-gestuurd multi-omisch Transformer-framework dat is ontworpen voor het reconstrueren van GRNs met behulp van uitsluitend lichtgewicht biologische priors. Het framework werkt in twee afzonderlijke stadia:

Stadium 1: Prior-gestuurd Representatieleerproces
Dit stadium richt zich op het leren van gezamenlijke gen-piek representaties zonder hard-coded piek-naar-gen toewijzingen.

• Architectuur: Een Transformer-gebaseerde backbone verwerkt gekoppelde scRNA-seq en scATAC-seq data.
• Candidate-Constrained Cross-Attention: In plaats van vaste koppelingen definieert het model een kandidaatenset van ATAC-pieken ($C_g$) voor elk gen $g$ met behulp van genomische nabijheid als een lichtgewicht prior. Het maakt gebruik van een sparse gene-peak cross-attention mechanisme waarbij gen-tokens alleen aandacht besteden aan pieken binnen hun kandidaatenset. Dit maakt een data-gedreven, zachte aggregatie van toegankelijkheidssignalen mogelijk, waardoor het model kan leren welke kandidaat-pieken de variatie in genexpressie het best verklaren.
• Sparse Gene-Gene Attention: Om de computationele complexiteit te beheersen, wordt de gen-gen zelf-attentie beperkt tot $k$-dichtstbijzijnde buren in de latente ruimte.
• Pretraining Objectief: De backbone wordt gepre-traind via een gemaskeerde gen-reconstructie taak met een Negative Binomial (NB) loss, die de overgedispergeerde aard van scRNA-seq data beter modelleert.

Stadium 2: Zwak Gesuperviseerde GRN Verfijning
Dit stadium introduceert directionaliteit en edge-scoring met behulp van zwakke supervisie.

• Zwakke Priors: Het model incorporeert een uit bulk-data afgeleid GRN als een set van "ruisige positieve" edges ($P_{bulk}$). Deze edges worden niet behandeld als grondwaarheid, maar als zachte gidsen.
• Positive-Unlabeled (PU) Learning: De overige regulator-doelwit paren worden behandluis als ongelabeld. Het model is getraind om de ruisige positieven te onderscheiden van de ongelabelde set.
• Objectieven: De auteurs evalueren twee objectieven:
  1. Binary Cross-Entropy (BCE): Behandelt gesamplede ongelabelde paren als negatieven, waarbij geoptimaliseerd wordt voor globale ranking kwaliteit.
  2. Non-negative PU (nnPU): Houdt expliciet rekening met verborgen positieven onder de ongelabelde paren, wat resulteert in een meer conservatieve scoring functie die de waarschijnlijkheidsmassa concentreert op een kleinere set hoog-betrouwbare edges, wat optimalisatie voor vroege retrieval precisie bevordert.
• Predictie: Een lichtgewicht predictie-kop scoort geordende regulator-doelwit paren op basis van geaggregeerde cel-niveau representaties afgeleid van de bevroren Stage 1 backbone.

Belangrijkste Bijdragen

1. Prior-Gestuurde Cross-Modale Representatieleerproces: Het artikel formuleert GRN-inferentie als een representatie leerprobleem dat gebruikmaakt van sparse gene-peak cross-attention binnen zwakke genomische kandidaatsets, waardoor rigide piek-naar-gen mapping regels worden vermeden.
2. Zwakt Gesuperviseerde Verfijning met Ruisige Priors: Het introduceert een formulering waarbij uit bulk-data afgeleide edges dienen als ruisige positieven in een PU leersetting. De auteurs analyseren de trade-off tussen globale ranking en zeer-top precisie (BCE versus nnPU).
3. Uitgebreide Evaluatie: Het framework wordt geëvalueerd over zoogdier (menselijke PBMC, muizenbrein) en plant (tomaat wortel) systemen, waarbij verbeterde robuustheid van reconstructie en biologische plausibiliteit worden aangetoond vergeleken met baselines.

Experimentele Resultaten
De auteurs evalueerden EpiAwareNet op vier gekoppelde multi-omische datasets tegen klassieke RNA-only methoden (GRNBoost2, WGCNA), diepe representatie baselines (scGPT, scGLUE met gematchte heads), en recente multi-omische pipelines (SCENIC+, Pando).

• Globale Ranking: EpiAwareNet behaalde consistent superieure AUPRC en AUROC scores over alle datasets vergeleken met baselines. Bijvoorbeeld, op de tomaten mN dataset verbeterde de AUPRC van 0.045 (GRNBoost2) naar 0.08458.
• Vroege Retrieval: De EpiAwareNet-nnPU variant vertoonde superieure prestaties in "early retrieval" metrieken (Precision@K, Hit@K) op plant-datasets, waarbij hogere precisie werd bereikt in de top-gerankte edges vergeleken met de standaard BCE variant en andere baselines.
• Ablatie Studies:
  • Het verwijderen van ATAC-data (RNA-only) degradeerde de prestaties over het algemeen, wat de waarde van chromatine-toegankelijkheid als complementair bewijs bevestigt, hoewel het voordeel dataset-afhankelijk was.
  • Het randomiseren van de gen-piek kandidaatsets degradeerde de prestaties aanzienlijk, wat het belang van het kandidaat-beperkte aandachtmechanisme valideert.
• Robuustheid: Het model toonde robuustheid tegen ruis in de uit bulk-data afgeleide prior; de prestaties plateauerden in plaats van instortten wanneer een aanzienlijk deel van de prior edges werd weggefilterd, wat suggereert dat het model signaal leert dat verder gaat dan simpelweg de prior reproduceren.

Betekenis en Claims
Het artikel claimt dat EpiAwareNet effectief de uitdagingen van schaarse, ruisige multi-omische data aanpakt door adaptieve cross-modale representatie leerprocessen te combineren met zwakke biologische supervisie. De auteurs stellen dat:

• Lichtgewicht biologische priors uit bulk-data effectief GRN-inferentie op single-cell niveau kunnen sturen wanneer deze worden gekoppeld aan adaptieve Transformers.
• Het afstappen van vaste piek-naar-gen heuristieken ten gunste van data-gedreven, kandidaat-beperkte aandacht de robuustheid en biologische plausibiliteit van geïnferreerde netwerken verbetert.
• Het framework een flexibele trade-off biedt tussen globale ranking kwaliteit en hoog-precieze top-edge retrieval, afhankelijk van het gekozen objectief (BCE versus nnPU).

Het werk wordt gepositioneerd niet als een claim dat elk component op zichzelf nieuw is, maar als een specifieke, effectieve formulering voor het verfijnen van GRNs uit gekoppelde scRNA-seq/scATAC-seq data onder condities van label-schaarsheid en data-schaarsheid.