Learning Adaptive Perturbation-Conditioned Contexts for Robust Transcriptional Response Prediction

1. Het Probleem: "Mean Collapse" en Ruisonderdrukking

Het voorspellen van hoge-dimensionale transcriptie-antwoorden op genetische perturbaties (zoals CRISPR-knockouts) is een fundamenteel probleem in de functionele genomics. Bestaande methoden kampen echter met een kritieke tekortkoming die de auteurs mean collapse noemen.

• Oorzaak: Genetische perturbaties zijn inherent spaars (sparse); slechts een klein subset van genen reageert sterk, terwijl de meeste genen dicht bij hun baseline blijven. Bestaande modellen, die vaak gebruikmaken van dichte, statische kennisgrafieken (knowledge graphs) en een gemiddelde reconstructieverliesfunctie (zoals MSE), worden gedwongen om de globale gemiddelde expressie te voorspellen in plaats van de specifieke perturbatie-effecten.
• Gevolg: Dit leidt tot een "instorting" naar het gemiddelde, waarbij grote biologische effecten worden onderschat en veel vals-positieven ontstaan. Hoewel de globale correlatie hoog kan lijken, faalt het model in het herkennen van de werkelijke biologische signatuur van de perturbatie.
• Beperkingen van huidige aanpakken: Bestaande kennis-gedreven methoden behandelen biologische kennisgrafieken (zoals PPI-netwerken) als statische, dichte entiteiten die voor elke perturbatie identiek worden gebruikt. Dit verspreidt ruis over ongerelateerde genen en verbergt de ware perturbatie-signalen.

2. Methodologie: ADAPERT

De auteurs stellen ADAPERT voor, een raamwerk dat specifiek is ontworpen om mean collapse te voorkomen door expliciet sparsiteit en biologische structuur te modelleren. Het model bestaat uit twee kerncomponenten:

A. Perturbatie-Geconditioneerde Subgraaf Extractie

In plaats van de volledige kennisgrafiek te gebruiken, leert ADAPERT voor elke specifieke perturbatie een compacte, relevante subgraaf.

1. Semantische Integratie: Het model combineert structurele embeddings van de grafiek (via Graph Neural Networks) met semantische embeddings van het perturbatie-gen (afgeleid van tekstuele beschrijvingen via een taalmodel, bijv. GPT-4o).
2. Adaptieve Selectie: Een "perturbation-conditioned node scoring" module berekent relevantiescores voor genen in de grafiek.
3. Differentieerbaar Sampling: Met behulp van Gumbel-Softmax sampling selecteert het model een spaarse set van relevante genen (subgraaf) rondom het perturbatie-gen. Dit creëert een dynamische context ($G_{context}$) die specifiek is voor de gegeven perturbatie, waardoor irrelevante ruis wordt gefilterd.

B. Adaptief Leren voor Signaal-Ruis Scheiding

ADAPERT introduceert een nieuw trainingsdoel dat drie verliesfuncties combineert om ruis te onderdrukken en echte signalen te versterken:

1. Global Reconstruction Loss ($L_{recon}$): Zorgt voor algemene consistentie in de voorspelde expressieprofielen.
2. Non-DEG Robust Loss ($L_{non}$): Een Huber-verliesfunctie die specifiek wordt toegepast op niet-differentieel tot expressie gebrachte genen (non-DEGs). Deze term straft onnodige variaties in deze genen af, waardoor het model wordt gedwongen om voorspellingen voor deze genen dicht bij nul te houden (het voorkomen van mean collapse).
3. Adaptive Subgraph Alignment Loss ($L_{align}$): Deze loss zorgt ervoor dat de geleerde representatie van de geselecteerde subgraaf uitgelijnd is met het werkelijke differentieel expressiepatroon (DEG-signaal). Dit dwingt de subgraaf om de biologische structuur te coderen die specifiek verantwoordelijk is voor de perturbatie.

3. Belangrijkste Bijdragen

• Identificatie van Mean Collapse: Het paper definieert en kwantificeert "mean collapse" als een fundamentele faalmodus in bestaande perturbatiemodellen, veroorzaakt door een mismatch tussen het modelontwerp en de spaarse aard van biologische responsen.
• Dynamische Context-Lering: De introductie van een mechanisme om adaptieve, perturbatie-specifieke subgrafen te leren uit een globale kennisgrafiek, in plaats van statische embeddings te gebruiken.
• Geavanceerde Loss-Functies: Een nieuw trainingsparadigma dat ruis in non-DEG genen expliciet onderdrukt via een Huber-verlies, terwijl het tegelijkertijd de uitlijning van de subgraaf met het echte biologische signaal optimaliseert.
• Verbeterde Biologische Interpretatie: Het model levert niet alleen betere numerieke resultaten, maar herstelt ook biologisch betekenisvolle pathway-signaturen die door andere modellen worden gemist.

4. Resultaten

ADAPERT werd geëvalueerd op twee grote single-cell CRISPR-perturbatiedatasets: K562.Replogle en RPE1.Replogle. De resultaten tonen een consistente superioriteit ten opzichte van state-of-the-art baselines (zoals scVI, CPA, GEARS, TxPert, en MorPH).

• Globale Prestaties: ADAPERT behaalde de hoogste scores op Pearson-∆ (correlatie op differentieel expressie) en Perturbation Discrimination Score (PDS). De verbetering in PDS was aanzienlijk, wat aangeeft dat het model perturbaties beter van elkaar kan onderscheiden dan alleen de globale correlatie te maximaliseren.
• DEG-bewuste Metrieken: Op metrics die specifiek kijken naar differentieel tot expressie gebrachte genen (zoals DES@K, Spearman-correlatie op log-fold changes en richtingsconsistentie) presteerde ADAPERT aanzienlijk beter. Het slaagde erin om de juiste genen in de top-voorspellingen te rangschikken, terwijl andere modellen vaak ruis als signaal interpreteerden.
• Robuustheid bij Kleine Effecten: De analyse per effectgrootte toonde aan dat ADAPERT het meest robuust is bij kleine-effect perturbaties (waar mean collapse het meest optreedt). Hier behaalde het model een verbetering van 28% in DES vergeleken met de beste concurrent (TxPert), terwijl het bij grote effecten ook consistent beter presteerde.
• Padeniveau Validatie: Een pathway-enrichment analyse (GSEA) voor HIRA-knockdowns toonde een significante correlatie ($r=0.53$) tussen de voorspelde en experimentele paden, wat bevestigt dat het model complexe biologische mechanismen correct herleidt.

5. Betekenis en Impact

Dit werk is significant omdat het een fundamentele beperking in het veld van single-cell perturbatie-modellering aanpakt. Door te erkennen dat biologische responsen spaars zijn en dat statische kennisgrafieken ruis verspreiden, biedt ADAPERT een nieuwe richting voor robuuste voorspellingen.

• Biologische Betrouwbaarheid: Het model levert voorspellingen die biologisch plausibeler zijn, met minder vals-positieven, wat cruciaal is voor het identificeren van therapeutische targets.
• Generalisatie: De adaptieve aanpak maakt het mogelijk om beter te generaliseren naar onbekende perturbaties, zelfs wanneer deze slechts een zwak effect hebben.
• Toekomstperspectief: De resultaten onderstrepen het belang van het dynamisch aanpassen van inductieve bias (via subgrafen) en het expliciet modelleren van ruis in plaats van het veronderstellen van een uniforme respons over alle genen. Dit vormt een basis voor de volgende generatie "virtuele cellen" in de AI-gedreven biologie.