The projection basis determines the information ceiling for perturbation prediction

Technische Samenvatting: De Projectiebasis Bepaalt het Informatieplafond voor Perturbatievoorspelling

Probleemstelling
Recente benchmarks wijzen uit dat deep-learningmodellen voor single-cell perturbatievoorspelling (bijv. GEARS, CPA, scGen) vaak niet beter presteren dan eenvoudige lineaire baselines in PCA-ruimte (Principal Component Analysis). Waar eerder werk dit toeschreef aan een tekort aan modelcapaciteit of een gebrek aan geschikte inductieve bias, stelt dit artikel dat de primaire beperking niet ligt in de modelarchitectuur, maar in de projectiebasis zelf. De auteurs stellen dat elke methode die genexpressie reduceert tot een vast laagdimensionaal coördinatenstelsel vóór voorspelling, de signalen door een lineaire bottleneck stuurt, wat een informatie-theoretisch plafond creëert waar geen enkele downstream-modelcomplexiteit tegenop kan boksen.

Methodologie en Framework
De studie maakt gebruik van een Waddington Potential Network (WPN) framework, geïnspireerd door het Waddington epigenetische landschap, om de effecten van de projectiebasis te isoleren. In dit framework wordt cellulaire snelheid geparametriseerd als de gradiënt van een geleerd scalair potentieel ($v = -\nabla U$). Het model projecteert genexpressie op een $k$-dimensionale basis $\Phi$, leert een potentieel over deze coördinaten, en afleidt snelheid via automatische differentiatie. Cruciaal is dat de auteurs alle hyperparameters en architecturen constant houden en alleen de projectiebasis variëren om ervoor te zorgen dat geobserveerde prestatieverschillen uitsluitend toe te schrijven zijn aan de keuze van de basis.

De kern van de theoretische bijdrage is een projectie-grens afgeleid uit de informatietheorie:
$$r^2 \leq VE(\Phi) := \frac{\text{Var}(\Phi\Phi^\top \delta)}{\text{Var}(\delta)}$$
waarbij $r^2$ de gekwadrateerde correlatie is tussen voorspelling en waarheid, en $VE(\Phi)$ het deel van de taakrelevante variantie (drug-respons delta $\delta$) is dat door de basis wordt verklaard. Deze grens stelt vast dat als een basis signaal wegwerpt (lage $VE$), geen enkel model dit kan herstellen. De auteurs maken onderscheid tussen Informatiebeschikbaarheid (de variantie die door de basis wordt behouden, $VE$) en Informatie-exploitatie (hoe goed een model de beschikbare signalen benut, $r^2/VE$).

Experimenteel Ontwerp
De auteurs valideren dit framework via drie complementaire tests over meerdere datasets (sciPlex3, LINCS L1000, en Norman et al. 2019 CRISPRa) en cellijnen (K562, A549, MCF7):

1. Test 1 (Chemische Perturbaties): Evalueert of een basis met lage variantie (gen-associatie netwerk eigenbasis) boven het kansniveau kan voorspellen vergeleken met PCA.
2. Test 2 (Spectrale Recovering): Test of het uitbreiden van de basis naar hoogfrequente modi (via graph wavelets) op hetzelfde netwerktopologie de ontbrekende signalen herstelt.
3. Test 3 (Genetische Perturbaties): Onderzoekt of de rangschikking omdraait voor CRISPRa genetische perturbaties, waarbij responsen mogelijk uitlijnen met netwerkgeometrie in plaats van met spectrale diffusie.

Mechanistische controles omvatten graad-behoudende netwerkpermutaties, synthetische grondwaarheid-netwerken, en PCA die uitsluitend is aangepast op onbehandelde controlecellen om circulariteit en graad-distributie-artefacten uit te sluiten.

Belangrijkste Resultaten

• Chemische Perturbaties (SciPlex3 & LINCS L1000):

  • De eigenbasis van een samengestelde gen-associatie netwerk (GRN) verklaart slechts 10–12% van de drug-respons variantie, terwijl PCA 90–99% verklaart.
  • Modellen die de GRN-eigenbasis gebruiken, presteren op of onder het niveau van toeval ($r \approx 0$), terwijl PCA-gebaseerde modellen significante accuratesse bereiken.
  • Dit falen wordt toegeschreven aan de spectrale diffusie van drug-responsen: chemische perturbaties werken als "impulsruis" die verspreide, schaarse targets beïnvloedt, wat hoogfrequente signalen genereert op de graaf die de low-pass netwerk-eigenbasis wegwerpt.
  • Wavelet Rescue: Wanneer dezelfde netwerktopologie wordt gebruikt met graph wavelets (band-pass of diffusie) die het volledige spectrum ontsluiten, stijgt de verklaarde variantie naar ~88% en herstelt de voorspellende prestatie zich om de PCA te evenaren. Dit bevestigt dat het falen een beperking van het spectrale bereik was, en geen topologische fout.

• Genetische Perturbaties (CRISPRa):

  • De rangschikking keert om voor single-gene CRISPRa activaties. Hier presteert de GRN-eigenbasis (die ~19% van de variantie verklaart) beter dan PCA in geparametriseerde modellen (WPN en MLP), ondanks dat PCA 100% van de variantie verklaart.
  • Dit sugggeert dat genetische perturbaties voortplanten langs regulatoire cascades, wat uitlijnt met de low-frequency, pathway-coherente modi die de netwerkbasis vangt. De netwerkgeometrie fungeert als een informatieve inductieve bias die geparametriseerde modellen kunnen exploiteren, zelfs met een lagere variantie-dekking.

• Architectuuronafhankelijkheid:

  • Het prestatieverschil is consistent over verschillende architecturen, inclusief de WPN, eenvoudige residual MLPs en variationele autoencoders. Zelfs een zero-parameter mean predictor volgt de $r^2 \leq VE$ grens, wat bevestigt dat het plafond wordt bepaald door de projectie, en niet door het model.

Betekenis en Claims
Het artikel claimt het paradox te hebben opgelost waarom biologisch gemotiveerde netwerkbases vaak onderpresteren ten opzichte van eenvoudige PCA-baselines in drug-perturbatie taken. De auteurs stellen:

1. Keuze van de Basis is de Primaire Bottleneck: Voor methoden met vaste lineaire bottlenecks stelt de projectiebasis een hard informatieplafond ($VE$) dat de maximale haalbare accuratesse dicteert.
2. Modaliteitsafhankelijkheid: PCA vangt de variantie die chemische responsen drijft (spectraal diffuus), terwijl netwerkbases de cascade-structuur vangen die genetische responsen drijft (spectraal coherent).
3. Spectrale Dekking is Cruciaal: Standaard netwerk-eigenbases fungeren als low-pass filters die hoogfrequente drug-signalen wegwerpen. Methoden zoals graph wavelets, die het volledige graaf-spectrum beslaan, kunnen biologische structuur herstellen zonder de variantie-dekking op te offeren.
4. Herformulering van Benchmarks: De auteurs stellen voor dat toekomstige benchmarks de Verklaarde Variantie (VE) van de interne representatie van een methode op taakrelevante variatie moeten rapporteren, om "beschikbaarheid" (kwaliteit van de basis) te scheiden van "exploitatie" (modelcapaciteit). Ze suggereren dat het gebrek aan verbetering in full-gene modellen (zoals GEARS) ten opzichte van PCA-baselines mogelijk komt door exploitatie-limieten bij de huidige steekproefgroottes, in plaats van beschikbaarheids-limieten.

Het werk concludeert dat basisselectie een modaliteitsafhankelijke designbeslissing is met een bewijsbaar plafond, en dat graph wavelets een concreet pad bieden om biologische structuur te integreren zonder het verlies van variantie dat inherent is aan standaard low-pass eigenbases.