The projection basis determines the information ceiling for perturbation prediction

Sintesi Tecnica: La base di proiezione determina il limite informativo per la predizione delle perturbazioni

Definizione del problema
I recenti benchmark indicano che i modelli di deep learning per la predizione di perturbazioni a singola cellula (es. GEARS, CPA, scGen) spesso non riescono a superare i semplici baseline lineari operanti nello spazio della PCA (Analisi delle Componenti Principali). Mentre studi precedenti hanno attribuito ciò a una capacità insufficiente del modello o alla mancanza di un appropriato bias induttivo, questo articolo sostiene che il limite primario non risieda nell'architettura del modello, bensì nella base di proiezione stessa. Gli autori sostengono che qualsiasi metodo che riduca l'espressione genica a un sistema di coordinate a bassa dimensionalità fisso prima della predizione, faccia passare il segnale attraverso un collo di bottiglia lineare, creando un limite informativo-teoretico che nessuna complessità del modello a valle può superare.

Metodologia e Framework
Lo studio impiega un framework Waddington Potential Network (WPN), ispirato al paesaggio epigenetico di Waddington, per isolare gli effetti della base di proiezione. In questo framework, la velocità cellulare è parametrizzata come il gradiente di un potenziale scalare appreso ($v = -\nabla U$). Il modello proietta l'espressione genica su una base $\Phi$ di dimensione $k$, apprende un potenziale su queste coordinate e deriva la velocità tramite differenziazione automatica. Fondamentalmente, gli autori mantengono costanti tutti gli iperparametri e le architetture, variando solo la base di proiezione per garantire che le differenze di performance osservate siano attribuibili esclusivamente alla scelta della base.

Il contributo teorico centrale è un limite di proiezione derivato dalla teoria dell'informazione:
$$r^2 \leq VE(\Phi) := \frac{\text{Var}(\Phi\Phi^\top \delta)}{\text{Var}(\delta)}$$
dove $r^2$ è la correlazione al quadrato tra predizione e verità, e $VE(\Phi)$ è la frazione di varianza rilevante per il task (delta della risposta ai farmaci $\delta$) spiegata dalla base. Questo limite stabilisce che se una base scarta il segnale (basso $VE$), nessun modello può recuperarlo. Gli autori distinguono tra Disponibilità dell'Informazione (la varianza preservata dalla base, $VE$) e Sfruttamento dell'Informazione (quanto bene un modello utilizza il segnale disponibile, $r^2/VE$).

Design Sperimentale
Gli autori validano questo framework attraverso tre test complementari su molteplici dataset (sciPlex3, LINCS L1000 e Norman et al. 2019 CRISPRa) e linee cellulari (K562, A549, MCF7):

1. Test 1 (Perturbazioni Chimiche): Valuta se una base a bassa varianza (eigenbase di una rete di associazione genica) può supportare una predizione superiore al caso rispetto alla PCA.
2. Test 2 (Recupero Spettrale): Testa se espandere la base per includere modi ad alta frequenza (tramite wavelet grafiche) sullo stesso topologia di rete recupera il segnale mancante.
3. Test 3 (Perturbazioni Genetiche): Indaga se il ranking si inverte per le perturbazioni genetiche CRISPRa, dove le risposte possono allinearsi con la geometria della rete piuttosto che essere spettralmente diffuse.

I controlli meccanicistici includono permutazioni di rete che preservano il grado, reti sintetiche di verità fondamentale (ground-truth) e PCA adattate esclusivamente sulle cellule di controllo non trattate per escludere circolarità e artefatti della distribuzione di grado.

Risultati Chiave

• Perturbazioni Chimiche (SciPlex3 & LINCS L1000):

  • L'eigenbase di una rete composita di associazione genica (GRN) spiega solo il 10–12% della varianza della risposta ai farmaci, mentre la PCA spiega il 90–99%.
  • I modelli che utilizzano l'eigenbase della GRN operano al livello o al di sotto del caso ($r \approx 0$), mentre i modelli basati su PCA raggiungono un'accuratezza significativa.
  • Questo fallimento è attribuito alla diffusione spettrale delle risposte ai farmaci: le perturbazioni chimiche agiscono come "rumore impulsivo" che influenza target sparsi e dispersi, generando segnali ad alta frequenza sul grafo che l'eigenbase della rete a basso passaggio (low-pass) scarta.
  • Rescue tramite Wavelet: Quando la stessa topologia di rete viene utilizzata con wavelet grafiche (band-pass o diffusione) che accedono all'intero spettro, la varianza spiegata sale a circa l'88% e la performance di predizione recupera per eguagliare la PCA. Ciò conferma che il fallimento era un limite del range spettrale, non un fallimento della topologia.

• Perturbazioni Genetiche (CRISPRa):

  • Il ranking si inverte per le attivazioni geniche singole CRISPRa. In questo caso, l'eigenbase della GRN (che spiega circa il 19% della varianza) supera la PCA nei modelli parametrizzati (WPN e MLP), nonostante la PCA spieghi il 100% della varianza.
  • Ciò suggerisce che le perturbazioni genetiche si propagano lungo cascate regolatorie, allineandosi con i modi a bassa frequenza e coerenti per via (pathway-coherent) catturati dalla base di rete. La geometria della rete agisce come un bias induttivo informativo che i modelli parametrizzati possono sfruttare, anche con una copertura di varianza inferiore.

• Indipendenza dall'Architettura:

  • Il divario di performance è coerente tra le architetture, inclusi WPN, semplici MLP residui e autoencoder variazionali. Persino un predittore medio a zero parametri segue il limite $r^2 \leq VE$, confermando che il soffitto è impostato dalla proiezione, non dal modello.

Significatività e Rivendicazioni
L'articolo sostiene di risolvere il paradosso per cui basi di rete biologicamente motivate spesso sottoperformano rispetto ai semplici baseline PCA nei compiti di predizione dei farmaci. Gli autori affermano che:

1. La Scelta della Base è il Collo di Bottiglia Primario: Per i metodi con colli di bottiglia lineari fissi, la base di proiezione stabilisce un limite informativo rigido ($VE$) che detta la massima accuratezza raggiungibile.
2. Dipendenza dalla Modalità: La base ottimale dipende dalla modalità di perturbazione. La PCA cattura la varianza che guida le risposte chimiche (spettralmente diffuse), mentre le basi di rete catturano la struttura a cascata che guida le risposte genetiche (spettralmente coerenti).
3. La Copertura Spettrale è Critica: Le standard eigenbasi di rete agiscono come filtri passa-basso che scartano i segnali dei farmaci ad alta frequenza. Metodi come le wavelet grafiche, che coprono l'intero spettro del grafo, possono recuperare la struttura biologica senza sacrificare la copertura della varianza.
4. Riformulazione dei Benchmark: Gli autori propongono che i futuri benchmark debbano riportare la Varianza Spiegata (VE) di una rappresentazione interna di un metodo sulla variazione rilevante per il task, separando la "disponibilità" (qualità della base) dallo "sfruttamento" (capacità del modello). Suggeriscono che la mancanza di miglioramento nei modelli a geni completi (come GEARS) rispetto ai baseline PCA possa essere dovuta a limiti di sfruttamento alle attuali dimensioni dei campioni, piuttosto che a limiti di disponibilità.

Il lavoro conclude che la selezione della base è una decisione di design dipendente dalla modalità con un limite dimostrabile, e che le wavelet grafiche offrono una via concreta per incorporare la struttura biologica senza il loss di varianza inerente alle standard eigenbasi a basso passaggio.