GeneSpeak-FP: Target and Compound Retrieval from Observed Cell-Level Perturbation Signatures

Sintesi Tecnica: GeneSpeak-FP

Definizione del Problema
Il documento affronta un problema di recupero inverso nella perturbazione trascrizionale a singola cellula. Mentre la maggior parte degli approcci di machine learning esistenti si concentra sulla domanda "forward" — ovvero predire la risposta trascrizionale di una cellula a una specifica perturbazione — questo lavoro affronta il compito complementare "inverso": dato un profilo trascrizionale osservato a livello cellulare, un modello è in grado di recuperare i target annotati più coerenti e il composto specifico proveniente da una libreria chiusa e fissa che ha generato tale risposta? Gli autori osservano che questo compito è intrinsecamente ambiguo poiché composti distinti possono condividere target, strutture o effetti a valle, e l'obiettivo è restringere uno spazio di candidati piuttosto che inferire un meccanismo causale unico.

Metodologia
Gli autori propongono GeneSpeak-FP, un modello Transformer multi-task progettato per un contesto di libreria chiusa utilizzando il dataset Tahoe-100M.

• Formulazione dell'Input: L'input è una firma di perturbazione sparsa a livello cellulare ($\Delta x$) calcolata contrastando il profilo di espressione log-trasformato di una singola cellula trattata con il profilo medio log-trasformato di riferimento DMSO della sua specifica linea cellulare. L'universo di input consiste in 4.184 geni (geni DMSO ad alta varianza più target mappati). Per ogni campione, vengono selezionati i 256 geni con i maggiori cambiamenti assoluti, ordinati per ID di token e sottoposti a padding per una lunghezza fissa.
• Architettura: Il modello impiega un encoder Gene-Token Transformer. A differenza dei Transformer standard, non utilizza embedding posizionali; invece, tratta i geni selezionati come un insieme non ordinato dove l'auto-attenzione modella le interazioni. La sequenza di input include token speciali [CLS] e [ORGAN] (questi ultimi derivati dai metadati della linea cellulare). L'encoder è composto da quattro strati con 256 dimensioni nascoste e otto teste di attenzione.
• Doppia Testa di Recupero (Retrieval): La rappresentazione dell'encoder condiviso alimenta due teste di recupero distinte:
  1. Testa di Recupero dei Target: Una testa a 256 dimensioni che classifica un vocabolario chiuso di 278 geni target annotati in Tahoe. Utilizza un embedding addestinabile per ogni gene target.
  2. Testa di Recupero dei Composti: Una testa multi-strato (256 $\to$ 1024 $\to$ 768) che classifica un banco fisso di 379 composti. Questa testa allinea la rappresentazione derivata dal trascrittoma con embedding molecolari precomputati e fissi a 768 dimensioni.
• Obiettivo di Addestramento: Il modello è addestrato congiuntamente utilizzando una funzione di perdita composita:
  • Perdita dei Target ($L_T$): Combina la perdita di similarità del coseno, la Binary Cross-Entropy (BCE) per i target positivi e una perdita di ranking multi-positivo (cross-entropy con scaling della temperatura).
  • Perdita di Allineamento Molecolare ($L_{CLIP}$): Una perdita contrastiva simmetrica (simile a CLIP) che allinea i vettori molecolari predetti con il banco di embedding fissi, integrata da un termine di allineamento del coseno per stabilizzare l'addestramento.
  • Perdita Totale: $L = L_T + 0.05 (L_{CLIP} + 0.5 L_{align})$.

Configurazione Sperimentale
La valutazione utilizza un sottoinsieme del dataset Tahoe-100M contenente 11.673 coppie condizione drug-cell-line coinvolgenti 379 composti e 278 geni target.

• Suddivisione dei Dati: È stata utilizzata una suddivisione stratificata entro il composto 90/10 (10.055 addestramento, 1.168 validazione). Fondamentalmente, gli stessi composti e linee cellulari appaiono in entrambe le partizioni; l'esperimento misura il recupero per coppie di condizioni tenute fuori (held-out), non la generalizzazione zero-shot su composti o linee cellulari inedite.
• Protocollo di Valutazione: La valutazione principale è una stima Monte Carlo su 38.400 cellule campionate di validazione. Le metriche includono Recall@K e Precision@K per i target, e Hit@K, Mean Reciprocal Rank (MRR) e statistiche di ranking per i composti.
• Controlli: Lo studio confronta GeneSpeak-FP con un controllo di vettore casuale Gaussiano e tre controlli diagnostici "bag-of-genes" (BoG) (prototype matcher, testa molecolare lineare e k-NN) per valutare il valore delle rappresentazioni contestuali apprese.

Risultati Chiave
Nel confronto diagnostico, GeneSpeak-FP ha superato significativamente tutti i metodi di controllo:

• Recupero dei Target: Ha raggiunto un Recall@10 di 0.409 (rispetto a un massimo di 0.0312 per i controlli).
• Recupero dei Composti: Ha raggiunto un Hit@10 di 0.342 (rispetto a un massimo di 0.0366 per i controlli) e un Hit@1 di 0.129.
• Valutazione Estesa: Un passaggio separato ha prodotto risultati coerenti (Recall@10 $\approx$ 0.408, Hit@10 $\approx$ 0.343, MRR $\approx$ 0.205).
  Gli autori sottolineano che queste metriche rappresentano il recupero di etichette di metadati e identità di composti registrati all'interno della libreria osservata, non l'accuratezza di classificazione su molecole inedite o sull'intero trascrittoma.

Significato e Rivendicazioni
Il documento afferma che GeneSpeak-FP dimostra la fattibilità di un singolo modello multi-task per recuperare simultaneamente le annotazioni dei target mappati e le identità dei composti registrati dalle risposte cellulari osservate in un contesto di libreria chiusa.

• Contributo Primario: La formulazione unificata e la valutazione del recupero simultaneo di annotazioni target e identità di composti da firme a livello di singola cellula all'interno della risorsa Tahoe-100M.
• Limitazioni e Ambito: Gli autori sono espliciti riguardo alla specificità dei risultati rispetto al protocollo di libreria chiusa valutato. Il modello non generalizza a composti o contesti cellulari inediti (scenari cold-start) in questo studio. Il recupero dei target è inquadrato come recupero di metadati piuttosto che inferenza meccanicistica, riconoscendo che le annotazioni dei target sono etichette a livello di composto e non una verità fondamentale causale esaustiva.
• Applicazione: Il caso d'uso dimostrato è strettamente limitato all'organizzazione di screening di perturbazioni esistenti e al restringimento di uno spazio di candidati predefinito per analisi di follow-up. Gli autori dichiarano esplicitamente che il modello non è destinato al processo decisionale clinico, alla scoperta di target causali o alla raccomandazione terapeutica senza un'indipendente validazione biologica e prospettica.