Riepilogo Tecnico: LineageFlow

Enunciato del Problema

L'ingegneria delle proteine richiede la generazione di sequenze che siano biofisicamente plausibili e rimangano membri riconoscibili di una famiglia o dominio target, pur esplorando la diversità all'interno della famiglia. I modelli generativi discreti attuali, inclusi gli approcci basati su diffusione e flusso, inizializzano tipicamente la generazione da rumore simplex uniforme o da corruzione di token mascherati. Gli autori sostengono che questi prior generici sono "agnostici rispetto alla famiglia" e scartano forti vincoli specifici per posizione indotti dall'evoluzione. Di conseguenza, il modello è costretto a ricostruire quasi ogni residuo, inclusi quelli altamente conservati, da stati fortemente corrotti ("sintesi da zero"). Questo onere porta a un debole controllo della famiglia, a una bassa plausibilità e a difficoltà nel mantenere strutture riconoscibili di dominio-famiglia.

Metodologia: LineageFlow

Gli autori propongono LineageFlow, un modello di matching del flusso di Dirichlet che riformula la generazione di sequenze proteiche come mutazione strutturata da un'impalcatura evoluta piuttosto che come sintesi da rumore generico.

1. Inizializzazione con Priori di Linea

Invece di un prior uniforme, LineageFlow inizializza il processo generativo utilizzando priori ancestrali derivati dalla Ricostruzione di Sequenze Ancestrali (ASR).

• Costruzione: Per una data famiglia proteica, gli autori costruiscono un Allineamento di Sequenze Multiple (MSA), inferiscono un albero filogenetico di massima verosimiglianza e eseguono un'ASR marginale alla radice per ottenere una distribuzione a posteriori sito-specifica sui residui.
• Rappresentazione: Questa posterior di radice è codificata come parametri di concentrazione di Dirichlet ($\alpha^{(h,l)}$), definendo un prior ancestrale specifico per la famiglia $q_0^{(h)}(X) = \prod_l \text{Dir}(x^{(l)}; \alpha^{(h,l)})$.
• Meccanismo: Questo approccio preserva le impalcature conservate (dove la famiglia è invariante) mantenendo l'incertezza solo sui siti genuinamente variabili. Il processo di generazione è quindi modellato come un trasporto continuo sul simplex di probabilità da questa distribuzione ancestrale verso le sequenze esistenti.

2. Matching del Flusso sul Simplex

LineageFlow impiega il Matching del Flusso di Dirichlet (DFM).

• Traiettoria: Viene definito un percorso di probabilità condizionata $p_t(x | x_1)$ in cui la massa di Dirichlet si concentra attorno al vertice target $x_1$ nel tempo $t \in [0, 1]$.
• Campo Vettoriale: Il modello apprende un campo vettoriale neurale dipendente dal tempo $\hat{v}(X, t; \theta)$ che trasporta il prior ancestrale verso la distribuzione dei dati. La deriva viene ricostruita tramite una parametrizzazione di classificatore $\hat{p}_\theta(x_1 | x_t, t)$, minimizzando la perdita di entropia crociata mediata sulla sequenza.
• Garanzia Teorica: Gli autori dimostrano che il campo analitico specifico per la linea soddisfa l'equazione di continuità sul simplex, garantendo la conservazione della massa di probabilità e mantenendo le traiettorie all'interno dello spazio degli stati valido.

3. Reindirizzamento per Campionamento Guidato da Obiettivi

Per incorporare obiettivi di fitness esterni senza una guida del predittore ad ogni passo, gli autori introducono il Reindirizzamento.

• Processo: A un tempo intermedio $t_{int}$, la traiettoria di generazione viene sospesa. Viene applicato un intervento "muta-seleziona-amplifica", ispirato all'evoluzione diretta.
  • Muta: Un kernel di proposta inietta diversità nella popolazione di particelle.
  • Seleziona: Le particelle vengono ripesate in base a un punteggio di fitness $J(X)$ (ad esempio, plausibilità o predittori di proprietà specifiche).
  • Amplifica: Viene eseguito il ricampionamento in base ai pesi.
• Base Teorica: Gli autori formalizzano il reindirizzamento come un problema di selezione regolarizzato KL, mostrando che la distribuzione ripesata massimizza il fitness atteso minimizzando al contempo la divergenza KL dalla legge di proposta.
• Raffinamento: La particella selezionata viene quindi integrata attraverso il flusso di base da $t_{int}$ a $t=1$ per produrre il campione finale.

Contributi Chiave

1. Priori Ancestrali vs Rumore Generico: Il documento dimostra che l'inizializzazione da priori di linea derivati da ASR supera significativamente le baseline inizializzate con maschere o uniformi. Trasforma la generazione da un denoising "da zero" a una mutazione strutturata, preservando le impalcature conservate.
2. Guida che Preserva la Varietà: Il Reindirizzamento fornisce un'intervento a singolo passo a tempo intermedio che indirizza i campioni verso gli obiettivi senza richiedere gradienti ad ogni passo di Eulero, preservando empiricamente la validità della famiglia.
3. Generazione ad Alta Fedeltà: Il modello raggiunge una validità familiare vicina alle sequenze naturali tenute da parte e migliora la confidenza strutturale prevista (plausibilità) mantenendo al contempo una notevole novità e diversità.

Risultati Sperimentali

Il modello è stato valutato su 8.886 famiglie Pfam-A (dataset RP35) con 1024 sequenze generate per metodo.

• Validità Familiare: LineageFlow ha raggiunto un'accuratezza familiare top-1 (Accfam) del 95,3%, rispetto allo 0% per le baseline con prior uniforme (DFM, EvoDiff) e al 92,8% per una baseline solo ASR (ASR-PSSM i.i.d.). Ciò indica che i priori di rumore generico non riescono a produrre membri familiari riconoscibili anche quando condizionati su etichette familiari.
• Plausibilità (Piegabilità): LineageFlow ha raggiunto un pLDDT medio di 76,6, superando la baseline solo ASR (70,8) e sorpassando significativamente DFM (46,2) ed EvoDiff (45,4). Ha inoltre superato ProtBFN preaddestrato (71,9) nonostante ProtBFN sia stato addestrato su un corpus circa 8 volte più grande.
• Novità e Diversità: Tra i campioni piegabili (pLDDT $\ge$ 70), l'86,2% ha soddisfatto un'identità del vicino più prossimo (NNId) $< 0,8$, e il 48,9% ha soddisfatto NNId $< 0,6$, dimostrando una profonda novità pur mantenendo l'identità familiare.
• Generazione di Enzimi Zero-Shot: In un contesto zero-shot su tre famiglie di enzimi tenute da parte, LineageFlow con reindirizzamento ha preservato i motivi conservati e migliorato i punteggi proxy di solubilità e termostabilità senza fine-tuning sulle famiglie target.
• Validazione Teorica: L'analisi del "regime difficile" (fasi iniziali) ha mostrato che i priori ASR forniscono un segnale recuperabile più elevato per il denoiser rispetto ai priori uniformi, portando a una maggiore accuratezza bayesiana ottimale e a una perdita di addestramento inferiore.

Significato e Affermazioni

Il documento afferma che LineageFlow stabilisce un nuovo paradigma per la generazione di sequenze proteiche sfruttando direttamente la storia evolutiva nel prior generativo.

• Meccanismo: Sostituendo il rumore generico con impalcature ancestrali informate dalla filogenesi, il modello riduce l'ambiguità delle fasi iniziali di generazione, permettendo al campo vettoriale appreso di concentrarsi sulla modellazione della variazione evolutiva piuttosto che sulla ricostruzione di strutture conservate.
• Praticità: L'introduzione del Reindirizzamento abilita il campionamento guidato da obiettivi (ad esempio, ottimizzazione per stabilità o solubilità) senza il costo computazionale della guida ad ogni passo, rendendolo adatto a compiti di stile evoluzione diretta.
• Limitazioni: Gli autori notano che il metodo dipende da MSA di alta qualità e inferenza filogenetica. La generazione è legata alle coordinate di allineamento specifiche per famiglia (gestendo i gap come maschere fisse) piuttosto che modellare esplicitamente le inserzioni/delezioni. Inoltre, le valutazioni si basano su proxy computazionali (ad esempio, pLDDT di OmegaFold, ESM-IF) e punteggi basati su predittori, il che significa che la validazione funzionale nel mondo reale deve ancora essere testata.

Il lavoro suggerisce che incorporare un contesto evolutivo esplicito (priori di linea) è fondamentale per ottenere un design proteico ad alta fedeltà e consapevole della famiglia, offrendo un'alternativa robusta ai processi generativi basati su rumore standard.