🤖 machine learning

Few-step Cofolding with All-Atom Flow Maps

Questo articolo introduce DeCAF, un framework che destilla i modelli di diffusione di co-folding all-atom allo stato dell'arte in mappe di flusso a pochi step efficienti, riducendo significativamente i costi computazionali pur mantenendo o migliorando l'accuratezza e la validità fisica per la predizione della struttura proteina-ligando.

Autori originali: Gianluca Scarpellini, Ron Shprints, Peter Holderrieth, Juno Nam, Pranav Murugan, Rafael Gómez-Bombarelli, Tommi Jaakola, Maruan Al-Shedivat, Nicholas Matthew Boffi, Avishek Joey Bose

Pubblicato 2026-06-09

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Gianluca Scarpellini, Ron Shprints, Peter Holderrieth, Juno Nam, Pranav Murugan, Rafael Gómez-Bombarelli, Tommi Jaakola, Maruan Al-Shedivat, Nicholas Matthew Boffi, Avishek Joey Bose

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di cercare di assemblare un complesso puzzle 3D in cui i pezzi sono atomi, e l'obiettivo è capire come una proteina (una macchina biologica) e una molecola di un farmaco si incastrino perfettamente.

Per molto tempo, il modo migliore per risolvere questo puzzle è stato come guardare un film al rallentatore mentre i pezzi si incastrano al loro posto. Dovevi simulare migliaia di minuscoli passaggi, controllando e ricontrollando la fisica ad ogni singolo fotogramma, solo per ottenere l'immagine finale. Era incredibilmente accurato ma anche incredibilmente lento e costoso, come cercare di trovare un granello di sabbia specifico su una spiaggia esaminando ogni singolo granello uno alla volta.

Entra in scena DECAF: Il tasto "Avanti veloce" per i puzzle molecolari

Il documento introduce un nuovo framework chiamato DECAF (Denoiser Cofolding All-Atom Flowmap). Pensa a DECAF non come a un nuovo risolutore di puzzle, ma come a una scorciatoia intelligente che impara dagli esperti del rallentatore.

Ecco come funziona, usando semplici analogie:

1. Il "Maestro" e lo "Studente"

Immagina uno chef magistrale (il "Maestro", come gli esistenti modelli Boltz-1 o Pearl) che sa esattamente come cucinare un pasto perfetto, ma che impiega 200 passaggi per arrivarci. Assaggia, regola, assaggia e regola ancora.
DECAF è come uno studente super veloce che osserva lo chef magistrale. Invece di imparare a cucinare passo dopo passo, lo studente impara a prevedere l'intero percorso in pochi grandi balzi.

Il Trucco Magico: DECAF impara a "saltare" sopra i migliaia di piccoli e noiosi passaggi che il maestro compie. Impara una "mappa di flusso" (flow map)—una scorciatoia che gli dice esattamente dove devono andare gli atomi in soli 10 o 20 passaggi invece di 200.

2. La "Palla di Cristallo" (Lookahead)

Di solito, quando sei a metà della risoluzione di un puzzle, non sai se la tua mossa attuale sia buona finché non hai finito tutto.
DECAF ha una capacità speciale chiamata "Flowmap Lookahead". Immagina di tenere in mano una palla di cristallo che ti permette di sbirciare nel puzzle finito mentre stai ancora stringendo tra le mani i pezzi disordinati.

Poiché DECAF può vedere istantaneamente quale sarebbe il risultato finale se completasse il puzzle proprio ora, può prendere decisioni più intelligenti immediatamente. Sa che: "Se sposto questo atomo qui, l'immagine finale sarà perfetta", senza dover aspettare di finire l'intera simulazione.

3. La "Squadra di Ricerca" (DECAF-SEARCH)

Una volta che DECAF ha la sua scorciatoia, gli autori hanno aggiunto una funzione di "Squadra di Ricerca" chiamata DECAF-SEARCH.

Immagina di cercare un tesoro. Invece di percorrere un solo sentiero, invii una piccola squadra di esploratori (particelle).
Poiché DECAF è così veloce, questi esploratori possono controllare molti percorsi diversi, sbirciare nelle loro palle di cristallo per vedere quale percorso conduce al tesoro migliore (la struttura fisicamente più valida) e poi concentrare la loro energia sul percorso vincente.
Questo permette al sistema di trovare la migliore soluzione possibile molto più velocemente dei vecchi metodi, che erano troppo lenti per controllare molti percorsi.

Cosa hanno dimostrato?

Gli autori hanno testato questo nuovo studente "avanti veloce" contro i maestri del "rallentatore":

Velocità vs Qualità: In molti test, DECAF ha trovato soluzioni che erano buone quanto i maestri lenti, ma lo ha fatto da 5 a 20 volte più velocemente.
La vittoria del "Basso Budget": Quando sono stati costretti a usare pochissimi passaggi (come solo 10 passaggi), i vecchi maestri sono falliti completamente, producendo strutture rotte o impossibili. DECAF, invece, ha prodotto comunque strutture di alta qualità e fisicamente valide.
Battere il migliore: Hanno persino applicato DECAF al modello attuale "stato dell'arte" (chiamato Pearl). La nuova versione DECAF-Pearl ha eguagliato il tasso di successo del maestro, ma utilizzando 5 volte meno calcoli computazionali.

Il succo del discorso

Il documento afferma che DECAF è un nuovo modo per insegnare ai computer come prevedere come i farmaci e le proteine si incastrano tra loro. Prende i metodi lenti ed costosi che già possediamo e li distilla in una versione veloce ed efficiente che non perde accuratezza. È come trasformare un film lento in alta definizione in una versione veloce che mantiene comunque un aspetto perfetto, permettendo agli scienziati di testare più idee in meno tempo.

Riassunto Tecnico: Cofolding a pochi step con Mappe di Flusso All-Atom (DECAF)

Definizione del Problema

La modellazione computazionale accurata di complessi biomolecolari 3D, in particolare per il cofolding proteina-ligando, è diventata un paradigma dominante nel design di farmaci basato sulla struttura (SBDD). Sebbene i moderni modelli generativi all-atom (ad es., AlphaFold 3, Boltz-1) possano predire strutture ad alta risoluzione atomica, essi si affidano a costosi rollout di diffusione iterativi. Generare strutture ad alta fedeltà richiede tipicamente centinaia di valutazioni di funzioni neurali (NFE), creando un significativo collo di bottiglia computazionale sia per l'implementazione che per le tecniche di ricerca durante l'inferenza.

Inoltre, generare strutture fisicamente valide a livello atomico è critico; una modellazione locale imprecisa porta a fallimenti catastrofici come collisioni steriche, lunghezze/angoli di legame errati e catene laterali tese. I vincoli fisici rigorosi spesso spostano l'onere computazionale verso i metodi durante l'inferenza, dove la ricerca guidata da ricompense (ad es., Monte Carlo Sequenziale, MCTS) viene utilizzata per raffinare i campioni. Tuttavia, questi metodi di ricerca compongono il costo dell'inferenza, poiché richiedono molteplici query di ricompensa su più particelle durante la traiettoria. La questione di ricerca centrale è se sia possibile addestrare un modello di cofolding all-atom che generi campioni ottimizzati per la ricompensa in modo efficiente utilizzando solo un piccolo numero di NFE durante l'inferenza.

Metodologia: Il Framework DECAF

Gli autori introducono DENOISER COFOLDING ALL-ATOM FLOWMAP (DECAF), un framework progettato per distillare gli stati dell'arte dei modelli di diffusione all-atom in mappe di flusso a pochi step. La metodologia affronta sfide tecniche specifiche nell'adattare i modelli di diffusione all-atom standard alle mappe di flusso per la modellazione proteica all-atom.

1. Riperametrizazione della Mappa di Flusso nello Spazio $\sigma$

I modelli di diffusione standard utilizzano spesso la parametrizzazione EDM (Elucidating the Design Space), che condiziona su un singolo livello di rumore $\sigma$ . Questa formulazione non si estende chiaramente alle mappe di flusso a doppio tempo, e la riparametrizzazione non lineare del tempo $\sigma(t)$ usata in EDM porta a instabilità numerica nel calcolo delle derivate parziali temporali ( $\partial \sigma / \partial t$ ) richieste dagli obiettivi della mappa di flusso.

Per aggirare questo problema, DECAF definisce la mappa di flusso direttamente nello spazio del rumore $\sigma$ . Invece di mappare il tempo $t$ , mappa tra livelli di rumore $\rho \to \sigma$ (dove $\rho > \sigma$ ).

$\sigma$ -Velocità: Il framework definisce una $\sigma$ -velocità istantanea $v_\sigma(x_\sigma) = dx_\sigma/d\sigma$ .
Velocità Media: La mappa di flusso è parametrizzata come uno spostamento utilizzando la velocità $\sigma$ media tra due livelli di rumore, permettendo al modello di effettuare "salti" lungo la traiettoria dell'ODE del flusso di probabilità direttamente nello spazio del rumore.
Stabilità: Questa riparametrizzazione elimina il problematico fattore $\partial \sigma / \partial t$ , consentendo un addestramento stabile e una distillazione diretta da modelli di cofolding pre-addestrati in stile EDM.

2. Parametrizzazione del Denoiser con Allineamento SE(3)

Un'innovazione critica è l'uso di una formulazione basata sul denoiser piuttosto che un diretto predittore di velocità.

Predizione dell'Endpoint: Il modello predice l'endpoint target $\hat{x}_{tgt}$ (la struttura pulita) invece della velocità istantanea.
Allineamento Rigido SE(3): La funzione di perdita incorpora una minimizzazione sull'gruppo SE(3) (usando l'algoritmo di Kabsch) per allineare la struttura predetta $\hat{x}_{tgt}$ con la verità fondamentale (o la predizione del teacher). Questo impone dolcemente la simmetria SE(3), fondamentale per addestrare modelli stabili e ridurre la varianza.
Funzione di Perdita: L'obiettivo di addestramento confronta l'endpoint predetto rispetto alla predizione del teacher dopo l'allineamento rigido, supportando sia l'addestramento diagonale (score matching) che quello off-diagonal (jump).

3. DECAF-SEARCH: Framework di Inferenza

Per sfruttare la mappa di flusso per l'ottimizzazione della ricompensa, gli autori introducono DECAF-SEARCH.

Meccanismo di Lookahead: A differenza dei modelli di diffusione standard dove la stima della ricompensa richiede la denoise completa, il lookahead della mappa di flusso di DECAF fornisce una predizione dell'endpoint pulito $\hat{x}_0$ da qualsiasi stato rumoroso intermedio $x_\sigma$ . Ciò consente una stima della ricompensa ( $R(\hat{x}_0)$ ) ad alta fedeltà senza completare l'intera traiettoria.
Algoritmo di Ricerca: Il framework adatta i metodi di steering durante l'inferenza (Feynman-Kac, MCTS) all'impostazione della mappa di flusso. Utilizza un $\gamma$ -sampler stocastico per generare particelle, valuta le loro ricompense lookahead ed esegue l'ascesa del gradiente nello spazio pulito o il resampling per guidare la generazione verso configurazioni ad alta ricompensa e fisicamente valide.

Contributi Chiave

Primo Flow Map Proteico All-Atom: Il design di DECAF-Boltz, il primo flow map all-atom che riesce a distillare un teacher Boltz-1 pre-addestrato.
Innovazioni Metodologiche:
- Una nuova riparametrizzazione nello spazio $\sigma$ che consente l'addestramento stabile di flow map per la modellazione all-atom.
- Una parametrizzazione basata sul denoiser che consente l'allineamento rigido pesato SE(3), cruciale per stabilità e accuratezza.
Ricerca durante l'Inferenza: L'introduzione di DECAF-SEARCH, un framework che utilizza il lookahead della mappa di flusso per migliorare la stima della ricompensa e l'allineamento, consentendo una ricerca efficiente con meno NFE.
Validazione Empirica: Dimostrazione che DECAF supera i baseline basati sulla diffusione nei regimi a basso NFE e eguaglia le prestazioni a budget completo con significativamente meno calcoli.

Risultati Sperimentali

Gli autori hanno valutato DECAF sui benchmark Runs N' Poses (RnP) e PoseBusters, confrontandolo con Boltz-1x (una variante fisica di Boltz-1) e altri modelli all'avanguardia come AlphaFold 3 e Pearl.

Prestazioni a Bassi Budget NFE

Benchmark RnP: Ai budget NFE ristretti (ad es., 20–50 NFE), DECAF-SEARCH supera significativamente Boltz-1x (tuned) in tutti i parametri (PB-Valid, Success Rate, lDDT-PLI). Ad esempio, a 20 NFE, DECAF raggiunge un punteggio PB-Valid dell'83,5% rispetto al 75,9% di Boltz-1x.
Generalizzazione: Il guadagno di prestazioni si mantiene in tutti i quartili di similarità della tasca (pocket-similarity), inclusi i target out-of-distribution, confermando la robustezza del modello.
Efficienza: DECAF eguaglia le prestazioni di Boltz-1x a 600 NFE utilizzando solo 30 NFE (una riduzione del carico computazionale di 20x) su PoseBusters.

Distillazione di Modelli All'Avanguardia

DECAF-Pearl: Il framework è stato applicato per distillare il modello di cofolding all'avanguardia Pearl. DECAF-Pearl eguaglia il success rate del teacher utilizzando 5 volte meno NFE (40 NFE rispetto alla simulazione completa).
Confronto: DECAF-Pearl supera altri potenziali baseline (inclusa la simulazione completa di Pearl) in termini di validità fisica e parametri di success rate ai bassi budget NFE.

Frontiera di Pareto

L'analisi della frontiera computazionale ottimale mostra che DECAF-SEARCH domina Boltz-1x in tutti i budget computazionali di inferenza. La strategia di ricerca ottimale varia in base al budget:

Basso NFE ( $\le$ 30): Il sampling basato su particelle (FK-steering) è ottimale.
NFE Moderato (100–250): La stima del gradiente Monte Carlo (MC-GRAD) è più efficace.
Alto NFE ( $\ge$ 142): La ricerca basata su MCTS produce i risultati migliori.

Significato e Rivendicazioni

Il paper afferma che DECAF rappresenta un passo avanti significativo nel rendere la generazione biomolecolare all-atom computazionalmente fattibile per applicazioni ad alto throughput.

Accelerazione: Comprimendo le traiettorie di diffusione in mappe di flusso a pochi step, DECAF riduce la latenza di inferenza di ordini di grandezza (ad es., riduzioni di 5x - 20x negli NFE) senza sacrificare l'accuratezza strutturale o la validità fisica.
Ottimizzazione della Ricompensa: Il lookahead della mappa di flusso consente una ricerca guidata dalla ricompensa più efficiente e accurata, affrontando la "tassa di inferenza" associata alle molteplici query di ricompensa nei modelli di diffusione standard.
Impatto Pratico: L'accelerazione abilita nuovi workflow, come il cofolding di intere librerie di ligandi contro un target per lo screening virtuale e la generazione di dataset sintetici su larga scala per l'addestramento di modelli downstream, che prima erano impraticabili a causa del costo delle simulazioni di diffusione complete.
Modestia: Gli autori riconoscono che i casi di fallimento (ad es., legami sp2 non planari) sono ereditati dai segnali di ricompensa dei modelli teacher (Boltz-1x) piuttosto che dal processo di ricerca stesso. Notano inoltre che la relazione tra il budget NFE e il tasso di successo non è monotona, suggerendo un lavoro futuro nella ricerca adattiva e nell'addestramento congiunto con ricompense specifiche per il task.

Il codice è rilasciato a https://github.com/genesistherapeutics/decaf.