📄 molecular biology

FlexRibbon: Joint Sequence and Structure Pretraining for Protein Modeling

FlexRibbon è un nuovo modello di fondazione proteica che preaddestra congiuntamente su sequenze di amminoacidi e strutture 3D utilizzando una combinazione di modellazione del linguaggio mascherato e denoising basato sulla diffusione, raggiungendo prestazioni allo stato dell'arte attraverso diversi compiti — particolarmente in regimi ricchi di mutazioni dove i metodi tradizionali basati su MSA faticano — senza fare affidamento su allineamenti multipli di sequenze.

Autori originali: Zhu, J., Shi, Y., Bi, R., Jin, P., Liu, C., Zhang, Z., Huang, H., Guo, Z., Hu, P., Ju, F., Huang, L., Tai, X., Li, C., Gao, K., Wei, X., Xia, H., Zhang, J., Min, Y., Wang, Z., Wang, Y., He, L., Liu, H

Pubblicato 2026-07-09

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Zhu, J., Shi, Y., Bi, R., Jin, P., Liu, C., Zhang, Z., Huang, H., Guo, Z., Hu, P., Ju, F., Huang, L., Tai, X., Li, C., Gao, K., Wei, X., Xia, H., Zhang, J., Min, Y., Wang, Z., Wang, Y., He, L., Liu, H., Qin, T.

Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ⚕️ Questa è una spiegazione generata dall'IA di un preprint non sottoposto a revisione paritaria. Non è un consiglio medico. Non prendere decisioni sulla salute basandoti su questo contenuto. Leggi il disclaimer completo

Immaginate il mondo delle proteine come una città enorme e frenetica. Per molto tempo, gli scienziati che cercavano di comprenderne questa città hanno dovuto scegliere tra due mappe molto diverse.

La prima mappa era come un libro di grammatica. Guardava solo la sequenza di lettere (amminoacidi) che compongono una proteina, ignorando l'aspetto reale della città. Era ottima per comprendere il "linguaggio" della vita, ma spesso si perdeva nel tentativo di capire la forma 3D degli edifici.

La seconda mappa era come un sondaggio basato sul crowdsourcing. Si affidava all'osservazione di migliaia di città simili (cugini evolutivi) per indovinare l'aspetto di una nuova città. Questo metodo era incredibilmente accurato per gli edifici standard, ma se si cercava di mappare un grattacielo nuovo e dalla forma bizzarra o una città che aveva cambiato troppo il proprio layout, il sondaggio falliva perché non c'erano esempi simili con cui confrontarsi.

Entra in scena FlexRibbon, un nuovo tipo di cartografo che ha deciso di non scegliere più tra il libro di grammatica e il sondaggio. Inveve, ha imparato a leggere la grammatica e a osservare i progetti contemporaneamente.

La formula segreta: una strada a doppio senso

La maggior parte dei modelli precedenti erano come una strada a senso unico: prendevano una sequenza di lettere e cercavano di indovinare la forma. FlexRibbon ha costruito una strada a doppio senso. Ha imparato che le lettere determinano la forma, ma anche che la forma dice quali dovrebbero essere le lettere.

Per insegnare questo, i ricercatori hanno utilizzato un gioco di addestramento ingegnoso. Hanno preso una proteina, hanno rimescolato la sua forma 3D con del rumore (come scuotere un globo di neve) e hanno chiesto al modello di pulirla. Allo stesso tempo, hanno nascosto alcune delle lettere nella sequenza e hanno chiesto al modello di indovinarle, ma con un tocco particolare: doveva usare la forma 3D disordinata come indizio per fare la scelta giusta. Questo ha costretto il modello a capire che la sequenza e la struttura sono legate tra loro, come una serratura e una chiave che non possono essere separate.

Perché questo è importante: le parti "disordinate"

La vera magia avviene nelle parti disordinate della città. In biologia, alcune proteine hanno braccia flessibili e fluttuanti (come i loop degli anticorpi) o cambiano forma quando si agganciano a qualcosa. I vecchi modelli basati sul "solo sondaggio" (che si affidano alla ricerca di cugini simili) spesso si bloccano qui perché queste parti flessibili cambiano troppo per avere un modello chiaro nei dati evolutivi.

FlexRibbon, tuttavia, gestisce queste regioni difficili in modo diverso. Invece di fare affidamento su una "folla di cugini" per trovare un modello, esso aggira completamente la necessità di quel sondaggio. Modellando direttamente il legame tra la singola sequenza e la sua struttura, può prevedere queste regioni flessibili e altamente mutate con una precisione sorprendente, anche quando i segnali evolutivi sono deboli o assenti.

La prova: 12 diverse sfide

Il team non si è limitato a dire che funzionava; ha sottoposto FlexRibbon a un banco di prova composto da 12 compiti diversi per vedere se fosse in grado di gestire problemi reali. Ecco cosa hanno scoperto:

Design di anticorpi: Quando gli è stato chiesto di progettare anticorpi (i difensori del corpo) per attaccarsi ai virus, FlexRibbon ha avuto successo nel 61,3% dei casi per gli anticorpi standard e nel 51,1% per i nanocorpi (piccoli anticorpi). Questo è stato un grande salto rispetto ai precedenti metodi migliori, che erano bloccati rispettivamente intorno al 46,7% e al 44,0%.
Legame dei peptidi: Per prevedere come piccole catene proteiche (peptidi) si attaccano a proteine più grandi, FlexRibnon ha raggiunto un tasso di successo del 91,4%, superando il secondo miglior metodo del 7,0% e del 10,2%.
Drug Discovery (Scoperta di farmaci): Nel cercare di indovinare quanto bene una molecola di farmaco si attacchi a una proteina, FlexRibbon ha ottenuto un punteggio di correlazione di 0,848 e un tasso di errore di 1,150, superando tutti gli altri metodi testati.
Cambio di forma: Il modello poteva anche prevedere come una proteina cambia forma quando un farmaco si lega ad essa, ottenendo un punteggio di somiglianza strutturale (TM-score) di 0,985 per un caso di test, il che è incredibilmente vicino alla realtà.

Cosa NON è

È importante sapere cosa non fa FlexRibbon. Non si affida al "sondaggio basato sul crowdsourcing" (Allineamenti di Sequenze Multiple) che i modelli più vecchi usavano per fare le previsioni. Se gli si fornisce una proteina con pochissimi cugini evolutivi, i vecchi modelli potrebbero avere difficoltà perché il loro sondaggio non ha dati, ma FlexRibbon ha successo affidandosi alla sua comprensione interna del legame diretto tra sequenza e struttura, permettendogli di navigare in regioni in cui i segnali di allineamento sono deboli.

In sintamente

L'articolo suggerisce che insegnando a un modello di apprendere sequenze e strutture insieme, piuttosto che una dopo l'altra, otteniamo uno strumento molto più flessibile e accurato. Non è solo un miglior indovino; è un miglior progettista. Che si tratti di creare nuovi anticorpi per combattere le malattie o di capire come i farmaci si incastrano nei loro bersagli, FlexRibbon dimostra che quando si lascia che la sequenza e la struttura si parlino, l'intero sistema funziona meglio.

Gli autori hanno misurato questi risultati su benchmark specifici come la sfida CASP15 e il dataset PoseBusters V1, riscontrando che FlexRibbon raggiunge costantemente nuovi punteggi elevati, specialmente nelle aree critiche e ricche di mutazioni dove altri metodi spesso inciampano. È un passo verso un futuro in cui potremo progettare proteine da zero con la stessa facilità con cui si scrive una frase.

Riepilogo Tecnico: FlexRibbon

Definizione del Problema

I modelli di fondazione proteica (PFM) hanno progredito rapidamente, ma generalmente rientrano in due paradigmi dominanti con distinti limiti. I modelli linguistici basati sulla sequenza (ad es., ESM-2, ProtT5) catturano la semantica della sequenza su larga scala, ma mancano di rilevanza fisica e di informazioni geometriche tridimensionali, limitando la loro capacità di modellare la base strutturale della funzione proteica. Al contrario, i predittori basati su MSA (ad es., AlphaFold 2/3) raggiungono un'elevata accuratezza sfruttando i accoppiamenti evolutivi, ma dipendono fortemente da sequenze omologhe. Questa dipendenza li rende meno affidabili in regimi con allineamenti sparsi, regioni altamente mutate o interfacce flessibili (come i loop CDR degli anticorpi e le regioni intrinsecamente disordinate). Inoltre, i modelli congiunti esistenti trattano spesso la struttura come un segnale ausiliario piuttosto che modellarla in modo bidirezionale, o soffrono di colli di bottiglia della memoria quando tentano l'apprendimento strutturale full-atom accanto alla semantica della sequenza.

Metodologia

FlexRibbon è un modello proteico preaddestrato da 3 miliardi di parametri progettato per apprendere congiuntamente da sequenze di amminoacidi e strutture tridimensionali senza richiedere Allineamenti di Sequenze Multiple (MSA).

1. Strategia di Preaddestramento

L'innovazione principale è un obiettivo di preaddestramento unificato che combina il Masked Language Modeling (MLM) con il Denoising basato su diffusione. Ciò consente un apprendimento sequenza-struttura bidirezionale:

Struttura-Informed Masked Language Modeling (SIMLM): Il modello integra il rumore di diffusione nelle rappresentazioni strutturali durante il recupero della sequenza. Impiega tre modalità di addestramento: (1) Sequence-to-Structure (diffusione standard), (2) Coupled Perturbation (mascheramento dei residui e aggiunta di rumore alle loro strutture locali) e (3) Sequence-Masked Global Perturbation (mascheramento dei residui applicando contemporaneamente il rumore a tutte le strutture). Questo incoraggia un apprendimento robusto della relazione bidirezionale tra l'identità della sequenza e la conformazione 3D.
Preaddestramento per Diffusione: Il modello utilizza un processo di diffusione a varianza esplosiva per denoisare le coordinate degli atomi pesanti. Impone l'invarianza rotazionale tramite data augmentation (rotazioni SO(3) casuali) anziché pesanti architetture equivarianti, e rimuove la libertà traslazionale centrando le strutture sul loro centro di massa.

2. Architettura

FlexRibbon utilizza un'architettura gerarchica a tre stadi per bilanciare efficienza ed espressività:

Modulo di Sequenza: Un encoder Transformer che incorpora congiuntamente i residui proteici e gli atomi delle piccole molecole. Include caratteristiche di legame covalente 2D tramite una proiezione appresa, consentendo al modello di recuperare i pattern di legame dalle identità atomiche.
Modulo Strutturale a Grana Grossa (Coarse-Grained): Un Diffusion Transformer (DiT) che denoisa le coordinate a livello di residuo per le proteine e a livello di atomo per le piccole molecole, condizionato dalle embedding della sequenza.
Modulo Strutturale All-Atom: Un secondo DiT che affina gli output a grana grossa in una risoluzione full-atom. Utilizza bias di attenzione apprendibili per i legami covalenti per garantire la validità chimica, conciliando il contesto globale del residuo con le interazioni atomiche dettagliate.

3. Addestramento e Funzioni di Perdita

L'obiettivo di addestramento integra quattro componenti:

Perdita di Diffusione ( $L_{MSE}$ ): Perdita di denoising per la ricostruzione strutturale.
Perdita MLM ( $L_{MLM}$ ): Recupero della sequenza tramite predizione di residui mascherati.
Perdita di Distanza ( $L_{Dist}$ ): Regolarizza le distanze inter-residuo predette per mantenere una geometria terziaria realistica.
Perdita Smooth-lIDDT ( $L_{smooth-lDDT}$ ): Allinea l'addestramento con le metriche di accuratezza geometrica locale.
Ponderazione Adattiva: Una perdita di diffusione pesata sulla fiducia scala i contributi in base ai pesi sigmoide derivati da pLDDT, riducendo il rumore dalle regioni a bassa fiducia (ad es., strutture predette da AlphaFold 2) ed enfatizzando i segnali affidabili.

L'addestramento procede in tre stadi progressivi (A, B, C) aumentando la lunghezza della sequenza (384 $\to$ 768 $\to$ 1024 residui) e introducendo l'addestramento del modulo MLM e della testa di fiducia negli stadi successivi.

Contributi Chiave

Nuova Strategia di Preaddestramento: FlexRibbon unifica la predizione e il design della struttura proteica combinando l'MLM con il denoising basato su diffusione, apprendendo una mappatura sequenza-struttura bidirezionale invece di una mappatura unidirezionale sequenza-struttura.
Modellazione Gerarchica: Introduce una strategia che bilancia la capacità scalabile tra le rappresentazioni di sequenza e struttura, superando i colli di bottiglia della memoria dei precedenti modelli full-atom e consentendo un efficace apprendimento strutturale su larga scala.
Capacità di Co-design: Il modello abilita il co-design della sequenza e della struttura proteica, eccellendo particolarmente nelle regioni flessibili e altamente mutate (ad es., i loop CDR di anticorpi e nanobody) dove i metodi basati su MSA faticano.
Generalizzazione Ampia: Dimostra guadagni consistenti in 12 compiti diversi, mostrando che il preaddestramento sequenza-struttura si trasferisce ampiamente oltre il semplice ripiegamento proteico.

Risultati Sperimentali

FlexRibbon è stato valutato su tre famiglie di compiti: predizione/design di interfacce flessibili, predizione di interazioni intermolecolari e predizione della funzione proteica.

Interfacce Flessibili: Nella predizione dell'interfaccia antigene-anticorpo e antigene-nanobody (SAb23H2), FlexRibza ha raggiunto tassi di successo del 61,3% (antigene-anticorpo) e del 51,1% (antigene-nanobody), superando IgGM rispettivamente del 14,6% e del 7,1%. Nella predizione dell'interfaccia proteina-peptide (FoldBench), ha raggiunto un tasso di successo del 91,4%, superando AlphaFold 3 e PepGLAD.
Design di Anticorpi/Nanobody: FlexRibbon ha ottenuto un recupero di amminoacidi (AAR) del 41,4% per gli anticorpi e del 21,8% per i nanobody, con tassi di successo rispettivamente del 46,0% e del 43,7%, superando i baseline come dyMEAN e IgGM.
Interazioni Intermolecolari:
- Docking: Sul benchmark PoseBusters V1, FlexRibbon ha raggiunto un tasso di successo del 71,82% (random-1) e del 78,70% (oracle), raggiungendo la parità con i metodi basati su MSA come AlphaFold 3 e superando significativamente i baseline a singola sequenza.
- Cambiamento Conformazionale: Nella predizione del cambiamento conformazionale indotto dal ligando, FlexRibbon ha ottenuto un punteggio TM-ens di 0,889 (zero-shot), migliorando rispetto a ESMDiff di 0,038.
- Affinità di Legame: Su CASF-2016, FlexRibbon ha ottenuto il miglior RMSE (1,150) e la migliore correlazione di Pearson (0,848) tra i baseline confrontati.
Predizione della Funzione: Nei compiti Gene Ontology (GO) ed Enzyme Commission (EC), FlexRibbon ha ottenuto F1 score di 0,891 (EC), 0,539 (GO-BP), 0,694 (GO-MF) e 0,560 (GO-CC), superando i baseline di sola sequenza e ibridi.
Predizione della Struttura: Su CASP15, FlexRibbon ha raggiunto un TM-score di 0,703, superando ESMFold ed ESM3.
Stima della Fiducia: I punteggi pTM predetti dal modello hanno mostrato una forte correlazione (R = 0,89) con i TM-score osservati su CASP15.

Significato e Rivendicazioni

L'articolo afferma che FlexRibbon stabilisce un nuovo stato dell'arte in 12 compiti diversi, con guadagni particolarmente forti in contesti ricchi di mutazioni dove i metodi basati su MSA spesso falliscono. Gli autori sostengono che i risultati evidenziano i vantaggi consistenti del preaddestramento congiunto sequenza-struttura, dimostrando che tale approccio consente il co-design di sequenza e struttura e cattura le conformazioni flessibili critiche per la funzione biologica. Modellando con successo le dipendenze bidirezionali senza fare affidamento su MSA, FlexRibbon viene presentato come un modello di fondazione general-purpose che estende i benefici della modellazione proteica oltre il ripiegamento verso compiti complessi di design e predizione delle interazioni.