RETROSPECT: RETROsynthesis via Sequential Prediction, and Chemically Transformed-ranking

Sintesi Tecnica di RETROSPECT: Retrosintesi tramite Predizione Sequenziale e Classificazione Chimicamente Trasformata

1. Definizione del Problema

Il documento affronta la sfida della retrosintesi a singolo step, che consiste nell'identificare le molecole precursori capaci di produrre una molecola target. Gli autori sostengono che un modello a singolo step utile debba soddisfare due requisiti distinti che spesso vengono confusi nei sistemi esistenti:

1. Accuratezza della Proposta: Posizionare una disconnessione corretta vicino alla cima di una lista classificata.
2. Ricchezza dei Candidati: Preservare un numero sufficiente di alternative plausibili per la selezione successiva (da parte di un pianificatore o di un chimico) quando il suggerimento principale non è disponibile, non è sicuro o è strategicamente inadatto.

I sistemi attuali spesso fondono la generazione delle proposte e la classificazione in un unico stadio. Questo articolo propone una decomposizione proposta-selezione, trattando la generazione dei candidati e la selezione dei candidati come stadi separati e modulari per comprendere meglio i contributi specifici di ciascuno.

2. Metodologia

Il sistema proposto, RETROSPECT, è composto da due componenti primari: un generatore di proposte e un reranker (riclassificatore) basato su learning-to-rank.

A. Modello di Proposta: Il ChemAlign Transformer
Il generatore è un Transformer encoder-decoder progettato per produrre un pool di precursori candidati. Si basa sull'architettura Augmented Transformer ma introduce diverse ottimizzazioni specifiche:

• Augmentation Ibrida di SMILES: I dati di addestramento sono aumentati utilizzando un mix di SMILES allineate alla radice (che allineano le traversate prodotto-reagente attorno agli atomi corrispondenti per ridurre la distanza di edit) e SMILES casuali (per preservare l'invarianza della traversata). Ciò crea un segnale di supervisione ibrido.
• Miglioramenti Architetturali: Il modello utilizza la Pre-LayerNorm per una ottimizzazione stabile, embedding legati (tied embeddings) tra encoder, decoder e proiezione di output, e pesi EMA (Exponential Moving Average) per la validazione e l'inferenza.
• Perdita Ausiliaria Differenziabile: Viene aggiunta una perdita di bilancio atomico differenziabile per penalizzare le deviazioni tra i conteggi degli elementi attesi (derivati dal softmax del decoder) e le frazioni di elementi reali. Questo orienta il modello lontano dalle violazioni del bilancio di massa senza agire come un vincolo rigido.
• Protocollo di Addestramento: Il modello è addestrato su 40.008 reazioni dal dataset USPTO-50K, utilizzando un'augmentation offline a 20 pieghe (16 allineate alla radice e 4 casuali per reazione).

B. Modello di Reranking: LambdaMART
Una volta che il generatore produce un pool di candidati unificato (deduplicato attraverso molteplici traversate SMILES), un modello LambdaMART (Learning to Rank) riordina i candidati.

• Feature: Il reranker utilizza quattro blocchi di feature:
  1. Punteggio della Proposta a monte: Il punteggio grezzo proveniente dal generatore.
  2. Descrittori Strutturali: Conteggi dei farmacofori, gruppi funzionali, delta del conteggio atomico e similitudini di fingerprint (Morgan/MACCS).
  3. Descrittori del Template di Reazione: Estrattibilità del template, identificatori di template hashati e statistiche di frequenza del template congelate durante l'addestramento.
  4. Descrittori derivati da DFT (Opzionali): Differenze a livello di reazione in HOMO, LUMO, gap, dipolo, durezza, morbidezza e caratteristiche dell'orbitale frontale.
• Strategia di Addestramento: Il modello è addestrato per gruppo all'interno di ogni prodotto con un obiettivo listwise rank:ndcg. Vengono utilizzate etichette di rilevanza graduata, dove i match esatti del set di precursori ricevono il guadagno più alto. Fondamentalmente, le statistiche di tipo frequenza sono congelate sulla partizione di addestramento per evitare il data leakage.

3. Contributi Chiave

1. Framework Modulare: L'introduzione di RETROSPECT, che separa nettamente la generazione dei candidati dalla selezione dei candidati, permettendo un'analisi indipendente della qualità della proposta e dell'efficacia della classificazione.
2. ChemAlign Transformer: Una variante raffinata del Transformer che raggiunge forti prestazioni con un singolo modello grazie all'augmentation ibrida, Pre-LayerNorm, embedding legati e regolarizzazione del bilancio atomico.
3. Implementazione del Reranking con LambdaMART: Una pipeline di riclassificazione robusta che integra feature strutturali, di template e DFT, con protocolli specifici per la gestione delle statistiche di frequenza.
4. Analisi di Ablazione: Un'indagine dettagliata sulla fonte dei segnali di reranking, che identifica i punteggi a monte e le statistiche dei template come i fattori dominanti, mentre le feature DFT forniscono guadagni minori e meno consistenti.

4. Risultati Sperimentali

Il sistema è stato valutato sul dataset di test standard USPTO-50K (5.007 reazioni).

• Prestazioni del Singolo Modello (Solo Generatore):

  • Accuratezza Top-1: 55,00%
  • Accuratezza Top-10: 86,18%
  • Validità Top-1: 99,86%
  • Insight dall'Ablazione: L'augmentation delle SMILES allineate alla radice è stata la scelta di design dominante, migliorando l'accuratezza Top-1 di 9,23 punti percentuali rispetto a un baseline scalato.

• Prestazioni del Reranking (Full RETROSPECT):

  • Valutato su un pool di candidati unificato di circa 111 candidati per prodotto.
  • Accuratezza Top-1: Migliorata dal 55,00% al 59,4%.
  • Accuratezza Top-10: Migliorata dall'86,18% al 93,06%.
  • Mean Reciprocal Rank (MRR): 0,7171.

• Importanza delle Feature:

  • Il punteggio della proposta a monte è la singola feature più forte.
  • Le feature di frequenza e identità del template forniscono i successivi guadagni maggiori.
  • Le feature DFT e le DFT del centro di reazione hanno mostrato guadagni piccoli e inconsistenti, suggerendo che siano attualmente secondarie rispetto alle feature strutturali e dei template.

5. Significato e Rivendicazioni

Gli autori posizionano RETROSPECT con una posizione deliberatamente conservativa. Non affermano che ogni componente superi uniformemente i migliori baseline end-to-end pubblicati (ad esempio, RetroChimera o EditRetro). Inveve, l'articolo sostiene una visione modulare della retrosintesi:

1. Complementarità: Proposte di modelli singoli più forti e una selezione dei candidati appresa sono complementari. Il modello di proposta assicura un pool ricco di candidati, mentre il reranker ottimizza l'ordinamento basandosi su segnali appresi.
2. Utilità "Drop-in": Il ChemAlign Transformer è presentato come un sistema standalone competitivo, ma è evidenziato specificamente come un componente "drop-in" attraente per sistemi ensemble (come RetroChimera).
3. Chiarezza Scientifica: La decomposizione permette conclusioni scientifiche più chiare: l'augmentation allineata alla radice guida la qualità della proposta, mentre i guadagni del reranking nella configurazione attuale sono guidati principalmente dai punteggi della proposta e dai priori dei template piuttosto che da complessi calcoli DFT.

Gli autori concludono che, sebbene l'accuratezza del match esatto su USPTO-50K sia un metric standard, il sistema è progettato come uno strumento di supporto decisionale per i chimici piuttosto che come un pianificatore autonomo, enfatizzando la necessità di revisione umana e controlli di sicurezza nel deployment pratico.