RETROSPECT: RETROsynthesis via Sequential Prediction, and Chemically Transformed-ranking

Résumé Technique de RETROSPECT : Retrosynthesis via Sequential Prediction and Chemically Transformed-ranking

1. Définition du Problème

L'article traite du défi de la rétrosynthèse en une étape (single-step retrosynthesis), qui consiste à identifier des molécules précurseurs capables de produire une molécule cible. Les auteurs soutiennent qu'un modèle d'une étape utile doit satisfaire deux exigences distinctes qui sont souvent confondues dans les systèmes existants :

1. Précision de la proposition (Proposal Accuracy) : Placer une déconnexion correcte près du sommet d'une liste classée.
2. Richesse des candidats (Candidate Richness) : Préserver un nombre suffisant d'alternatives plausibles pour la sélection en aval (par un planificateur ou un chimiste) lorsque la suggestion principale est indisponible, non sûre ou stratégiquement mauvaise.

Les systèmes actuels fusionnent souvent la génération de propositions et le classement en une seule étape. Cet article propose une décomposition proposition-sélection, traitant la génération de candidats et la sélection de candidats comme deux étapes modulaires et distinctes afin de mieux comprendre les contributions spécifiques de chacune.

2. Méthodologie

Le système proposé, RETROSPECT, se compose de deux composants principaux : un générateur de propositions et un ré-classeur (reranker) par apprentissage de classement (learning-to-rank).

A. Modèle de Proposition : Le ChemAlign Transformer
Le générateur est un Transformer encodeur-décodeur conçu pour produire un ensemble de candidats précurseurs. Il s'appuie sur l'architecture Augmented Transformer mais introduit plusieurs optimisations spécifiques :

• Augmentation hybride des SMILES : Les données d'entraînement sont augmentées à l'aide d'un mélange de SMILES alignés sur la racine (qui alignent les traversées produit et réactif autour d'atomes correspondants pour réduire la distance d'édition) et de SMILES aléatoires (pour préserver l'invariance de la traversée). Cela crée un signal de supervision hybride.
• Améliorations architecturales : Le modèle utilise le Pre-LayerNorm pour une optimisation stable, des plongements liés (tied embeddings) entre l'encodeur, le décodeur et la projection de sortie, ainsi que des poids de moyenne mobile exponentielle (EMA) pour la validation et l'inférence.
• Perte auxiliaire différentiable : Une perte d'équilibre atomique différentiable est ajoutée pour pénaliser les écarts entre les comptes d'éléments attendus (dérivés du softmax du décodeur) et les fractions d'éléments de la vérité terrain. Cela oriente le modèle pour éviter les violations de l'équilibre de masse sans agir comme une contrainte stricte.
• Protocole d'entraînement : Le modèle est entraîné sur 40 008 réactions du jeu de données USPTO-50K, en utilisant une augmentation hors ligne en 20 plis (16 alignées sur la racine et 4 aléatoires par réaction).

B. Modèle de Ré-classement : LambdaMART
Une fois que le générateur a produit un pool de candidats fusionnés (dédupliqués à travers plusieurs traversées SMILES), un modèle LambdaMART (Learning to Rank) réordonne les candidats.

• Caractéristiques (Features) : Le ré-classeur utilise quatre blocs de caractéristiques :
  1. Score de proposition amont : Le score brut provenant du générateur.
  2. Descripteurs structurels : Comptages de pharmacophores, groupes fonctionnels, deltas de nombre d'atomes et similitudes de empreintes digitales (Morgan/MACCS).
  3. Descripteurs de modèles de réaction (Templates) : Extractibilité du template, identifiants de template hachés et statistiques de fréquence de template gelées sur l'entraînement.
  4. Descripteurs dérivés de la DFT (Optionnel) : Différences au niveau de la réaction pour l'HOMO, la LUMO, le gap, le dipôle, la dureté, la mollesse et les caractéristiques d'orbitales frontières.
• Stratégie d'entraînement : Le modèle est entraîné de manière groupée pour chaque produit avec un objectif de liste rank:ndcg. Des étiquettes de pertinence graduées sont utilisées, où les correspondances exactes de l'ensemble de précurseurs reçoivent le gain le plus élevé. Crucialement, les statistiques de type fréquence sont gelées sur le split d'entraînement pour éviter la fuite de données (data leakage).

3. Principales Contributions

1. Cadre Modulaire : L'introduction de RETROSPECT, qui sépare clairement la génération de candidats de la sélection de candidats, permettant une analyse indépendante de la qualité de la proposition et de l'efficacité du classement.
2. ChemAlign Transformer : Une variante raffinée du Transformer qui atteint de solides performances en un seul modèle grâce à l'augmentation hybride, au Pre-LayerNorm, aux plongements liés et à la régularisation de l'équilibre atomique.
3. Implémentation du ré-classement LambdaMART : Un pipeline de ré-classement robuste qui intègre des caractéristiques structurelles, de templates et de la DFT, avec des protocoles spécifiques pour la gestion des statistiques de fréquence.
4. Analyse d'ablation : Une investigation détaillée de la source des signaux de ré-classement, identifiant que les scores amont et les statistiques de template sont les facteurs dominants, tandis que les caractéristiques DFT fournissent des gains plus faibles et moins constants.

4. Résultats Expérimentaux

Le système a été évalué sur le jeu de test standard USPTO-50K (5 007 réactions).

• Performance du modèle unique (Générateur uniquement) :

  • Précision Top-1 : 55,00 %
  • Précision Top-10 : 86,18 %
  • Validité Top-1 : 99,86 %
  • Insight d'ablation : L'augmentation des SMILES hybrides alignés sur la racine a été le choix de conception dominant, améliorant la précision Top-1 de 9,23 points de pourcentage par rapport à une base de référence mise à l'échelle.

• Performance du ré-classement (RETROSPECT complet) :

  • Évalué sur un pool de candidats fusionnés d'environ 111 candidats par produit.
  • Précision Top-1 : Améliorée de 55,00 % à 59,4 %.
  • Précision Top-10 : Améliorée de 86,18 % à 93,06 %.
  • Rang Reciproque Moyen (MRR) : 0,7171.

• Importance des caractéristiques :

  • Le score de proposition amont est la caractéristique la plus forte.
  • Les caractéristiques de fréquence et d'identité de template fournissent les gains suivants les plus importants.
  • Les caractéristiques DFT et les caractéristiques DFT du centre de réaction ont montré des gains faibles et inconsistants, suggérant qu'elles sont actuellement secondaires par rapport aux caractéristiques structurelles et de template.

5. Signification et Revendications

Les auteurs positionnent RETROSPECT avec une posture délibérément conservatrice. Ils ne prétendent pas que chaque composant surpasse uniformément les meilleurs modèles de bout en bout publiés (ex: RetroChimera ou EditRetro). Au lieu de cela, l'article plaide pour une vue modulaire de la rétrosynthèse :

1. Complémentarité : Des propositions de modèles uniques plus fortes et une sélection de candidats apprise sont complémentaires. Le modèle de proposition assure un pool riche de candidats, tandis que le ré-classeur optimise l'ordre basé sur des signaux appris.
2. Utilité "Drop-in" : Le ChemAlign Transformer est présenté comme un système autonome compétitif, mais il est spécifiquement mis en avant comme un composant "drop-in" attractif pour les systèmes d'ensemble (tels que RetroChimera).
3. Clarté Scientifique : La décomposition permet des conclusions scientifiques plus claires : l'augmentation alignée sur la racine conduit la qualité de la proposition, tandis que les gains de ré-classement dans la configuration actuelle sont principalement tirés par les scores de proposition et les priors de template plutôt que par des calculs DFT complexes.

Les auteurs concluent que bien que la précision de correspondance exacte sur USPTO-50K soit une métrique standard, le système est conçu comme un outil d'aide à la décision pour les chimistes plutôt que comme un planificateur autonome, soulignant la nécessité d'une revue humaine et de vérifications de sécurité dans un déploiement pratique.