Résumé technique : Guidance de classifieur calibrée par marge pour la planification de synthèse axée sur les propriétés

Énoncé du problème

La planification de synthèse vise à générer des séquences efficaces de réactions chimiques pour produire une molécule cible. Bien que les modèles de rétrosynthèse en une seule étape (autoregressifs) basés sur les données aient considérablement progressé, ils opèrent généralement sans tenir compte des préférences spécifiques des chimistes, telles que la préférence pour des types de réactions robustes (par exemple, les couplages croisés C–C) ou l'évitement d'intermédiaires dangereux. Les approches existantes pour intégrer ces contraintes sont limitées : le réentraînement des générateurs par propriété est coûteux en calcul et fragile face aux changements de contraintes, tandis que le filtrage a posteriori restreint la recherche aux séquences déjà générées par le modèle de base, laissant des voies valides mais inexplorées hors d'atteinte.

La guidance par classifieur offre une alternative légère en orientant la sortie d'un générateur préentraîné au moment de l'inférence à l'aide d'un signal auxiliaire. Cependant, les auteurs identifient un mode de défaillance fondamental, tant théorique qu'empirique : les classifieurs standards entraînés avec une perte d'entropie croisée (CE) sur des données de rétrosynthèse ne peuvent fournir la discriminabilité au niveau des jetons nécessaire. Dans les ensembles de données de réactions à déconnexion unique et peu denses, la « cellule rare » d'exemples d'entraînement (où un préfixe spécifique conduit à une propriété cible mais à un jeton préféré par le générateur) est structurellement sous-représentée. Par conséquent, les classifieurs entraînés par CE échouent à attribuer des probabilités significativement différentes aux continuations de jetons menant vers ou s'éloignant de la propriété cible, les rendant inefficaces pour outrepasser les distributions inconditionnelles du générateur lors de la recherche par faisceau.

Méthodologie : Classement de complétion de séquence (SCR)

Pour surmonter les limites de l'entraînement par entropie croisée, les auteurs proposent le Classement de complétion de séquence (SCR), une procédure d'entraînement novatrice qui calibre les classifieurs au niveau des jetons pour s'assurer qu'ils peuvent discriminer les continuations lors du décodage.

1. Analyse théorique de l'échec de l'entropie croisée

Les auteurs analysent formellement la complexité d'échantillonnage requise pour qu'un classifieur entraîné par CE atteigne l'écart de discriminabilité nécessaire ($\Delta_k > G_k$). Ils démontrent que, sur les données de rétrosynthèse, le nombre d'exemples de « cellule rare » (préfixes où la propriété cible exige un jeton que le générateur désapprouve) est insuffisant pour surmonter la variance d'échantillonnage. Même avec de grands ensembles de données, l'estimateur CE s'effondre vers la préférence du générateur, échouant à fournir le signal nécessaire pour orienter la recherche par faisceau.

2. Pipeline d'entraînement SCR

SCR y répond par deux modifications complémentaires :

• Augmentation contrastive : Pour chaque séquence partielle, la méthode construit un exemple négatif en remplaçant le jeton final par un jeton de vocabulaire choisi uniformément au hasard. Ce jeton se voit attribuer une étiquette « tout-venant » distincte de toutes les classes de réactions. Cette augmentation synthétique peuple la « cellule rare » à des positions hors politique, fournissant le signal de frontière inter-classes que l'annotation standard ne possède pas.
• Perte de classement basée sur la marge : Au lieu de se fier uniquement à l'estimation de la probabilité a posteriori, SCR impose une contrainte de marge directe sur les scores logarithmiques guidés. Pour un jeton de vérité terrain $r^*_k$ et la meilleure alternative du générateur $\hat{r}_k$, la perte impose :
  $$\tilde{s}_\alpha(r^*_k) - \tilde{s}_\alpha(\hat{r}_k) \geq \gamma$$
  où $\tilde{s}_\alpha$ est la somme de la probabilité logarithmique du générateur et de la probabilité logarithmique du classifieur. Cette perte installe directement l'écart de discriminabilité requis pour la guidance, le découplant du nombre d'échantillons par préfixe.

3. Garantie théorique

Les auteurs prouvent (Proposition 1) que les classifieurs satisfaisant ces exigences par étape (spécifiquement, attribuant des probabilités $c_1$ aux continuations satisfaisant la propriété et $c_2$ à celles qui ne la satisfont pas aux préfixes divergents) étendent de manière prouvée l'ensemble des séquences satisfaisant la propriété accessibles sous une recherche par faisceau guidée. Cela établit que SCR peut récupérer des cibles que le décodage non guidé rejetterait.

Contributions clés

1. Limite théorique de l'entropie croisée : L'article établit que l'entraînement par entropie croisée ne peut fournir la discriminabilité au niveau des jetons requise pour la guidance par classifieur sur des données de rétrosynthèse, en raison de la rareté structurelle des combinaisons jeton-classe rares dans les corpus à déconnexion unique.
2. Algorithme SCR : La proposition du Classement de complétion de séquence, qui combine une augmentation contrastive avec une perte de classement basée sur la marge pour calibrer les classifieurs par construction, garantissant que l'écart de discriminabilité est atteint.
3. Preuve d'accessibilité : Une preuve formelle démontrant que les classifieurs entraînés par SCR étendent l'espace chimique accessible par la recherche par faisceau guidée, garantissant théoriquement la récupération de séquences satisfaisant la propriété précédemment inaccessibles.
4. Validation empirique : Une évaluation extensive montrant que SCR oriente efficacement la génération vers des types de réactions et des matériaux de départ spécifiques, surpassant nettement les références sans modèle et basées sur des modèles.

Résultats expérimentaux

La méthode a été évaluée sur les ensembles de données USPTO-190 et USPTO-50k en utilisant la similarité de type de réaction et de matériau de départ (Tanimoto) comme cibles de guidance.

• Rétrosynthèse en une seule étape : Sur USPTO-190-Steps (640 produits), SCR a atteint la plus grande largeur de guidage parmi toutes les références. Il a récupéré des précurseurs guidés valides pour 231 des 287 produits où le générateur non guidé a échoué totalement. SCR a atteint une largeur de guidage de 0,64, dépassant la meilleure méthode basée sur des modèles (RetroKNN à 0,51) et réduisant l'écart de diversité entre les méthodes sans modèle et celles basées sur des modèles.
• Synthèse multi-étapes : En utilisant la recherche Retro* sur 190 cibles :
  • Guidage par type de réaction : A porté le taux de résolution de 16,8 % (non guidé) à 78,4 %, soit une amélioration de 4,7 fois, dépassant la meilleure référence sans modèle de 12,6 points de pourcentage.
  • Guidage Tanimoto : A atteint un taux de résolution de 95,3 % avec la plus grande diversité de voies.
  • Nouveauté : Pour les deux signaux, la guidance a débloqué des voies valides pour 33 cibles (17,4 %) qu'aucune référence ne pouvait résoudre.
• Diversité : Les échantillons guidés et non guidés n'ont montré qu'un chevauchement Jaccard de 39 %, confirmant que SCR explore un nouvel espace chimique véritablement nouveau plutôt que de simplement reclasser des candidats existants.
• Efficacité : La recherche guidée par SCR a nécessité significativement moins de nœuds de recherche et d'appels de modèle que les méthodes basées sur des modèles, tout en atteignant des taux de résolution plus élevés.

Importance et revendications

L'article revendique que SCR fournit une solution théoriquement fondée et empiriquement validée au problème de la planification de synthèse orientable. En dépassant les limites de l'entraînement par entropie croisée, SCR permet aux modèles autoregressifs d'intégrer des contraintes spécifiées par le chimiste (types de réactions, matériaux de départ) au moment de l'inférence sans réentraînement.

Les auteurs soulignent que leur approche étend l'espace chimique accessible au-delà de ce qui est possible avec le filtrage a posteriori ou les interventions au niveau de la recherche seule. La méthode comble efficacement l'écart de diversité de longue date entre les approches sans modèle et celles basées sur des modèles, offrant un cadre flexible pour la planification de synthèse axée sur les propriétés qui respecte à la fois la validité chimique et les préférences spécifiques de l'utilisateur. Le travail suggère que la guidance au niveau des jetons est une granularité supérieure pour faire respecter les contraintes par rapport au filtrage strict, qui élague souvent le front de recherche de manière trop agressive.