🤖 machine learning

FORGE: Fragment-Oriented Ranking and Generation for Context-Aware Molecular Optimization

FORGE est un cadre en deux étapes qui reformule l'optimisation moléculaire comme une édition locale sensible au contexte en classant et en générant des remplacements de fragments à l'aide de données extraites automatiquement, surpassant ainsi les méthodes existantes basées sur le langage et les graphes tout en évitant les hallucinations et les limitations d'échelle du traitement du langage naturel.

Auteurs originaux : Qingchuan Zhang, He Cao, Hao Li, Yanjun Shao, Zhiyuan Liu, Shihang Wang, Shufang Xie, Shenghua Gao, Xinwu Ye

Publié 2026-05-12

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Qingchuan Zhang, He Cao, Hao Li, Yanjun Shao, Zhiyuan Liu, Shihang Wang, Shufang Xie, Shenghua Gao, Xinwu Ye

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un chef étoilé cherchant à améliorer une recette de soupe célèbre. Vous voulez la rendre plus savoureuse (l'optimiser), mais vous ne pouvez pas complètement changer la recette ; elle doit toujours avoir le goût de la soupe originale (maintenir la similarité).

La plupart des méthodes d'IA récentes tentent de faire cela en demandant à un modèle de langage géant : « Voici une soupe. Rendez-la plus savoureuse. » L'IA tente alors de réécrire entièrement la recette à partir de zéro sur la base de cette instruction vague. L'article soutient que cette approche est flawed pour deux raisons principales :

Instructions vagues : Dans la science réelle, le « goût » (l'objectif) est souvent une boîte noire. Vous ne pouvez pas le décrire parfaitement avec des mots (par exemple, « faites en sorte qu'il se lie à cette protéine spécifique »). L'IA est confuse car les mots ne correspondent pas à la réalité.
Le contexte compte : Un ingrédient spécifique (comme une pincée de sel) peut rendre une soupe délicieuse mais en ruiner une autre. Les modèles d'IA qui traitent les ingrédients comme des faits isolés manquent ce contexte crucial.

Voici FORGE (Fragment-Oriented Ranking and Generation). Au lieu de réécrire toute la soupe, FORGE agit comme un chef chirurgical qui sait exactement quel petit morceau échanger et par quoi le remplacer.

Voici comment FORGE fonctionne, décomposé en étapes simples :

1. Le vocabulaire « atomique » (Les ingrédients stables)

Les modèles d'IA standards lisent les formules chimiques comme du texte, où le même ingrédient peut être orthographié différemment selon la phrase. FORGE utilise un vocabulaire « atomique » spécial. Imaginez cela comme donner à chaque atome et groupe chimique une carte d'identité unique et inaltérable. Peu importe dans quelle soupe il se trouve, le « sel » est toujours reconnu comme du « sel ». Cela empêche l'IA de se tromper sur ce qu'elle observe réellement.

2. Étape 1 : Le « Où » (Classer les points faibles)

Avant de faire des changements, FORGE examine toute la soupe et demande : « Quel ingrédient spécifique traîne actuellement la saveur vers le bas ? »

L'ancienne méthode : L'IA devine sur la base de règles générales.
La méthode FORGE : Elle examine le contexte entier. Elle sait qu'une épice spécifique est mauvaise uniquement à cause des autres ingrédients actuellement dans la marmite. Elle classe les ingrédients pour trouver le « maillon faible » qui doit être réparé.

3. Étape 2 : Le « Comment » (L'échange chirurgical)

Une fois le maillon faible trouvé, FORGE ne réécrit pas toute la recette. Elle effectue un échange précis : « Retirez cette épice spécifique et remplacez-la par cette herbe spécifique. »

Elle apprend cela en examinant des millions d'exemples « avant et après » trouvés dans des bases de données chimiques (comme une bibliothèque de modifications de recettes réussies).
Crucialement, elle apprend que le meilleur remplacement dépend du contexte spécifique de la soupe actuelle, et non d'une règle générique.

4. Apprendre par l'exemple (L'approche « Montrez, ne dites pas »)

Lorsque FORGE fait face à un tout nouvel objectif qu'elle n'a jamais vu auparavant (comme l'optimisation pour une nouvelle protéine inconnue), elle ne s'appuie pas sur une description textuelle. À la place, elle utilise l'apprentissage en contexte.

Imaginez que vous jouez à un jeu vidéo avec un nouveau boss inconnu. Au lieu de lire un manuel, vous regardez une replay d'un joueur professionnel battant un boss similaire.
FORGE maintient un « tampon de replay » de ses propres tentatives passées. Elle examine quelques exemples de « Molécule A a été modifiée en Molécule B, et le score a augmenté ». Elle utilise ces exemples pour déterminer comment modifier la molécule actuelle, sans avoir besoin de comprendre la science complexe derrière l'objectif en mots.

Pourquoi elle gagne

L'article a testé FORGE contre des modèles d'IA beaucoup plus grands et plus puissants (certains avec 8 milliards de paramètres, tandis que FORGE n'en utilise que 0,6 milliard).

Le résultat : FORGE a constamment battu les géants.
La raison : Les géants tentaient de « halluciner » une nouvelle molécule parfaite à partir d'une invite textuelle vague. FORGE a réussi car elle s'est concentrée sur des petites modifications conscientes du contexte utilisant un vocabulaire stable. Elle a traité l'optimisation moléculaire comme une série de corrections locales précises plutôt que comme un exercice d'écriture créative.

En résumé : FORGE est une IA minuscule et hautement efficace qui ne tente pas de réécrire toute l'histoire. Au lieu de cela, elle trouve la seule phrase qui doit être corrigée, comprend le contexte du paragraphe, et insère le mot parfait, apprenant à partir d'exemples passés plutôt que d'instructions vagues.

Résumé Technique : FORGE (Classement et Génération Orientés Fragment)

1. Énoncé du Problème

L'optimisation moléculaire vise à améliorer les propriétés d'une molécule de départ par de petites modifications structurelles tout en maintenant une forte similarité avec le composé original. Les approches actuelles de l'état de l'art formulent généralement cela comme une tâche de génération de séquence conditionnée par un prompt, utilisant des modèles de langage de grande taille (LLM). Les auteurs soutiennent que cette formulation est fondamentalement inadaptée à la nature des modifications locales du problème pour deux raisons :

Inadéquation Sémantique : Les objectifs réels de découverte de médicaments (par exemple, scores de liaison propriétaires, classificateurs ADMET) manquent souvent de descriptions en langage naturel fidèles. S'en remettre à des invites textuelles conduit à un contrôle faible, et l'entraînement sur des données de chaîne de pensée distillées par LLM hérite souvent d'imprécisions chimiques ou d'hallucinations.
Négligence de la Dépendance Contextuelle : La contribution d'un fragment moléculaire à une propriété dépend fortement de son environnement chimique local. Traiter les contributions des fragments comme des scalaires globaux et indépendants du contexte effondre des informations structurelles critiques et introduit du bruit dans les étiquettes.

2. Méthodologie : Cadre FORGE

FORGE (Classement et Génération Orientés Fragment) reformule l'optimisation moléculaire comme une modification locale consciente du contexte. Il décompose la tâche en deux décisions explicites : où modifier et comment modifier. Le cadre est construit sur un modèle de langage compact de 0,6 milliard de paramètres (Qwen3-0.6B) et fonctionne en deux étapes supervisées, suivies d'un mécanisme d'inférence adapté aux objectifs boîte noire.

Composants Principaux

Tokenisation au Niveau des Atomes (QwenAtom) : Pour assurer une identité de fragment stable à travers différentes molécules hôtes, les auteurs remplacent le codage Byte-Pair (BPE) standard par un analyseur atomique basé sur des expressions régulières pour les chaînes SMILES. Cela garantit qu'une même sous-structure chimique est tokenisée de manière identique, indépendamment de la molécule environnante, une condition préalable à une supervision fiable au niveau du fragment.
Étape 1 : Classement de Fragments Conscient du Contexte (Discriminatif) :
- Objectif : Déterminer où modifier.
- Mécanisme : Le modèle classe les fragments en fonction de leur contribution à une propriété cible au sein du contexte moléculaire complet.
- Supervision : Utilise des données basées sur des règles (RDKit pour des propriétés comme QED, logP) et une attribution basée sur les GNN (SME) pour des propriétés comme hERG et ESOL. Crucialement, il emploie SME+, une extension conditionnée par le contexte de l'Explication de Masque de Sous-structure qui regroupe les occurrences de fragments par leur environnement ECFP local (rayon $r=2$ ) plutôt que par agrégation globale.
- Tâches : Décomposition, classement, prédiction de vulnérabilité et classement par apprentissage en contexte (ICL).
Étape 2 : Remplacement Explicite de Fragments (Génératif) :
- Objectif : Déterminer comment modifier.
- Mécanisme : Génère des remplacements explicites pour les fragments faibles identifiés.
- Supervision : Entraîné sur des paires de modifications vérifiées, allant de faible à élevé, dérivées de :
  1. SME+ : Remplacements spécifiques au contexte qui améliorent les scores au sein d'un bin d'environnement spécifique.
  2. Paires Moléculaires Appariées (MMPs) de ChEMBL : Paires réelles partageant un squelette mais différant par un seul fragment, filtrées pour exclure les cibles de référence (DRD2, JNK3, GSK3-β) afin d'éviter les fuites de données.
- Format de Sortie : Syntaxe de modification explicite (par exemple, frag_src >> frag_tgt) plutôt que réécriture complète de la molécule.
Inférence : Apprentissage en Contexte (ICL) pour Objectifs Boîte Noire :
- FORGE s'adapte à des objectifs boîte noirs inédits et non nommés sans mises à jour de gradient.
- Il maintient un tampon de rejeu de tuples (molécule source, modification, molécule résultat, score oracle).
- Pendant la recherche, le modèle est sollicité avec des démonstrations échantillonnées à partir de ce tampon (biaisées vers les scores élevés) pour inférer l'objectif cible et proposer des modifications.

3. Contributions Clés

Stratégie de Données : Démonstration que les modifications de fragments conditionnées par le contexte et vérifiées par des règles constituent une alternative viable, évolutive et exempte d'hallucinations aux objectifs en langage naturel ou aux données coûteuses de chaîne de pensée distillées par LLM.
Conception du Cadre : Proposition de FORGE, un cadre en deux étapes qui découple l'optimisation en un classement conditionné par le contexte (où) et une génération de remplacement explicite (comment), utilisant une tokenisation au niveau des atomes pour stabiliser l'identité des fragments.
Efficacité de Performance : Démonstration qu'un modèle de 0,6 milliard de paramètres utilisant ce cadre atteint des résultats de l'état de l'art, surpassant des modèles nettement plus grands (LLMs de 8B+, GPT-4o) et des méthodes basées sur les graphes sur plusieurs benchmarks.

4. Résultats Expérimentaux

Les auteurs ont évalué FORGE sur cinq benchmarks :

Prompt-MolOpt (ADMET Contrainte par Similarité) : FORGE surpasse constamment les lignes de base, l'écart de performance s'élargissant à mesure que les contraintes de similarité se resserrent ( $\delta=0.6$ ). À $\delta=0.6$ , FORGE atteint un score SUM de 2,882 contre 0,824 pour le Prompt-MolOpt original, démontrant que la modification locale de fragments est supérieure à la réécriture complète de SMILES sous contraintes strictes.
PMO-1k (Optimisation Boîte Noire) : Sur 22 tâches boîte noire non nommées avec un budget limité de 1 000 appels, FORGE atteint un score agrégé de 12,42, surpassant LICO (11,71) et d'autres méthodes sans gradient.
QED-DRD2 (Modification Explicite) : Lors de la comparaison des formats de sortie, la variante de modification explicite de FORGE surpasse la variante de génération de bout en bout de 3 à 5 points de pourcentage, en particulier aux seuils de similarité stricts.
Optimisation de Tête de Série (Amarrage sur Cibles Réelles) : Sur des tâches d'amarrage pour cinq cibles protéiques, FORGE obtient les meilleurs scores d'amarrage dans 20 configurations sur 30, surpassant significativement Graph GA et GenMol, en particulier sous des contraintes de similarité serrées.
ChemCoTBench (Petit Modèle vs Grands Modèles) : Un modèle FORGE de 0,6 milliard de paramètres correspond ou dépasse les performances de Qwen-3-8B (SFT) et de GPT-4o sur six tâches d'optimisation. Notamment, sur des tâches de cibles réelles (DRD2, JNK3, GSK3-β), FORGE atteint des taux de réussite de 86 à 94 %, tandis que les lignes de base de 8 milliards et GPT-4o peinent avec des taux entre 20 et 48 %.

5. Importance et Revendications

L'article revendique que la valeur principale de FORGE réside dans le changement de paradigme du conditionnement par langage naturel vers une supervision explicite au niveau des fragments.

Le Contexte est Roi : Les auteurs fournissent des preuves empiriques que les effets des fragments sont hautement dépendants du contexte ; conditionner l'attribution des fragments aux environnements locaux (via SME+) réduit la variance de 8 à 10 % et est crucial pour la performance sous contraintes de similarité.
Limites des Prompts : Les expériences montrent que modifier la description en langage naturel d'un objectif boîte noire dans un prompt a un effet négligeable (<3 % de changement de score) sur le comportement d'optimisation, indiquant que le langage naturel est un signal de contrôle faible pour ces tâches.
Évolutivité : Le cadre démontre qu'un petit modèle spécialisé (0,6B) peut surpasser des modèles généralistes massifs lorsque les données d'entraînement et le format de sortie sont alignés avec la nature structurelle du problème chimique (modifications locales plutôt que génération globale).

Les auteurs concluent que la supervision explicite au niveau des fragments est une alternative plus facilement accessible, évolutive et fiable à l'entraînement par langage naturel pour l'optimisation moléculaire, en particulier lorsqu'il s'agit d'objectifs boîte noire et de contraintes structurelles strictes.