SEISMO: Increasing Sample Efficiency in Molecular Optimization with a Trajectory-Aware LLM Agent

Titre

SEISMO : Augmentation de l'efficacité échantillonnaire en optimisation moléculaire grâce à un agent LLM conscient de la trajectoire.

1. Problématique

L'optimisation de la structure des molécules pour obtenir des propriétés souhaitées (puissance, sélectivité, propriétés pharmacocinétiques) est un goulot d'étranglement majeur en chimie, en particulier dans l'industrie pharmaceutique.

• Coût des évaluations : L'évaluation des propriétés moléculaires repose souvent sur des "oracles" coûteux et limités en débit, tels que des essais expérimentaux ou des simulations physiques complexes (ex: co-repliement protéine-ligand).
• Inefficacité des méthodes actuelles : Les méthodes d'optimisation existantes (algorithmes génétiques, apprentissage par renforcement comme REINVENT, optimisation bayésienne) nécessitent généralement des milliers d'évaluations (oracles) pour converger. Elles fonctionnent souvent par lots (batches) ou populations, ce qui impose une limite inférieure au nombre d'appels nécessaires avant toute mise à jour du modèle.
• Objectif : Développer une méthode capable de trouver des solutions quasi-optimales avec un budget d'évaluations extrêmement restreint (quelques dizaines d'appels), en exploitant au mieux les connaissances chimiques préexistantes et les retours d'information (feedback).

2. Méthodologie : L'Agent SEISMO

Les auteurs introduisent SEISMO (Sample-Efficient Inference-Stage Molecular-Optimization agent), un agent basé sur un Grand Modèle de Langage (LLM) qui effectue une optimisation moléculaire strictement en ligne et au moment de l'inférence.

Principes Clés :

• Optimisation en boucle fermée sans entraînement : Contrairement aux méthodes qui entraînent un modèle sur des données, SEISMO utilise un LLM pré-entraîné (ex: Claude Opus 4.5) comme optimiseur. Il ne nécessite ni fine-tuning, ni hyperparamétrage.
• Conditionnement sur la trajectoire complète : À chaque itération $t$, le LLM propose une nouvelle molécule ($m_t$) en se basant sur l'historique complet des essais précédents ($H_{t-1}$), incluant les structures, les scores et les explications. Cela transforme l'optimisation en un processus de décision séquentiel où chaque appel d'oracle met à jour l'état du contexte.
• Exploitation de l'information riche : Au-delà d'un simple score scalaire, SEISMO intègre :
  1. Description de la tâche : Instructions naturelles sur l'objectif (ex: "minimiser l'IC50").
  2. Décomposition des scores : Valeurs des sous-objectifs (ex: QED, similarité).
  3. Explications structurées (XAI) : Raisons détaillées des scores, générées par des méthodes d'explicabilité post-hoc (comme SHAP pour les modèles d'apprentissage automatique ou l'analyse des résidus proches pour les modèles de repliement). Ces explications aident le LLM à comprendre pourquoi une modification structurelle fonctionne ou non.

Flux de travail (Workflow) :

1. Génération : Le LLM génère une chaîne SMILES et une justification dans un format JSON structuré.
2. Validation : Vérification de la validité chimique (via RDKit) et du format JSON.
3. Prédiction (Oracle) : Calcul du score et génération des explications.
4. Mise à jour : Ajout de la paire (molécule, feedback) à l'historique du contexte du LLM pour la prochaine itération.

3. Contributions Principales

1. Changement de paradigme : Passage d'une optimisation par lots/population à une optimisation séquentielle purement basée sur l'inférence du LLM, éliminant les coûts de calcul liés à l'entraînement et réduisant drastiquement le nombre d'appels à l'oracle.
2. Intégration de l'explicabilité (XAI) : Démonstration que l'utilisation d'explications structurées (SHAP, résidus de liaison) comme signal de contrôle pour le LLM améliore significativement l'efficacité échantillonnaire par rapport à l'utilisation de simples scores scalaires.
3. Performance sans entraînement : La méthode fonctionne immédiatement sur de nouvelles tâches en s'appuyant sur les connaissances chimiques encodées dans le LLM pré-entraîné, sans nécessiter de données d'entraînement spécifiques à la tâche.

4. Résultats Expérimentaux

Les auteurs ont évalué SEISMO sur trois types d'expériences :

A. Benchmark PMO (Practical Molecular Optimization)

• Cadre : 23 tâches d'optimisation moléculaire standardisées.
• Résultats : SEISMO surpasse toutes les méthodes de référence (REINVENT, Graph-GA, Optimisation Bayésienne, LICO, MolLEO).
  • AUC (Surface sous la courbe d'optimisation) : SEISMO atteint une AUC 2 à 3 fois supérieure aux meilleures méthodes existantes sur 50 appels d'oracle.
  • Convergence : Il atteint des scores quasi-optimaux (≥ 90% du score maximal) en seulement 50 appels d'oracle, alors que les autres méthodes nécessitent souvent des milliers d'appels pour atteindre des performances comparables.

B. Impact du niveau d'information (Abalations)

Des expériences sur des tâches de découverte de médicaments (inhibition de la protéase Mpro du SARS-CoV-2 et optimisation de la similarité/QED) montrent que :

• Description de la tâche : Essentielle. Sans description, les performances s'effondrent.
• Explications (Feedback) : L'ajout d'explications (partielles ou complètes) améliore systématiquement l'efficacité.
  • Exemple : Pour l'optimisation de l'IC50, la variante avec "explication complète" trouve des molécules avec un IC50 < 10 nM, tandis que la variante sans explication peine à converger.
  • Cela prouve que le LLM utilise les explications pour raisonner sur les relations structure-propriété et guider les modifications chimiques de manière ciblée.

C. Oracle basé sur le co-repliement (Boltz-2)

• Cadre : Optimisation de la liaison à une protéine sans ligands connus (MGYP001550541752) en utilisant un modèle coûteux de prédiction de structure 3D.
• Résultats : SEISMO parvient à augmenter la probabilité de liaison. L'ajout d'explications (résidus proches, scores de confiance) accélère l'optimisation par rapport à l'utilisation du seul score ou de la séquence protéique seule. Cela démontre la capacité de l'agent à opérer dans des régimes où les oracles sont complexes et peu familiers.

5. Signification et Impact

• Efficacité des ressources : SEISMO adresse directement le goulot d'étranglement du coût des évaluations expérimentales ou computationnelles en haute fidélité. En réduisant le nombre d'appels nécessaires, il permet d'utiliser des oracles plus précis (et donc plus coûteux) dans des boucles de découverte de médicaments.
• Rôle de la connaissance chimique : L'article démontre que l'optimisation moléculaire ne doit pas être traitée comme une recherche en boîte noire. L'intégration des connaissances chimiques préexistantes (via le LLM) et des retours explicatifs est cruciale pour une exploration efficace de l'espace chimique.
• Futur de la découverte de médicaments : Cette approche positionne les agents LLM conditionnés sur la trajectoire comme un cadre pratique pour l'optimisation moléculaire, capable de s'adapter aux progrès futurs des modèles de langage sans modification algorithmique profonde.

En résumé, SEISMO représente une avancée majeure en démontrant qu'un agent LLM, guidé par un historique complet d'expériences et d'explications, peut surpasser des méthodes d'optimisation spécialisées complexes avec une fraction du nombre d'évaluations requises.