Résumé Technique : LABO - Optimisation Bayésienne Accélérée par les LLM

Énoncé du Problème

La découverte scientifique dans des domaines tels que la découverte de médicaments, la conception de catalyseurs et l'ingénierie moléculaire repose fortement sur l'optimisation de formulations. Ces tâches se caractérisent par des expériences coûteuses, longues et laborieuses, entraînant une pénurie sévère de données et des budgets d'évaluation limités. Bien que l'optimisation bayésienne (BO) soit une stratégie standard pour naviguer dans ces espaces de conception complexes en équilibrant exploration et exploitation, elle fait face à deux limitations fondamentales :

1. Le Problème du Démarrage à Froid : La pénurie de données au début de l'optimisation entrave l'exploration des premières étapes.
2. Défis de Haute Dimension : L'exploration d'espaces de conception de haute dimension reste difficile sous des budgets expérimentaux limités, en particulier lorsque les observations spécifiques à la tâche sont rares.

Bien que des efforts récents aient intégré des modèles de langage de grande taille (LLM) dans les pipelines de BO pour incorporer des connaissances a priori (par exemple, la littérature, les protocoles), les méthodes existantes utilisent généralement les LLM uniquement pour l'initialisation ou comme sources de signaux auxiliaires. Elles échouent souvent à exploiter pleinement le coût d'évaluation nettement inférieur des LLM par rapport aux expériences du monde réel, limitant ainsi leur capacité à soutenir une exploration large et peu coûteuse à travers l'espace de recherche.

Méthodologie : Cadre LABO

Les auteurs proposent LABO (Optimisation Bayésienne Accélérée par les LLM), un cadre à double fidélité qui intègre systématiquement les prédictions des LLM avec les observations expérimentales réelles au sein d'une seule boucle de BO. LABO traite les LLM comme une source distincte d'informations de « fidélité LLM » dérivée de connaissances scientifiques non structurées et de raisonnement en contexte.

1. Modélisation : Processus Gaussien Joint Kennedy–O'Hagan (KOH)

LABO adopte l'hypothèse KOH pour modéliser la relation entre l'objectif de fidélité réelle $f_R(x)$ et la prédiction de fidélité LLM $f_L(x)$. La fonction de fidélité réelle est décomposée comme suit :
$$f_R(x) = \rho f_L(x) + \delta(x)$$
Où :

• $\rho$ est un facteur d'échelle scalaire représentant l'étalonnage global entre les fidélités.
• $\delta(x)$ est un processus de discrepancy additif capturant les différences structurelles ou les biais non pris en compte par le LLM.
• $f_L(x)$ et $\delta(x)$ sont tous deux modélisés comme des processus gaussiens (PG) indépendants à moyenne nulle.

Cette formulation permet au modèle de substitution de mettre à jour l'arrière-plan de fidélité réelle en utilisant des requêtes LLM peu coûteuses. Si les prédictions des LLM s'alignent bien avec les observations, la discrepancy reste faible et le modèle exploite efficacement les a priori des LLM. Si les prédictions sont peu fiables, la variance de la discrepancy domine, signalant la nécessité d'une évaluation dans le monde réel.

2. Mécanisme de Décision : Portail de Dominance de la Discrepancy

Pour déterminer s'il faut interroger la source coûteuse de fidélité réelle ou s'en remettre à la source peu coûteuse des LLM, LABO emploie un critère de portail basé sur le rapport de dominance de la discrepancy :
$$p_\Delta(x) = \frac{\sigma^2_\delta(x)}{\rho^2\sigma^2_L(x) + \sigma^2_\delta(x)}$$
Ce rapport mesure la proportion de l'incertitude prédictive totale attribuable au terme de discrepancy $\delta(x)$.

• Région Fiable ($p_\Delta(x) \le \tau$) : Si l'incertitude de la discrepancy est faible par rapport à l'incertitude totale, la prédiction du LLM est jugée fiable. LABO met à jour le substitut en utilisant le PG de fidélité LLM sans effectuer d'expérience réelle.
• Région Non Fiable ($p_\Delta(x) > \tau$) : Si la discrepancy domine, le signal du LLM est insuffisant pour réduire l'incertitude. LABO déclenche une expérience de fidélité réelle pour mettre à jour à la fois les modèles LLM et de discrepancy.

3. Flux de Travail d'Optimisation

• Démarrage à Chaud : Le LLM est sollicité avec des connaissances du domaine pour proposer des candidats à fort potentiel pour les expériences réelles initiales et pour générer un large ensemble de prédictions de fidélité LLM couvrant l'espace de recherche (via l'échantillonnage hypercube latin).
• Boucle Itérative : LABO sélectionne des candidats en utilisant une fonction d'acquisition (par exemple, UCB) sur le substitut composite. Pour chaque candidat, il interroge le LLM, évalue le critère de portail et effectue sélectivement des expériences réelles uniquement lorsque nécessaire.

Contributions Clés

1. Cadre Principié : La proposition de LABO, un cadre de BO à double fidélité qui intègre les prédictions dérivées des LLM aux côtés des expériences réelles en utilisant un modèle de PG joint KOH.
2. Garanties Théoriques : L'établissement de bornes de regret cumulatif démontrant que LABO améliore l'efficacité des échantillons lorsque l'orientation des LLM est informative. L'analyse montre que le regret évolue avec la capacité d'information d'une région de fidélité réelle limitante $X^*_R$ (où les expériences réelles sont réellement nécessaires), qui est significativement plus petite que l'espace de recherche complet, même lorsque les signaux des LLM sont bruyants ou trompeurs.
3. Validation Empirique : Démonstration de l'utilité pratique de LABO dans diverses tâches d'optimisation scientifique, montrant qu'il trouve systématiquement des formulations à haute performance plus efficacement que les méthodes existantes sous des budgets de fidélité réelle fixes.

Résultats Expérimentaux

Les auteurs ont évalué LABO sur six tâches d'optimisation scientifique couvrant la chimie, la science des matériaux, les systèmes énergétiques et la nutrition (par exemple, séparation des gaz COF, rendement de réaction du fullerène, performance des batteries à flux).

• Performance : LABO a constamment surpassé les lignes de base, notamment BO Vanilla, LLAMBO, BOPRO et CAKE. Sur les tâches de haute dimension (par exemple, COF, Sandwich), LABO a atteint de meilleures valeurs d'objectif finales dans des budgets limités. Sur les tâches de faible dimension, il a maintenu une convergence stable.
• Efficacité des Échantillons : Le critère de portail a réussi à concentrer les évaluations de fidélité réelle dans des sous-régions à forte incertitude tout en utilisant des requêtes LLM pour une exploration globale large. Cela a résulté en une région d'exploration effective $X^*_R$ significativement réduite.
• Robustesse : Les études d'ablation ont confirmé que les gains de performance découlent de la nature informative des prédictions des LLM (fondées sur des connaissances a priori) plutôt que de la simple initialisation. LABO est resté robuste face à différents modèles de base LLM (tailles et capacités de raisonnement variables) et différents seuils de portail ($\tau$).
• Rapport Coût-Bénéfice : Dans une analyse des coûts sur la tâche COF, LABO a atteint le même niveau de performance que BO Vanilla avec un coût total de 964 $ (utilisant 164 requêtes LLM et 8 expériences réelles) contre 6000 $ pour BO Vanilla (60 expériences réelles), en supposant un coût de 1 $ par requête LLM et 100 $ par expérience réelle.

Signification et Revendications

L'article revendique que LABO offre une approche pratique et théoriquement fondée pour intégrer les LLM dans les flux de travail de découverte scientifique. En modélisant explicitement la discrepancy entre les prédictions des LLM et la réalité, LABO évite les pièges de la confiance aveugle en les LLM tout en capitalisant sur leurs capacités d'exploration large et peu coûteuse.

Les auteurs soulignent que leur approche ne nécessite pas d'hypothèses structurelles sur la précision du LLM ; le cadre s'adapte à une incertitude variant spatialement. L'analyse théorique suggère que LABO atteint une efficacité d'échantillonnage supérieure en restreignant les expériences réelles coûteuses à un sous-ensemble progressivement restreint du domaine où les signaux des LLM sont non informatifs, accélérant ainsi la découverte de formulations scientifiques optimales sans augmenter les budgets expérimentaux.