Time-Aware Latent Space Bayesian Optimization

Ce papier propose TALBO, une méthode d'optimisation bayésienne dans l'espace latent qui intègre le temps pour s'adapter à la dérive temporelle des objectifs et de la géométrie de l'espace latent, surpassant ainsi les méthodes existantes dans des tâches de conception moléculaire dynamique.

L'essentiel

Imaginez que vous êtes un chef cuisinier génial, mais avec un problème : vous devez créer de nouvelles recettes (des molécules) pour un restaurant, mais les goûts de vos clients changent chaque jour. Hier, ils voulaient du très épicé ; aujourd'hui, ils veulent du sucré-doux ; demain, peut-être du végétarien.

Le défi ? Vous ne pouvez pas goûter à chaque recette possible dans le monde (il y en a des milliards). Vous devez donc être malin, tester quelques plats, apprendre de vos erreurs, et deviner la prochaine recette qui plaira. C'est ce qu'on appelle l'optimisation bayésienne.

Mais il y a un hic : l'espace des recettes est un labyrinthe complexe. Pour s'y retrouver, les chercheurs utilisent une "carte magique" (un modèle génératif) qui transforme ces recettes complexes en coordonnées simples sur un plan (un "espace latent"). L'idée est de chercher le meilleur plat sur cette carte, puis de la retranscrire en vraie recette.

Le problème actuel :
La plupart des méthodes actuelles supposent que les goûts des clients restent fixes. Elles construisent une carte statique. Mais si les goûts changent (ce qu'on appelle la "dérive temporelle"), votre carte devient obsolète. Vous continuez à chercher le plat "épicé" parfait sur une carte qui ne reflète plus la réalité, alors que les clients veulent du "sucré". Résultat : vous perdez du temps et vous ne trouvez jamais ce que les gens veulent vraiment.

La solution proposée : TALBO
Les auteurs de cet article proposent une nouvelle méthode appelée TALBO (Optimisation Bayésienne Latente Consciente du Temps). Voici comment ça marche, avec des analogies simples :

1. Une Carte qui bouge avec le temps

Au lieu d'avoir une carte fixe, TALBO utilise une carte vivante.

• L'analogie : Imaginez que votre carte géographique est faite de gelée. Si le vent (le temps) change, la forme de la gelée change doucement pour refléter les nouvelles conditions.
• En pratique : TALBO intègre le temps directement dans la construction de cette carte. Quand les préférences changent, la carte se réorganise elle-même pour que les zones "intéressantes" restent accessibles et logiques.

2. Un Chef qui apprend deux choses à la fois

La méthode TALBO est intelligente car elle apprend sur deux fronts simultanément :

• Le Météorologue (Le Surrogate) : Il prédit quel plat sera bon maintenant, en tenant compte que le temps passe. Il ne se fie pas aux prévisions d'hier si le temps a changé.
• L'Architecte (La Représentation) : Il redessine la carte (l'espace latent) en fonction du temps. Si les clients aiment maintenant le sucré, l'architecte rapproche les zones "sucrées" sur la carte pour qu'elles soient plus faciles à atteindre.

3. Pourquoi c'est révolutionnaire ?

Dans les expériences décrites dans le papier, les chercheurs ont simulé des scénarios où les priorités (les ingrédients importants) changeaient constamment.

• Les anciennes méthodes (les concurrents) : Elles s'embrouillent. Elles continuent de chercher dans les vieux coins de la carte, perdent du temps, et leurs performances chutent dès que les goûts changent.
• TALBO : Elle s'adapte rapidement. Comme un bon chef qui comprend que "le vent tourne", elle réajuste sa recherche immédiatement. Elle trouve des recettes excellentes plus vite, même quand les règles du jeu changent.

En résumé

Imaginez que vous cherchez un trésor.

• L'approche classique : Vous avez une vieille carte papier. Le trésor bouge, mais vous continuez à creuser au même endroit parce que la carte ne change pas.
• L'approche TALBO : Vous avez une carte holographique connectée à un satellite en temps réel. Dès que le trésor bouge, la carte se met à jour, les chemins se réorganisent, et vous savez exactement où aller, même si le paysage change chaque jour.

Ce papier montre que pour réussir dans des domaines complexes comme la découverte de médicaments ou la conception de matériaux, il ne suffit pas d'être intelligent ; il faut aussi être conscient du temps et capable de s'adapter quand les objectifs changent. TALBO est cette capacité d'adaptation mise en œuvre par une intelligence artificielle.

Résumé technique

1. Problématique et Contexte

L'optimisation bayésienne (BO) est une méthode standard pour l'optimisation de fonctions boîte noire coûteuses, largement utilisée dans la conception de molécules, de protéines et de matériaux. Cependant, les méthodes BO classiques peinent à traiter des espaces de recherche discrets et hautement structurés (comme les séquences chimiques).

Pour contourner cela, l'Optimisation Bayésienne dans l'Espace Latent (LSBO) couple la BO avec des modèles génératifs (comme les VAE) pour mapper les objets discrets vers un espace latent continu où l'optimisation est effectuée.

Le problème central identifié par les auteurs :
La plupart des méthodes LSBO supposent une fonction objectif fixe. Or, dans de nombreux scénarios réels (découverte d'anticorps contre des pathogènes mutants, conception avec préférences humaines évolutives, ou optimisation multi-objectifs avec pondérations changeantes), l'objectif évolue dans le temps.
Ce « dérive temporelle » (temporal drift) pose deux défis majeurs non résolus par les approches existantes :

1. Le modèle de substitution (surrogate) doit s'adapter à l'évolution de la fonction objectif.
2. Critique : La géométrie de l'espace latent lui-même, induite par le modèle génératif, peut devenir désalignée avec les nouvelles priorités de l'objectif. Une représentation statique ne capture pas les changements structurels nécessaires pour optimiser efficacement sous de nouvelles contraintes.

2. Méthodologie : TALBO

Les auteurs proposent TALBO (Time-Aware Latent-space Bayesian Optimization), un cadre qui intègre la dimension temporelle à deux niveaux : dans le modèle de substitution (surrogate) et dans la représentation générative elle-même.

A. Représentation Latente Temporelle (GP-Prior VAE)

Au lieu d'utiliser un VAE standard avec un prior gaussien fixe, TALBO utilise un VAE à prior de processus gaussien (GP-Prior VAE), spécifiquement le modèle DGBFGP (Deep Generative Basis Function GP).

• Covariables conditionnelles : Chaque conception $x$ est associée à un vecteur de covariables $c(x, t)$ qui inclut des descripteurs moléculaires et, cruciallement, le temps $t$.
• Modélisation : Le code latent $z$ n'est pas tiré d'un prior indépendant, mais est généré par des fonctions latentes dépendantes des covariables via un processus gaussien :
  $$z(c) = \sum_{r} A^{(r)} \phi^{(r)}(c^{(r)})$$
  où $c^{(r)}$ inclut le temps. Cela permet à la géométrie de l'espace latent d'évoluer de manière cohérente avec le temps, alignant l'espace de recherche sur l'objectif changeant.
• Approximation : Pour la scalabilité, une approximation par fonctions de base de Hilbert est utilisée pour les noyaux GP.

B. Modèle de Substitution Spatio-Temporel

Le modèle de substitution (surrogate) modélise la fonction objectif dans l'espace latent en fonction du temps :
$$g(z, t) = f_t(\Gamma(z))$$
Un Processus Gaussien Spatio-Temporel est utilisé avec un noyau factorisé $k((z, t), (z', t')) = k_z(z, z') k_t(t, t')$. Cela permet au modèle de pondérer les observations passées en fonction de leur pertinence temporelle par rapport à l'objectif actuel.

C. Boucle d'Optimisation et Mise à Jour

L'algorithme (Algorithm 1 et 2) fonctionne comme suit :

1. Encodage : Les molécules évaluées sont encodées en codes latents $z_t$ en utilisant les covariables actuelles (incluant le temps).
2. Sélection : Un point latent $\hat{z}$ est sélectionné via une fonction d'acquisition (ex: Thompson Sampling) maximisant l'espérance sous le surrogate spatio-temporel.
3. Décodage et Évaluation : Le point est décodé en une molécule $x_t$, évaluée par la fonction objectif $f_t$.
4. Mise à jour du Représentant : Le modèle génératif (DGBFGP) et le surrogate sont mis à jour périodiquement. TALBO intègre des mécanismes avancés pour maintenir l'alignement :
   • Régularisation d'alignement (CoBO-style) : Pour assurer que la géométrie latente reflète les valeurs de l'objectif.
   • Inversion Latente (InvBO-style) : Pour corriger les codes latents afin qu'ils reconstruisent exactement les molécules évaluées, évitant ainsi le décalage entre le code utilisé pour l'optimisation et la molécule réelle.

3. Contributions Clés

1. Conceptuelle : Formalisation du problème de l'optimisation LSBO à objectif variable dans le temps, identifiant que la dérive affecte à la fois le surrogate et la géométrie de l'espace latent.
2. Méthodologique : Introduction de TALBO, le premier cadre à coupler un surrogate spatio-temporel avec une représentation générative conditionnelle au temps (via DGBFGP).
3. Empirique : Adaptation de benchmarks de conception moléculaire (GuacaMol) à un régime temporel contrôlé (poids des propriétés changeants) et démonstration de la supériorité de TALBO par rapport aux méthodes statiques.

4. Résultats Expérimentaux

Les expériences ont été menées sur des tâches d'optimisation multi-propriétés moléculaires où les poids relatifs des propriétés (ex: similarité à différentes molécules cibles) changent au cours du temps selon un processus GP.

• Performance Globale : TALBO surpasse systématiquement les méthodes de base (InvBO, CoBO, LOL-BO, LS-BO) en termes de valeur actuelle du meilleur trouvé (current-objective best-so-far) et de regret cumulatif.
• Robustesse : Les gains de TALBO sont maintenus sur différentes vitesses de dérive (contrôlées par la longueur d'échelle du noyau temporel $\ell_w$).
• Au-delà du jeu de données : TALBO parvient à trouver des molécules surpassant les meilleurs éléments du jeu de données de pré-entraînement (GuacaMol), même avec un budget d'évaluations très limité (6000 requêtes sur 1,27M de molécules).
• Cas Statique : Dans des scénarios où l'objectif est fixe, TALBO reste compétitif et ne subit pas de pénalité de performance significative par rapport aux méthodes statiques, prouvant qu'il n'y a pas de sur-apprentissage nuisible.
• Ablation : Les études montrent que la modélisation temporelle est bénéfique à la fois dans le surrogate et dans la représentation générative, bien que l'impact relatif varie selon la tâche.

5. Signification et Perspectives

Ce travail est significatif car il comble un vide important dans la littérature sur l'optimisation bayésienne. La plupart des travaux sur les objectifs variables se concentrent sur des espaces continus simples, ignorant la complexité des espaces structurés (molécules).

• Impact : TALBO offre une solution robuste pour les campagnes de conception réelles où les critères changent (ex: pandémie, évolution des préférences clients).
• Limitations et Futur : Les auteurs notent que leurs benchmarks utilisent une dérive lisse (poids scalaires). Des défis futurs incluent la gestion de changements de régime abrupts, de nouvelles contraintes expérimentales, et le développement de mécanismes de gestion des données obsolètes (stale data) plus sophistiqués, tant au niveau du surrogate que de la représentation latente.

En résumé, TALBO démontre que pour optimiser efficacement dans des espaces complexes et changeants, il est impératif de rendre la représentation elle-même sensible au temps, et pas seulement le modèle d'optimisation.