Résumé Technique : Optimisation Multi-Objectif Amortie à Travers des Tâches avec Modélisation Générative de Solutions

1. Formulation du Problème

Les applications du monde réel nécessitent souvent de résoudre des familles de Problèmes d'Optimisation Multi-Objectif Coûteux (POMOC) dans des conditions opérationnelles variables. Ceux-ci sont formulés comme des Problèmes Paramétriques d'Optimisation Multi-Objectif Coûteux (P-POMOC), où un paramètre de tâche continu $\theta \in \Theta$ définit une instance d'optimisation distincte $F(x, \theta)$.

Le défi central abordé est que l'espace des paramètres de tâche continu contient une infinité de problèmes distincts. Les méthodes traditionnelles d'Optimisation Bayésienne Multi-Objectif (OBMO), qui recherchent des ensembles finis de solutions optimales au sens de Pareto pour chaque tâche individuellement, deviennent computationnellement irréalisables lorsqu'elles sont appliquées de manière répétée sur cet espace infini en raison du coût élevé des évaluations des fonctions objectif. L'objectif est d'amortir l'effort d'optimisation à travers l'espace continu des préférences de tâche, permettant la prédiction directe de solutions optimisées pour des tâches non vues sans réévaluation.

2. Méthodologie

L'article propose un Optimiseur Bayésien Multi-Objectif Multi-Tâche Paramétrique (PMT-MOB) qui apprend un modèle génératif inverse $M(\theta, \lambda)$ mappant les paramètres de tâche $\theta$ et les vecteurs de préférence $\lambda$ directement vers des solutions optimisées. Le cadre fonctionne via une boucle d'optimisation alternée comprenant deux phases complémentaires :

A. Modélisation de Surrogate Sensible à la Tâche (PMT-MOB)

La méthode étend l'OBMO standard en incorporant des Processus Gaussiens (PG) sensibles à la tâche. Contrairement aux PG mono-tâche, ces modèles prennent en entrée conjointe la variable de décision $x$ et le paramètre de tâche $\theta$.

• Mécanisme : Pour une instance de tâche donnée $\theta_k$, la $m$-ième objectif est modélisée comme $f_m(\cdot, \theta_k) \sim \mathcal{GP}_m(\tilde{\mu}_m, \tilde{\kappa}_m)$.
• Acquisition : La fonction d'acquisition est scalarisée à l'aide d'un vecteur de préférence $\lambda$ et optimisée pour sélectionner le prochain point d'évaluation. En conditionnant sur $\theta$, le modèle exploite explicitement les corrélations inter-tâches (synergies) pour guider la recherche.

B. Échantillonnage Génératif de Solutions Conditionnel

Pour compléter la recherche pilotée par l'acquisition et empêcher l'échantillonneur de rester piégé dans des régions de faible qualité, le cadre emploie un modèle génératif conditionnel (instancié soit comme un Autoencodeur Variationnel (VAE) soit comme un Modèle Probabiliste de Diffusion Débruiteur (DDPM)).

• Entraînement : Le modèle apprend la distribution des solutions « élites » conditionnée par le paramètre de tâche $\theta$ et la préférence $\lambda$, notée $p_\phi(x | \lambda, \theta)$.
• Échantillonnage : Dans la phase générative, un pool de solutions candidates est échantillonné à partir de cette distribution. Ces candidats sont ensuite notés à l'aide de la fonction d'acquisition sensible à la tâche, et le meilleur candidat est sélectionné pour évaluation.

C. Boucle d'Optimisation Alternée

Le cadre alterne entre Recherche Pilotée par l'Acquisition (optimisation directe de la fonction d'acquisition sensible à la tâche) et Échantillonnage Génératif de Solutions (échantillonnage à partir de la distribution élite apprise et sélection du meilleur). Cette boucle met à jour les PG sensibles à la tâche après chaque évaluation et réentraîne le modèle génératif périodiquement en utilisant les données élites collectées.

3. Contributions Théoriques

L'article fournit une justification théorique de la convergence accélérée de la méthode proposée par rapport aux bases mono-tâche :

• Bornes de Regret : En utilisant la fonction d'acquisition Lower Confidence Bound (LCB), les auteurs dérivent des bornes de regret bayésien.
• Gain d'Information Maximum (MIG) : Le théorème 2 démontre que le noyau sensible à la tâche dans PMT-MOB réduit la covariance a posteriori pour une tâche cible en exploitant les observations de tâches apparentées. Cette réduction conduit à un Gain d'Information Maximum strictement plus petit ($\tilde{\gamma}_{T,k} \leq \gamma_{T,k}$) par rapport à l'OBMO mono-tâche (ST-MOB).
• Convergence : Puisque la borne de regret est croissante de manière monotone avec le MIG, le MIG réduit implique une borne supérieure plus serrée sur le regret bayésien, prouvant théoriquement une convergence plus rapide pour PMT-MOB.

4. Résultats Expérimentaux

La méthode a été évaluée sur des benchmarks synthétiques (DTLZ-1, DTLZ-2, DTLZ-3) et des problèmes réels (Génération de Lampes, Génération de Toits Solaires, Conception de Séparateur Magnétique, Conception de Contrôleur de Drone).

• Performance d'Optimisation : Les variantes proposées, PMT-MOB-VAE et PMT-MOB-DDPM, ont systématiquement surpassé les méthodes OBMO mono-tâche de l'état de l'art (ST-MOB, qPAREGO, qEHVI) et les bases multi-tâches (OC-MOB, PPSL-MOB) sur la plupart des benchmarks. Plus précisément, PMT-MOB-DDPM a obtenu les meilleurs résultats sur 6 benchmarks sur 7.
• Généralisation du Modèle Inverse : Les modèles inverses entraînés ont été testés sur des tâches POMOC non vues (tâches avec des paramètres non rencontrés durant l'entraînement). Les modèles proposés ont démontré une généralisation supérieure, atteignant des indicateurs d'Hypervolume plus élevés que des bases comme PSL-MOB et CDM-PSL.
• Études d'Ablation : Les expériences ont confirmé que ni la recherche pure par acquisition ni l'échantillonnage génératif pur ne sont suffisants isolément. La stratégie alternée équilibre efficacement la diversité (via l'échantillonnage génératif) et la précision (via la recherche par acquisition).
• Sensibilité : Le paramètre de ratio élite $Q$ (pourcentage des meilleures solutions utilisées pour l'entraînement) s'est avéré critique ; $Q=10\%$ a fourni l'équilibre optimal entre pression de sélection et disponibilité des données.

5. Signification et Revendications

L'article revendique l'introduction d'un nouveau paradigme pour résoudre des familles de P-POMOC en passant d'une optimisation de tâches isolées à l'apprentissage de mappages de solutions généralisés.

• Amortissement : La contribution principale est la capacité d'« amortir » le coût computationnel des optimisations multi-objectif répétées en une seule passe de modèle génératif inverse. Cela permet une prédiction zéro-shot de solutions pour de nouvelles conditions opérationnelles sans réévaluations coûteuses.
• Synergie Inter-Tâche : Le travail démontre que la modélisation explicite des relations inter-tâches via des PG sensibles à la tâche et des modèles génératifs conditionnels produit une convergence et une généralisation nettement supérieures par rapport au traitement des tâches de manière isolée ou à l'utilisation d'approches multi-tâches standard qui ne modélisent pas la variété continue des préférences de tâche.
• Apprentissage Distributionnel : Contrairement aux approches déterministes de type hyper-réseau (par exemple, PPSL-MOB) qui supposent un mappage un-à-un, l'approche générative proposée modélise l'espace des solutions comme une distribution. Cela permet au cadre de capturer des Fronts de Pareto complexes et multi-modaux et de gérer l'incertitude inhérente au mappage des préférences vers les solutions de manière plus robuste.

Les auteurs concluent que, bien que les bornes de regret théoriques soient établies pour le composant PG sensible à la tâche, l'intégration de l'échantillonnage génératif agit comme une heuristique pour améliorer davantage l'efficacité de la recherche et la qualité des solutions, une affirmation soutenue par des preuves empiriques à travers divers domaines d'ingénierie et synthétiques.