Résumé Technique : NeurGO – Apprendre à générer des candidats d'élite pour l'optimisation méta-boîte noire

1. Définition du Problème

Le document traite de l'Optimisation de Boîte Noire Coûteuse (EBBO - Expensive Black-Box Optimization), une classe de problèmes d'optimisation globale où la fonction objectif $f: \Omega \to \mathbb{R}$ n'est accessible que par des évaluations, les gradients sont indisponibles, et le budget d'évaluation ($B_{max}$) est strictement limité. De tels scénarios sont courants dans le réglage d'hyperparamètres et la conception technique.

Le défi central est d'approcher l'optimum global avec le moins d'évaluations de fonctions possible. Les paradigmes existants font face à des limitations spécifiques :

• Optimisation Bayésienne (BO) et Algorithmes Évolutionnaires Assistés par Surrogat (SAEA) : Ils reposent sur la construction de modèles de substitution (ex: processus gaussiens) pour approximer le paysage de fitness. Cependant, sous des budgets serrés, les données limitées mènent souvent à des surrogats imprécis (le problème du « démarrage à froid » ou cold-start) et à un biais de modèle, ce qui peut piéger la recherche dans des optima locaux. De plus, l'entraînement de surrogats à partir de zéro pour chaque nouvelle tâche limite la généralisation inter-tâches.
• Optimisation Méta-Boîte Noire Traditionnelle (MetaBBO) : Bien que ces méthodes apprennent des stratégies de recherche transférables, beaucoup traitent encore les algorithmes évolutionnaires (EA) comme l'optimiseur sous-jacent. Par conséquent, elles gaspillent une partie importante du budget à générer et évaluer de vastes populations de descendants, dont beaucoup sont inférieurs.

2. Méthodologie : NeurGO

Les auteurs proposent NeurGO, un cadre de MetaBBO génératif conçu pour synthétiser directement un petit ensemble de candidats de haute qualité (« élites ») à partir des états historiques de la population, évitant ainsi le besoin de larges pools de descendants ou de l'ajustement de surrogats en ligne. Le cadre se compose de trois étapes principales :

2.1 Aperçu de l'Architecture

NeurGO est construit sur un backbone Transformer et comprend deux modules principaux :

1. Encodeur de Contexte de Population (PCE - Population Context Encoder) : Encode l'état de la population actuelle en une représentation de haute dimension capturant les tendances évolutives.
2. Décodeur de Synthèse d'Élite (ESD - Elite Synthesis Decoder) : Mappe la représentation encodée vers un petit lot de $k$ candidats solutions ($k \ll N$, où $N$ est la taille de la population) pour une évaluation coûteuse.

2.2 Encodeur de Contexte de Population (PCE)

Le PCE traite la population comme une séquence pour capturer les interactions globales.

• Tri de la Population : La population est triée par fitness par ordre croissant. Cela agit comme un encodage positionnel relatif implicite, privilégiant les individus performants sans dépendre de l'échelle spécifique de la fitness.
• Attention Double Sensible au Rang et à la Fitness (Rank-Fitness Dual-Aware Attention) : Au lieu de projections apprises standards, le mécanisme d'attention est construit à l'aide de :
  • Branche Fitness : Les valeurs de fitness normalisées ($\tilde{F}_t$) sont projetées pour créer des requêtes (queries) et des clés (keys) sensibles à la fitness, agrégeant la population triée selon les relations de fitness.
  • Branche Rang : Une matrice entraînable ($A_{rank}$) capture l'information d'ordonnancement.
  • Ces branches sont fusionnées via des poids apprenables ($\lambda_{rank}, \lambda_{fit}$).
• Fusion Résiduelle avec Perturbation : Pour éviter la convergence prématurée et encourager l'exploration, un réseau de propagation avantward (FFN) introduit une perturbation non linéaire apprenable à la sortie de l'attention. La représentation raffinée finale ($X^{ref}_t$) est une fusion résiduelle de la population triée originale, des caractéristiques agrégées par l'attention et des caractéristiques perturbées par le FFN.

2.3 Décodeur de Synthèse d'Élite (ESD)

L'ESD génère $k$ candidats élites directement à partir de la représentation raffinée de la population.

• Concaténation de Caractéristiques Multi-Sources : Le décodeur concatène trois sources : la population brute triée ($X^{sort}_t$), la fitness normalisée ($\tilde{F}_t$), et la représentation raffinée ($X^{ref}_t$).
• Agrégation Pondérée : Un MLP ($g_\phi$) calcule une matrice de score quantifiant la contribution de chaque individu à chacun des $k$ candidats. Une normalisation Softmax produit les poids de contribution ($P_t$). Les candidats finaux ($X^{cand}_t$) sont synthétisés en agrégeant la représentation raffinée de la population à l'aide de ces poids : $X^{cand}_t = P_t^\top X^{ref}_t$. Cela garantit que les candidats restent ancrés à la distribution actuelle de la population, évitant les propositions hors distribution.

2.4 Objectif d'Entraînement : Perte Qualité-Diversité (QD Loss)

NeurGO est méta-entraîné à l'aide d'une fonction de perte composite pour équilibrer la qualité des solutions et la diversité de la recherche :

• Perte de Qualité ($L_{qual}$) : Mesure l'amélioration du meilleur candidat dans l'ensemble synthétisé par rapport au meilleur individu de la population parente. Les valeurs de fitness sont normalisées par score Z pour gérer les différences d'échelle entre les tâches.
• Perte de Diversité ($L_{div}$) : Encourage les candidats à se disperser dans l'espace de décision en maximisant la distance euclidienne moyenne par paire parmi les candidats synthétisés, normalisée par les bornes de l'espace de recherche.
• Objectif Total : $L_{QD} = L_{qual} + \lambda L_{div}$, où $\lambda$ décroît linéairement pendant l'entraînement pour passer de l'exploration à la convergence.

3. Contributions Clés

1. Cadre de MetaBBO Génératif : NeurGO introduit un paradigme qui synthétise directement des candidats élites à partir d'états de population, éliminant l'inefficacité de la génération de larges pools de descendants dans les contextes d'optimisation coûteuse.
2. Architecture de Bout en Bout avec Objectif QD : Le papier présente un modèle génératif unifié qui apprend une mise en correspondance de l'état de la population vers les solutions, tout en équilibrant explicitement la vitesse de convergence (qualité) et la diversité de recherche (diversité) via une fonction de perte personnalisée.
3. Validation Empirique : Des tests approfondis démontrent que NeurGO atteint une convergence plus rapide et une performance finale supérieure par rapport aux algorithmes évolutionnaires classiques, aux SAEAs, à la BO et aux autres bases de comparaison MetaBBO.

4. Résultats Expérimentaux

Les auteurs ont évalué NeurGO sur les suites de tests CEC 2008 et COCO BBOB avec une dimension de $D=10$ et un budget strict de $MaxFE = 300$.

• Comparaison avec les EA : NeurGO a surpassé les algorithmes évolutionnaires classiques (DE, GA, SHADE, CMA-ES) sur la majorité des fonctions de test. Les auteurs attribuent cela à la capacité de NeurGO à éviter de gaspiller des évaluations sur des individus de faible qualité en générant des candidats élites ciblés.
• Comparaison avec les SAEAs et la BO : NeurGO a démontré une plus grande stabilité et performance que les méthodes basées sur des surrogats (EGO, SACOSO, TurBO, HEBO). Bien que les méthodes BO puissent être compétitives sur des fonctions complexes spécifiques, NeurGO a montré des avantages plus constants, particulièrement parce qu'elle évite le bruit et le biais associés à l'ajustement de surrogats en ligne sous des données limitées.
• Comparaison avec la MetaBBO : NeurGO a obtenu une meilleure performance finale et une meilleure stabilité que les autres optimiseurs basés sur l'apprentissage (B2Opt, LGA, LES). Elle a exhibé une plus forte généralisation inter-fonctions, particulièrement sur les fonctions de méta-test CEC.
• Analyse de Convergence : Les graphiques de convergence montrent que NeurGO atteint des chutes de fitness abruptes tôt dans le processus d'optimisation (autour de 100 évaluations), suggérant que le prior appris par méta-apprentissage localise efficacement les régions prometteuses.
• Étude d'Ablation : Le retrait du module PCE ou de ses composants internes (attention, FFN, connexions résiduelles) a considérablement dégradé les performances, confirmant la nécessité d'apprendre une représentation riche du contexte de la population plutôt que de compter sur une simple recombinaison.

5. Signification et Revendications

Le papier affirme que NeurGO offre une alternative robuste aux paradigmes traditionnels d'optimisation coûteuse en déplaçant l'accent de la modélisation de la fonction objectif (surrogats) vers la modélisation du processus de recherche (priors génératifs).

• Efficacité : En synthétisant seulement quelques candidats de haute valeur par itération, NeurGO maximise l'utilité de chaque évaluation coûteuse.
• Généralisation : Le cadre tire parti de l'entraînement inter-tâches pour apprendre des priors de recherche transférables, réduisant la dépendance au réglage des hyperparamètres spécifiques à la tâche ou à des surrogats en ligne précis.
• Robustesse : La méthode est moins sensible au problème du « démarrage à froid » et au biais de modèle qui affectent les méthodes assistées par surrogat dans les régimes à faible budget.

Les auteurs concluent que NeurGO traite efficacement le goulot d'étranglement de l'efficacité dans l'optimisation de boîte noire coûteuse, fournissant une solution stable et performante là où les méthodes traditionnelles peinent face aux contraintes de budget.