Accelerating Multi-Objective Bayesian Optimisation via Predictive-Gradient Catalysts

Resumo Técnico: Aceleração de Otimização Bayesiana Multiobjetivo via Catalisadores de Gradiente Preditivo

Definição do Problema
A Otimização Bayesiana Multiobjetivo (MOBO) é um framework utilizado para otimizar funções de objetivos caras, ruidosas ou de caixa-preta, equilibrando exploração e explotação por meio de modelos substitutos probabilísticos, tipicamente Processos Gaussianos (GPs). Embora eficaz, a MOBO frequentemente enfrenta desafios quando os orçamentos de avaliação são limitados, particularmente ao navegar pelos compromissos (trade-offs) necessários para aproximar o conjunto de Pareto. Conceitos de estacionariedade baseados em gradientes estão bem estabelecidos na otimização multiobjetivo determinística, mas sua integração na MOBO permaneceu amplamente inexplorada. Métodos existentes de aceleração baseados em gradiente são frequentemente restritos a configurações de objetivo único ou estritamente acoplados a funções de aquisição específicas, limitando sua aplicabilidade geral.

Metodologia
Os autores propõem um mecanismo de aceleração geral que utiliza gradientes preditivos de processos gaussianos como sinais auxiliares de "catalisador". Em vez de substituir as funções de aquisição existentes que respeitam o Pareto, este framework as aumenta com informações de estacionariedade local derivadas de gradientes substitutos.

A metodologia central envolve:

1. Modelagem Substituta: A abordagem assume independência condicional entre objetivos, modelando cada um com um GP individual. A média preditiva ($\mu_i$) e a variância ($\sigma^2_i$) são computadas, e o gradiente esperado da média preditiva é derivado analiticamente.
2. Framework Catalítico: O método formula um problema de decisão bi-objetivo para selecionar o próximo ponto de avaliação:
   • Critério Global ($g_1$): Maximizar uma função de aquisição padrão compatível com Pareto $\alpha(x)$ (ex: EHVI, AugTch).
   • Critério Local ($g_2$): Minimizar a magnitude do gradiente preditivo ponderado, $\|\gamma \cdot \nabla \hat{f}(x)\|$, onde $\gamma$ representa coeficientes de combinação convexa que satisfazem as condições de Fritz–John (FJ) para estacionariedade de Pareto.
   • Escalarização: Esses dois critérios são combinados usando uma escalarização de Tchebycheff aumentada para criar uma função de aquisição unificada $\alpha_{CAT}(x)$. Isso penaliza candidatos que são inferiores tanto em desempenho global quanto em estacionariedade local.

Duas instanciações específicas do catalisador são investigadas:

• Catalisador Baseado em MGDA: Utiliza o Algoritmo de Descida de Gradiente Múltiplo (MGDA) para determinar adaptativamente o vetor de peso $\gamma$ em cada ponto $x$. Isso encontra a combinação convexa de gradientes com a norma Euclidiana mínima, satisfazendo as condições de FJ localmente.
• Catalisador de Peso Predefinido (W): Utiliza um conjunto fixo de vetores de peso predefinidos (após normalização min-max) para discretizar as direções de busca. Esta abordagem sacrifica a satisfação estrita das condições de FJ em favor da robustez e de uma exploração focada, o que é benéfico sob orçamentos de avaliação apertados.

Principais Contribuições

• Framework Catalítico: Um novo framework que explora gradientes preditivos de GP para acelerar a convergência da MOBO sem alterar a estrutura subjacente das funções de aquisição padrão.
• Instanciações Duplas: A introdução de duas estratégias de catalisador: uma abordagem adaptativa baseada em MGDA, fundamentada na teoria de estacionariedade de Pareto, e uma abordagem de pesos predefinidos para exploração focada de compromissos.
• Integração Principiada: Um método formal para integrar sinais catalíticos com funções de aquisição padrão via escalarização de Tchebycheff aumentada.
• Avaliação Empírica: Experimentos extensos no conjunto de benchmarks DTLZ (2 objetivos, 10 variáveis de decisão) comparando os métodos propostos contra baselines (EHVI, AugTch, tMPoI, SAF).

Resultados e Análise
Os experimentos foram conduzidos nos problemas de benchmark DTLZ1–DTLZ7 com um orçamento de $30n$ avaliações. As principais descobertas incluem:

• Dependência da Precisão do Substituto: A eficácia da aceleração é altamente dependente da precisão dos modelos substitutos. Quando os substitutos são precisos (indicado por baixo Standardised Log Loss, SLL), a abordagem catalítica produz melhorias significativas.
• Correlação de Estacionariedade: O framework performa melhor em problemas que exibem comportamento estacionário (onde perturbações locais induzem variações semelhantes no espaço de objetivos).
  • DTLZ2 e DTLZ5: Estes problemas exibiram forte estacionariedade e alta precisão do substituto. Os métodos catalíticos superaram consistentemente os baselines (células verdes nos mapas de significância).
  • DTLZ1 e DTLZ3: Estes problemas exibiram não-estacionariedade e qualidade de substituto inconsistente. A abordagem catalítica mostrou pouca ou nenhuma melhoria sobre os baselines (células cinzas).
  • DTLZ4 e DTLZ6: Qualidade de substituto mista ou pobre levou à degradação do desempenho em vários casos (células vermelhas), destacando o risco de usar gradientes quando os substitutos são pouco confiáveis.
• MGDA vs. Pesos Predefinidos: Em comparações pareadas, a variante de Peso Predefinido (W) geralmente superou a variante adaptativa MGDA. Os autores sugerem que, para otimização cara com orçamentos limitados, focar a busca em um conjunto grosseiro e finito de direções promissoras é mais eficaz do que tentar aproximar finamente todo o conjunto de Pareto global via direções locais adaptativas.

Significância e Alegações
O artigo alega que a catálise por gradiente preditivo oferece um mecanismo prático para melhorar a eficiência na otimização multiobjetivo cara, desde que os modelos substitutos subjacentes sejam precisos e o problema exiba uma estacionariedade aproximada. Os autores enfatizam que esta abordagem não substitui as funções de aquisição existentes, mas as potencializa com informações locais, permitindo uma convergência mais rápida em direção ao conjunto de Pareto global.

A significância reside em preencher a lacuna entre a teoria de estacionariedade baseada em gradiente e a MOBO, demonstrando que, mesmo com orçamentos limitados, o uso da suavidade dos gradientes preditivos de GP pode guiar a busca de forma mais eficaz do que as funções de aquisição padrão sozinhas. Os autores observam modestamente que, embora a avaliação atual seja limitada ao conjunto DTLZ com 2 objetivos e 10 dimensões, o framework foi projetado para escalar para dimensões mais altas devido à derivação analítica de gradientes e à eficiência computacional do solver MGDA. O trabalho futuro é sugerido para ambientes com restrições, ambientes ruidosos e problemas de alta dimensão.