Resumo Técnico: Geração Evolutiva de Algoritmos de Otimização Bayesiana Multiobjetivo Impulsionada por LLM

1. Definição do Problema

Projetar algoritmos eficazes de Otimização Bayesiana Multiobjetivo (MOBO) é uma tarefa complexa que exige o equilíbrio de inúmeras escolhas de design interdependentes, como a seleção de modelos substitutos (surrogate models), funções de aquisição e estratégias de geração de candidatos. A configuração ideal é tipicamente dependente do problema e exige conhecimento profundo. Embora avanços recentes em geração de algoritmos impulsionados por Modelos de Linguagem de Grande Escala (LLM) tenham mostrado promessa em cenários de objetivo único, estender essa capacidade para o domínio multiobjetivo permanece um desafio devido à necessidade de lidar com o domínio de Pareto, computação de hipervolume e normalização de objetivos sem intervenção manual.

2. Metodologia

Os autores estendem o framework LLaMEA para o cenário multiobjetivo, criando o LLaMEA-MOBO. Este sistema emprega um loop evolutivo onde um LLM atua como o operador de mutação e crossover para gerar implementações completas de algoritmos.

Componentes Principais do Framework

• Loop Evolutivo: O processo itera através de gerações. Em cada etapa, o LLM é instruído com o código-fonte do(s) algoritmo(s) pai(s), seu feedback de aptidão (hipervolume normalizado e tempo de execução) e quaisquer erros de tempo de execução.
  • Mutação: Um único pai é refinado para melhorar sua estratégia.
  • Crossover: Dois pais são combinados para criar uma nova solução, que é então refinada.
• Interface do Algoritmo: Os algoritmos gerados devem obedecer a uma interface de orientação a objetos fixa. Crucialmente, o número de objetivos não é fixo (hard-coded); os algoritmos devem inferir a contagem de objetivos em tempo de execução a partir da primeira avaliação de função para garantir a generalidade entre problemas bi-objetivo e de muitos objetivos.
• Otimização de Hiperparâmetros (HPO): Integrada diretamente no loop evolutivo usando SMAC (Configuração de Algoritmo Baseada em Modelo Sequencial). Cada algoritmo gerado define um espaço de hiperparâmetros ajustável (ex: tamanho do lote, parâmetros de kernel). O SMAC otimiza esses parâmetros através de um subconjunto de problemas de referência para promover a generalização e evitar o sobreajuste (overfitting).
• Sinal de Aptidão (Fitness): A aptidão de um algoritmo é definida como a média do hipervolume normalizado (HV) através de um conjunto de problemas de referência. A normalização garante que problemas com diferentes escalas de objetivos contribuam igualmente para o sinal de aptidão.

Configuração Experimental

• Estratégias Evolutivas: Três configurações foram testadas: $(1+1)$-ES, $(4+16)$-ES e $(8,16)$-ES.
• Operador LLM: O Gemini-2.5-flash foi utilizado para sintetizar o código do algoritmo e os espaços de configuração.
• Benchmarks:
  • Suíte Sintética: 12 problemas das famílias ZDT, DTLZ e WFG, cobrindo configurações bi e tri-objetivo com dimensionalidades variadas (5–30 variáveis) e complexidades (multimodalidade, não convexidade, desconexão).
  • Suíte de Mundo Real: 3 problemas de engenharia não restritos (RE21, RE34, RE37) da suíte de benchmarks RE.
• Linhas de Base (Baselines): Os algoritmos gerados foram comparados com métodos de estado da arte, incluindo qParEGO (do BoFire), IOC-SAMO-COBRA, algoritmos evolutivos clássicos (NSGA-II, NSGA-III) e Busca Aleatória (Random Search).

3. Contribuições Principais

1. Extensão do Framework: Os autores estenderam com sucesso o framework LLaMEA para gerar algoritmos MOBO completos, integrando a otimização de hiperparâmetros baseada em SMAC diretamente no loop evolutivo.
2. Descoberta de Algoritmos: O sistema gerou aproximadamente 900 algoritmos candidatos ao longo de nove execuções evolutivas. O estudo analisa como diferentes regimes de seleção (estratégias evolutivas) afetam a diversidade e a qualidade dos designs resultantes.
3. Benchmarking de Desempenho: O artigo fornece um benchmarking rigoroso dos melhores algoritmos gerados contra métodos estabelecidos e projetados manualmente, tanto em domínios sintéticos quanto de mundo real.
4. Análise de Troca Tempo-Acurácia: O trabalho caracteriza a fronteira de eficiência, demonstrando que algoritmos gerados por LLM podem atingir a acurácia de estado da arte com custos computacionais significativamente reduzidos.

4. Resultados

Benchmarks Sintéticos (Fase 1 & 2)

• Melhor Desempenho: O algoritmo MOEAD-EI Hybrid (descoberto durante o desenvolvimento) alcançou o maior hipervolume normalizado médio de 0,971 nos 12 problemas sintéticos.
• Comparação com SOTA: O MOEAD-EI Hybrid superou significativamente o estado da arte qParEGO (0,869) em 7 dos 12 problemas e nunca foi significativamente inferior.
• Eficiência: O MOEAD-EI Hybrid exigiu aproximadamente 60× menos tempo de relógio (wall-clock time) que o qParEGO para alcançar acurácia superior ou comparável.
• Algoritmos Selecionados Sistematicamente: Entre os principais algoritmos selecionados estritamente pelo processo evolutivo, o Improved-Scalarized-EI alcançou um HV médio normalizado de 0,811, superando todos os baselines clássicos, mas ficando atrás do qParEGO e do MOEAD-EI Hybrid.

Benchmarks de Mundo Real (Fase 3)

• Generalização: Em três problemas de engenharia do mundo real não vistos, o Improved-Scalarized-EI emergiu como o método mais acurado, com um HV médio normalizado de 0,985.
• Comparação: Ele superou significativamente o qParEGO (0,971) em dois dos três problemas de mundo real.
• Custo: O Improved-Scalarized-EI alcançou este desempenho com aproximadamente 3,4× menor custo de tempo de relógio que o qParEGO.
• MOEAD-EI Hybrid também teve bom desempenho em problemas de mundo real (0,926), classificando-se em terceiro lugar geral, confirmando que os ganhos se transferem além do regime sintético.

Significância Estatística

• Teste de Friedman: Confirmou diferenças significativas entre os algoritmos ($p = 4,3 \times 10^{-8}$), classificando o MOEAD-EI Hybrid em primeiro lugar.
• Tempo-Acurácia: Cada algoritmo gerado foi significativamente mais rápido que o qParEGO em todos os 15 problemas ($p = 6,1 \times 10^{-5}$). Os algoritmos gerados ocupam a fronteira de eficiência, igualando ou excedendo a acurácia enquanto rodam de uma a três ordens de magnitude mais rápido.

Características dos Algoritmos

O estudo analisou a linhagem dos principais algoritmos, revelando que eles não são "caixas pretas", mas compostos de blocos reconhecíveis e bem motivados:

• MOEAD-EI Hybrid: Combina decomposição MOEA/D com modelos substitutos Gaussian Process (GP) independentes e aquisição por Melhoria Esperada (EI), equilibrando acurácia e custo.
• Improved-Scalarized-EI: Utiliza um substituto GP Matérn-2.5 com EI em uma escalação Tchebycheff invariante de escala, otimizada por um otimizador interno evolutivo vetorizado. Ele se destaca em problemas de mundo real suaves e de baixa dimensão.
• Variantes de RF: Algoritmos que utilizam substitutos de Floresta Aleatória (Random Forest), como o RF-ParEGO-Batch, trocaram fidelidade do substituto por velocidade, alcançando acurácia competitiva com tempos de execução 2 a 3 ordens de magnitude menores.

5. Significância e Alegações

O artigo alega que a busca evolutiva impulsionada por LLM pode descobrir designs de algoritmos que alcançam trocas de Pareto-eficiência difíceis de atingir através do design manual.

Especificamente, os autores demonstram que:

• A geração automatizada pode produzir algoritmos MOBO que igualam ou excedem a acurácia de métodos projetados manualmente (como o qParEGO).
• Esses algoritmos gerados alcançam esse desempenho a uma fração do custo computacional (até 60× mais rápidos), abordando o alto custo de tempo de relógio frequentemente associado à otimização bayesiana.
• A abordagem generaliza com sucesso de benchmarks sintéticos para problemas de engenharia do mundo real sem reconfiguração.
• O processo é interpretável; a linhagem dos principais algoritmos mostra o refinamento direcionado de módulos específicos (substitutos, funções de aquisição, otimizadores) em vez de amostragem aleatória.

Os autores reconhecem limitações, incluindo o alto custo computacional do orçamento de avaliação (limitando o número de repetições), a restrição a problemas de mundo real não restritos e a sensibilidade dos resultados à escolha do modelo base do LLM. Eles sugerem que trabalhos futuros explorem problemas restritos, orçamentos maiores e a geração de solvers especializados para problemas alvo específicos.