Resumo Técnico: SMOG – Aprendizado de Meta Escalável para Otimização Bayesiana Multi-Objetivo

Declaração do Problema

A otimização multi-objetivo (MOO) envolve encontrar soluções Pareto-ótimas para problemas com objetivos concorrentes (por exemplo, desempenho versus custo). Em muitas aplicações do mundo real, como ajuste industrial, descoberta de materiais e projeto de sistemas de aprendizado de máquina, a avaliação desses objetivos é custosa, resultando em um regime de poucos dados onde a Otimização Bayesiana (BO) é eficaz.

Embora organizações frequentemente possuam dados históricos de tarefas de otimização relacionadas, aproveitar esses dados via aprendizado de meta para configurações multi-objetivo permanece pouco explorado. Abordagens existentes enfrentam três desafios principais:

1. Transferência Consciente de Incerteza: Em MOO, o "ótimo" é um conjunto Pareto, e a tomada de decisão depende de critérios conscientes de incerteza (por exemplo, hipervolume). Transferir conhecimento requer propagar a incerteza da meta-tarefa para evitar viés excessivamente confiante decorrente de tarefas incompatíveis.
2. Escalabilidade: Modelos de Processo Gaussiano (GP) totalmente conjuntos multi-tarefa são fundamentados, mas computacionalmente inviáveis para muitas meta-tarefas devido à escala cúbica no número total de observações.
3. Correlações Cruzadas entre Objetivos: Objetivos em MOO são frequentemente correlacionados. Tratá-los independentemente desperdiça informações valiosas, contudo, a maioria dos métodos escaláveis de aprendizado de meta para BO é projetada para transferência de objetivo único e ignora essas dependências.

Métodos atuais ou carecem de propagação de incerteza fundamentada, falham em escalar com o número de meta-tarefas ou ignoram correlações cruzadas entre objetivos.

Metodologia: SMOG

Os autores propõem o SMOG (Aprendizado de Meta Escalável para Processos Gaussianos Multi-Objetivo), um modelo substituto que combina aprendizado de meta com otimização multi-objetivo usando um GP de múltiplas saídas. O SMOG é projetado para satisfazer três desejos-chave: propagação de incerteza totalmente bayesiana, escala linear com o número de meta-tarefas e a capacidade de aprender correlações entre objetivos.

Arquitetura Central

O SMOG estende o framework ScaML-GP para a configuração de múltiplas saídas. Ele modela a função da tarefa-alvo $f_t$ como uma soma de funções de meta-tarefas escaladas e uma função residual específica da tarefa-alvo:
$$f_{t,o} = \tilde{f}_{t,o} + \sum_{m \in \mathcal{M}} w_{m,o} f_{m,o}$$
onde $w_{m,o}$ são pesos específicos por objetivo.

O método baseia-se em três suposições estruturais:

1. Independência Distinta de Meta-Tarefas: Modelos de meta-tarefa são não correlacionados entre si ($\text{Cov}(f_{m,o}, f_{m',o'}) = 0$ para $m \neq m'$). Isso garante escalabilidade.
2. Acoplamento Estruturado: A tarefa-alvo é acoplada às meta-tarefas via uma combinação linear das funções de meta-tarefa com pesos específicos por objetivo. Crucialmente, a função residual da tarefa-alvo é não correlacionada com as funções de meta-tarefa. Isso impede que a contagem de hiperparâmetros cresça quadraticamente com o número de tarefas.
3. Inferência Modular de Hiperparâmetros: Hiperparâmetros de meta-tarefa são inferidos independentemente dos dados da tarefa-alvo (sem feedback), permitindo uma posterior modular.

O Kernel SMOG

O kernel conjunto sobre todas as tarefas e objetivos é construído para ser esparsos. Ao aplicar as suposições acima, as matrizes de co-regionalização (que modelam correlações entre tarefas e objetivos) tornam-se esparsas, reduzindo o número de parâmetros do kernel de $O(M^3 O^3)$ para $O(M O^3)$, onde $M$ é o número de meta-tarefas e $O$ é o número de objetivos.

Condicionar nos metadados produz uma priori de forma fechada para a tarefa-alvo:

• Média: Uma soma ponderada das médias posteriores de GPs individuais de meta-tarefa.
• Covariância: Uma soma do kernel residual da tarefa-alvo e uma soma ponderada das covariâncias posteriores das meta-tarefas. Os pesos são produtos $w_{m,o} w_{m,o'}$, que acoplam explicitamente os blocos completos de covariância objetivo-objetivo.

Kernel Equicorrelacionado

Para lidar com as correlações residuais da tarefa-alvo com dados limitados, o SMOG emprega uma estrutura de kernel equicorrelacionado para a matriz de acoplamento objetivo-objetivo $K_{Obj}$. Isso restringe os parâmetros livres de $O^2$ para $O+1$ (um único parâmetro de correlação $\rho$ compartilhado entre todos os pares e escalas individuais $\sigma_i$), garantindo identificabilidade em regimes de poucos dados.

Algoritmo

O processo de treinamento (Algoritmo 1) envolve:

1. Treinar GPs de múltiplas saídas individuais para cada meta-tarefa e otimizar seus hiperparâmetros.
2. Construir a priori da tarefa-alvo armazenando em cache as posteriores das meta-tarefas e computando a soma ponderada.
3. Otimizar os hiperparâmetros da tarefa-alvo.
4. Condicionar a priori nos dados da tarefa-alvo para obter a posterior final.

A complexidade computacional escala linearmente com o número de meta-tarefas $M$, tornando-a viável para cenários com muitas tarefas relacionadas.

Contribuições Principais

1. Primeiro Substituto Unificado: O SMOG é o primeiro substituto a entregar simultaneamente propagação de incerteza totalmente bayesiana sobre dados de meta-tarefa, escala linear no número de meta-tarefas e correlações aprendidas entre objetivos no regime de poucos dados.
2. Garantias Teóricas: O artigo fornece provas de que o kernel proposto é válido (semidefinido positivo) e de que a condição sobre metadados produz uma posterior GP válida com uma expressão de forma fechada.
3. Integração Prática: O substituto resultante integra-se perfeitamente com funções de aquisição padrão de BO multi-objetivo (por exemplo, LogExpectedHypervolumeImprovement).
4. Ablação e Análise: Os autores demonstram que o ScaML-GP de objetivo único é um caso especial do SMOG e analisam o impacto do acoplamento cruzado entre objetivos.

Resultados Experimentais

Os autores avaliaram o SMOG contra uma ampla gama de baselines, incluindo GPs sem aprendizado de meta (Ind. GP, MO-GP), métodos de aprendizado de meta de objetivo único adaptados para MOO (Ind. ScaML-GP, Ind. RGPE, Ind. SGPT, Ind. ABLR, Ind. GC3P) e o único outro método de MOO com aprendizado de meta (MO-TPE).

Benchmarks:

• Sintéticos: Funções Branin-Currin e Hartmann6 adaptadas com 2 e 4 objetivos.
• Mundo Real: HPOBench (otimização de hiperparâmetros para redes neurais em 4 conjuntos de dados) e um benchmark de Terreno (otimização de trajetória de UAV).

Descobertas:

• Desempenho: O SMOG consistentemente alcança o menor ou próximo do menor arrependimento cumulativo de hipervolume em todos os benchmarks sintéticos e do mundo real.
• Aprendizado de Meta versus Independência: Embora tratar objetivos independentemente (Ind. SMOG) capture a maioria dos ganhos do aprendizado de meta, o SMOG mostra uma vantagem distinta em problemas com maiores contagens de objetivos (por exemplo, Hartmann6 com 4 objetivos), confirmando o benefício de modelar correlações cruzadas entre objetivos.
• Robustez: O SMOG performa de forma robusta através de números variados de meta-tarefas e observações. Embora algumas baselines (por exemplo, Ind. ABLR, Ind. SGPT) superem o SMOG em conjuntos de dados específicos, elas frequentemente lutam em outros, enquanto o SMOG mantém um desempenho geral forte.
• Qualidade do Substituto: O SMOG reduz significativamente o Erro Quadrático Médio (RMSE) comparado a baselines sem aprendizado de meta. A calibração (medida pela Densidade Preditiva Negativa Logarítmica) é competitiva, embora métodos de transferência paramétrica às vezes alcancem melhor calibração em funções sintéticas suaves.

Significado e Alegações

O artigo alega que o SMOG preenche uma lacuna crítica na literatura ao fornecer um algoritmo prático e fundamentado que combina aprendizado de meta e otimização multi-objetivo.

• Eficiência: Ao propagar incerteza de metadados e explorar correlações cruzadas entre objetivos, o SMOG melhora a eficiência de amostragem, permitindo que praticantes encontrem boas soluções com menos avaliações custosas.
• Escalabilidade: A escala linear em relação ao número de meta-tarefas permite o uso de grandes repositórios de dados históricos de otimização, o que era computacionalmente proibitivo anteriormente para modelos GP totalmente conjuntos.
• Aplicabilidade: O método é diretamente aplicável a campos de alto impacto, como engenharia aeroespacial, ciência dos materiais e projeto de sistemas de aprendizado de máquina, onde trade-offs entre objetivos concorrentes são comuns e os dados são escassos.

Os autores reconhecem limitações, observando que o método assume que as tarefas compartilham os mesmos espaços de busca e de objetivo e depende de suposições que podem limitar a flexibilidade em comparação com modelos baseados em redes neurais quando dados abundantes estão disponíveis. No entanto, no regime alvo de dados escassos e ruidosos, o SMOG oferece uma solução robusta e fundamentada teoricamente.