In-Context Multi-Objective Optimization

Resumo Técnico: Otimização Multiobjetivo em Contexto (TAMO)

Declaração do Problema
A otimização multiobjetivo (MOO) é um desafio pervasivo em domínios científicos e de engenharia, como descoberta de fármacos e sistemas autônomos, onde os praticantes devem equilibrar objetivos concorrentes (por exemplo, eficácia versus toxicidade, precisão versus custo). A abordagem padrão, Otimização Bayesiana Multiobjetivo (MOBO), baseia-se no ajuste de substitutos probabilísticos (tipicamente Processos Gaussianos) e na otimização de funções de aquisição em cada etapa. No entanto, os autores identificam três limitações críticas na implantação no mundo real:

1. Sobrecarga Computacional: Cada novo problema exige o treinamento de substitutos do zero e a otimização repetida da função de aquisição, criando gargalos em loops paralelos ou sensíveis ao tempo.
2. Falta de Transferibilidade: O desempenho é altamente sensível a escolhas de modelagem (kernels, verossimilhanças) e raramente se transfere para novos problemas sem reajuste.
3. Miopia: A maioria das funções de aquisição é míope, otimizando ganhos de um único passo em vez da descoberta da fronteira de Pareto de longo horizonte, o que frequentemente requer planejamento de múltiplos passos.

Metodologia: TAMO
O artigo introduz o TAMO (Multiobjetivo Agnóstico à Tarefa), uma política totalmente amortizada e universal para otimização multiobjetivo de caixa-preta. Diferentemente da MOBO tradicional, o TAMO elimina o ajuste de substitutos por tarefa e a engenharia de aquisição, mapeando todo o histórico de observações diretamente para a próxima consulta por meio de uma única passagem forward de rede neural.

• Arquitetura: O TAMO utiliza uma espinha dorsal de transformador projetada para ser agnóstica à dimensão tanto nas entradas quanto nas saídas. Emprega um novo "embeddor agregador de dimensões" que mapeia observações escalares para vetores, independentemente das dimensões de entrada ($d_x$) ou saída ($d_y$). Isso permite que o modelo seja pré-treinado em tarefas heterogêneas com dimensões variadas e transferido para novos problemas sem retreinamento.
• Estratégia de Treinamento: O modelo é treinado offline usando uma abordagem em duas fases:
  1. Aquecimento de Previsão: O modelo é primeiro treinado em uma tarefa auxiliar de regressão em contexto para aprender a paisagem da função e estabilizar as representações.
  2. Aprendizado por Reforço (RL): A política é otimizada via RL para maximizar a melhoria cumulativa do hipervolume ao longo de trajetórias completas. O estado inclui o histórico de observações, o passo de tempo atual e o orçamento total. A recompensa é o hipervolume normalizado, incentivando o planejamento de longo horizonte em vez de ganhos míopes.
• Inferência: No momento do teste, o modelo pré-treinado propõe o próximo design avaliando um conjunto de candidatos em uma única passagem forward, condicionado a todo o histórico de consultas.

Principais Contribuições

1. Política Totalmente Amortizada: O TAMO é a primeira arquitetura de ponta a ponta, agnóstica à dimensão, para otimização multiobjetivo de caixa-preta que opera inteiramente em contexto, removendo a necessidade de ajuste iterativo de substitutos.
2. Agnosticismo à Dimensão: A arquitetura de transformador proposta lida com dimensões de entrada e saída variáveis, permitindo o pré-treinamento em corpora sintéticos diversos e a transferência para tarefas do mundo real com dimensões não vistas.
3. Otimização de Longo Horizonte: Ao otimizar para o hipervolume cumulativo ao longo de trajetórias completas via RL, o TAMO aborda a miopia inerente às funções de aquisição padrão.

Resultados Experimentais
Os autores avaliaram o TAMO em tarefas GP sintéticas, benchmarks analíticos padrão (por exemplo, Ackley-Rastrigin, Branin-Currin) e problemas do mundo real (design de sorvente de óleo, aceleração laser-plasma).

• Desempenho: O TAMO alcança qualidade de Pareto competitiva ou superior (medida por arrependimento simples e hipervolume) em comparação com bases fortes baseadas em GP (qNEHVI, qNParEGO, qHVKG) e bases amortizadas como BOFormer.
• Eficiência: O ganho mais significativo está na velocidade de inferência. O TAMO reduz o tempo de proposta em 50× a 1000× em comparação com métodos baseados em GP. Isso ocorre porque o TAMO evita a sobrecarga do reajuste de substitutos e da otimização de aquisição, realizando apenas uma única passagem forward por proposta.
• Generalização: O modelo demonstra generalização robusta para tarefas fora de distribuição (OOD), incluindo aquelas com dimensões de entrada/saída não vistas (por exemplo, treinamento em $d_x \in \{1,2\}$ e teste em $d_x=4$) e configurações de observação desacopladas onde os objetivos são medidos independentemente.

Significado e Alegações
O artigo alega que o TAMO estabelece um caminho rumo a otimizadores estilo fundação, plug-and-play para descoberta científica. Ao demonstrar que transformadores podem realizar otimização multiobjetivo inteiramente em contexto, o trabalho sugere que o campo pode se afastar da engenharia de substitutos específicos para tarefas em direção a políticas universais treinadas em dados diversos. Os autores posicionam o TAMO como um motor universal capaz de lidar com conjuntos de dados legados heterogêneos e acelerar laboratórios de malha fechada, campanhas de alto rendimento e fluxos de trabalho sensíveis ao tempo onde os custos de avaliação são baixos ou a paralelização é alta. O trabalho permanece modesto quanto às limitações, observando que o desempenho depende da composição do corpus de pré-treinamento sintético e que a inferência atual assume um pool discreto de candidatos, o que pode restringir a aplicação em espaços de design generativo contínuos ou combinatórios sem adaptação arquitetural adicional.