Resumo Técnico: CoAction – Aprendizado de Conjunto de Pareto com Consciência de Correlação entre Tarefas

1. Definição do Problema

A otimização multiobjetivo (MOO) busca encontrar um conjunto de soluções de compromisso (o conjunto de Pareto, PS) para objetivos conflitantes. Embora algoritmos evolucionários tradicionais (ex: NSGA-II, MOEA/D) gerem conjuntos de soluções finitos por execução, eles enfrentam dificuldades em cenários de tomada de decisão em tempo real onde as preferências mudam dinamicamente. O Aprendizado de Conjunto de Pareto (PSL) aborda isso treinando redes neurais para mapear vetores de preferência para soluções Pareto otimizais em tempo real.

No entanto, os métodos de PSL existentes sofrem de uma limitação fundamental: são projetados para resolver um único problema de MOO por vez. Em cenários envolvendo múltiplos problemas de otimização relacionados (Aprendizado Multitarefa, MTL), esse paradigma exige o treinamento de um modelo separado para cada tarefa. Essa abordagem acarreta custos computacionais que escalam linearmente e falha em explorar as semelhanças estruturais latentes e o conhecimento compartilhado entre tarefas relacionadas. O artigo identifica a necessidade de um framework unificado que possa aprender simultaneamente conjuntos de Pareto para múltiplas tarefas enquanto modela correlações entre tarefas para melhorar a eficiência e a generalização.

2. Metodologia: O Framework CoAction

Os autores propõem o CoAction (Cross-task Correlation-aware Pareto Set Learning), um framework projetado para aprender conjuntos de soluções Pareto otimais em múltiplos problemas de otimização dentro de um único modelo. A metodologia integra três componentes principais:

2.1 Mecanismo de Embedding de Tarefa

Para permitir que um único modelo distinga entre diferentes tarefas enquanto compartilha parâmetros, o CoAction emprega um esquema de embedding de tarefa. Diferente de vetores de embedding aprendíveis que escalam mal com o número de tarefas e podem falhar ao generalizar para contagens de tarefas não vistas, o CoAction utiliza codificação posicional senoidal inspirada em arquiteturas Transformer.

• Cada tarefa $t$ recebe um vetor de embedding $e_t$ de dimensão $d$ exclusivo.
• O embedding é construído usando funções seno e cosseno do índice da tarefa $t$, garantindo que tarefas com índices semelhantes tenham embeddings semelhantes (suavidade) enquanto permanecem distinguíveis (injetividade).
• Este embedding é concatenado com o vetor de preferência $\lambda(\theta)$ e preenchido com zeros (zero-padding) para formar a entrada da rede, permitindo que o modelo gere variáveis de decisão específicas da tarefa.

2.2 Backbone Transformer

O framework utiliza um codificador Transformer como sua arquitetura de base (backbone).

• Autoatenção (Self-Attention): O mecanismo de autoatenção é empregado para capturar dependências globais complexas entre as tarefas. Isso permite que o modelo pondere dinamicamente a influência de diferentes tarefas durante o treinamento, facilitando a modelagem das relações entre tarefas.
• Arquitetura: A rede consiste em uma camada de projeção linear, codificação posicional, um bloco de codificador de camada única (4 cabeças de atenção, 128 dimensões ocultas), um módulo de agrupamento ponderado (weighted pooling) e cabeças de saída específicas da tarefa.
• Compartilhamento de Parâmetros: Os parâmetros do backbone são compartilhados entre todas as tarefas, enquanto as cabeças de saída específicas da tarefa permitem os ajustes necessários, mitigando o esquecimento catastrófico.

2.3 Treinamento Colaborativo Multitarefa

O processo de treinamento envolve um algoritmo colaborativo (Algoritmo 1) onde:

• As tarefas são amostradas aleatoriamente durante cada iteração.
• Vetores de preferência são amostrados uniformemente do ortante positivo da hiperesfera unitária.
• O modelo é otimizado usando uma função de perda baseada na Maximização do Hipervolume (PSL-HV1). Esta função de perda maximiza uma forma substituta do indicador de Hipervolume (HV), incentivando o modelo a aproximar toda a frente de Pareto.
• O corte de gradiente (gradient clipping) é aplicado para garantir a estabilidade do treinamento.

3. Principais Contribuições

O artigo delineia as seguintes contribuições primárias:

1. Framework Unificado: A proposta do framework CoAction, que utiliza embeddings de tarefa, parâmetros de rede compartilhados e um backbone Transformer para modelar relações entre tarefas. Isso permite que um único modelo aprenda conjuntos de Pareto para múltiplos problemas simultaneamente.
2. Eficiência e Expressividade: O framework reduz os custos computacionais eliminando a necessidade de modelos separados por tarefa e aumenta a expressividade do modelo através do mecanismo de autoatenção.
3. Avaliação Abrangente: Experimentos extensos conduzidos em suítes de teste multitarefa que compreendem tanto problemas de referência (ZDT, VLMOP) quanto aplicações de engenharia do mundo real (designs de Truss, Hatch Cover, Rocket Injector).

4. Resultados Experimentais

Os autores avaliaram o CoAction contra um baseline de PSL de tarefa única e um baseline multitarefa baseado em MLP usando três métricas: Hipervolume (HV), Alcance (Range) e Esparsidade (Sparsity).

• Desempenho vs. Baseline de Tarefa Única:

  • O CoAction alcançou desempenho competitivo ou superior em HV e Alcance na maioria dos problemas (ex: ZDT1, ZDT2, RE21, RE24).
  • No problema tri-objetivo RE37, embora as diferenças de HV tenham sido marginais, o framework demonstrou robustez.
  • Eficiência Computacional: O CoAction reduziu o tempo de treinamento em 27% (270.13s vs. 370.25s) em comparação com o baseline de tarefa única, apesar de treinar em sete tarefas simultaneamente.
  • Estabilidade: O framework exibiu baixa variância de HV entre as execuções, indicando convergência estável e ausência de esquecimento catastrófico significativo.

• Estudo de Ablação (Transformer vs. MLP):

  • O backbone Transformer superou significativamente o backbone MLP, particularmente no complexo problema tri-objetivo RE37.
  • No RE37, o Transformer alcançou um HV 12,6% maior e um Alcance 314% maior em comparação ao MLP.
  • O mecanismo de autoatenção foi creditado por capturar dependências globais, levando a uma melhor cobertura de frentes de Pareto complexas.

• Avaliação Estendida:

  • Na suíte de testes bbob-biobj, o CoAction demonstrou generalização robusta, alcançando valores de HV consistentemente altos em cinco pares de tarefas diferentes.

• Análise Estatística:

  • Testes de postos sinalizados de Wilcoxon confirmaram melhorias estatisticamente significativas em HV e Alcance para o CoAction sobre o baseline de tarefa única em vários problemas (ZDT1, ZDT2, RE24).
  • O backbone Transformer mostrou vantagens significativas sobre o backbone MLP no RE37 e ZDT1/2.

5. Significância e Alegações

O artigo afirma que o CoAction aborda os gargalos de escalabilidade e eficiência dos métodos de PSL existentes em configurações multitarefa. Ao integrar embeddings de tarefa com um codificador Transformer, o framework consegue:

• Aproveitar o Conhecimento entre Tarefas: Ele explora estruturas compartilhadas entre problemas de otimização relacionados, melhorando a generalização e a diversidade de soluções.
• Reduzir o Sobrecarga Computacional: Elimina o escalonamento linear dos custos computacionais associados ao treinamento de modelos separados para cada tarefa.
• Lidar com Geometrias Complexas: O mecanismo de autoatenção prova-se particularmente eficaz para problemas com geometrias de frente de Pareto complexas e de alta dimensão (ex: RE37), onde os backbones tradicionais de MLP têm dificuldade em manter a distribuição de soluções.

Os autores concluem que o CoAction fornece uma abordagem principada e eficaz para a otimização multiobjetivo multitarefa, validando sua utilidade através de tanto problemas de referência quanto aplicações de engenharia do mundo real.