Resumo Técnico: MASPO – Otimização Conjunta de Prompts para Sistemas Multi-Agente Baseados em LLM

Declaração do Problema

Sistemas Multi-Agente (MAS) baseados em Modelos de Linguagem de Grande Escala (LLM) demonstraram potencial significativo na resolução de tarefas colaborativas complexas, orquestrando agentes heterogêneos por meio de prompts específicos para cada função. No entanto, a otimização conjunta desses prompts permanece um gargalo crítico. Diferentemente de cenários de agente único, a otimização em MAS envolve um espaço de busca combinatório, onde a optimalidade do prompt de um agente é intrinsecamente dependente dos comportamentos dos demais.

Os métodos existentes de otimização de prompts enfrentam dois desafios principais no contexto de MAS:

1. Desalinhamento Local-Global (Atribuição de Crédito): Em configurações colaborativas, agentes intermediários frequentemente realizam tarefas como raciocínio ou sumarização, em vez de gerar a saída final. Métodos de avaliação padrão, que dependem de rótulos de verdade fundamental (ground-truth), falham em atribuir crédito efetivamente a essas etapas intermediárias. Um agente pode satisfazer perfeitamente suas instruções locais (Validade Local) e, ainda assim, gerar saídas que induzem em erro pares a jusante, causando falha em todo o sistema.
2. Não Estacionariedade e Complexidade da Busca: O acoplamento funcional entre agentes cria uma paisagem de otimização não estacionária. Modificar o prompt de um agente a montante altera o contexto de entrada para agentes a jusante, induzindo deslocamentos de covariáveis que tornam as pontuações de desempenho históricas pouco confiáveis. Além disso, métodos existentes, como Estimadores Parzen de Estrutura Árvore (TPE), são frequentemente restritos à seleção de pools fixos e discretos de candidatos, limitando a otimização aberta e de granularidade fina.

Metodologia: O Framework MASPO

Para abordar esses desafios, os autores propõem o MASPO, um framework projetado para refinar automaticamente e iterativamente os prompts em todo o sistema multi-agente. O framework opera por meio de um loop sistemático que envolve agendamento topológico, geração guiada por rastros, avaliação conjunta e busca em feixe adaptativa.

1. Contexto Topológico e Proposta Guiada por Rastros

O MASPO adota uma estratégia no estilo de ascensão coordenada que respeita as dependências causais do grafo de comunicação dos agentes. Em vez de convergir totalmente um agente antes de passar para o próximo, ele emprega um protocolo de evolução intercalada. Os agentes são otimizados em ordem topológica por um número limitado de gerações ($T$) antes de serem congelados, permitindo que o sistema estabilize a co-adaptação e evite o sobreajuste a montante a comportamentos subótimos a jusante.

Para a geração de prompts, o MASPO utiliza uma abordagem orientada a dados fundamentada em rastros de execução reais, em vez de mutação cega. Um Modelo Otimizador ($M_{opt}$) analisa o mapeamento do contexto de entrada para a saída para propor variações. Crucialmente, o framework emprega Amostragem de Desalinhamento, injetando rastros "negativos difíceis" no processo de geração. Estes são casos históricos em que um agente satisfez objetivos locais, mas falhou em apoiar o sistema global, guiando explicitamente o otimizador a preencher a lacuna entre instruções locais e objetivos globais.

2. Avaliação Conjunta Multigranular

Para resolver o dilema da atribuição de crédito, o MASPO introduz uma função de pontuação composta ($R$) que avalia prompts candidatos em três dimensões:

• Validade Local: Mede se a saída do agente satisfaz restrições específicas da função melhor do que a linha de base.
• Potencial de Antecipação (Lookahead): Uma métrica consciente da topologia que quantifica o "efeito dominó". Avalia se agentes a jusante produzem melhores saídas quando alimentados com o novo contexto gerado pelo agente atual.
• Alinhamento Global: Mede o impacto na resposta final do sistema, capturando dependências de longo alcance.

Este modelo de recompensa conjunta ($R = \alpha \cdot \text{Local} + \beta \cdot \text{Antecipação} + \theta \cdot \text{Global}$) permite que o sistema avalie a utilidade de um agente por meio de sua contribuição para toda a cadeia causal, e não apenas por saídas isoladas.

3. Busca em Feixe Evolutiva com Dinâmica Adaptativa

Para navegar no espaço de prompts de alta dimensão, o MASPO emprega uma Busca em Feixe Guiada por Rastros. Ela mantém um feixe dos $K$ melhores candidatos, acumulando pontuações de recompensa conjunta ao longo do caminho para selecionar os prompts mais robustos.

Uma inovação chave é o Mecanismo de Atualização do Feixe (Beam Refresh). À medida que agentes pares evoluem durante a travessia topológica, a distribuição de entrada para um agente específico se desloca, tornando as pontuações históricas obsoletas. Quando um agente é revisitado em uma nova época, o MASPO descarta as pontuações cumulativas obsoletas e reancora o feixe avaliando candidatos contra o melhor prompt global atual. Isso garante que a busca retome a partir de uma variedade de desempenho válida e atualizada, mitigando efetivamente a não estacionariedade.

Contribuições Principais

O artigo delineia três contribuições primárias:

1. Avaliação Conjunta Multigranular: Uma métrica composta que resolve o dilema da atribuição de crédito ao sinergizar Validade Local, Potencial de Antecipação e Alinhamento Global, capturando o impacto causal completo de um agente dentro da cadeia colaborativa.
2. Busca Generativa Orientada a Desalinhamento: Uma estratégia de busca em feixe explicitamente guiada por "Casos de Desalinhamento" — cenários em que agentes cumprem funções locais, mas induzem falha em todo o sistema. Isso permite que o otimizador diagnostique e corrija rupturas específicas de interação.
3. Dinâmicas de Otimização Adaptativa: Um protocolo de agendamento baseado em ascensão coordenada, aumentado por um mecanismo de Atualização do Feixe. Essas técnicas mitigam a não estacionariedade inerente às interações multi-agente, garantindo que os agentes se adaptem aos comportamentos em evolução de seus pares.

Resultados Experimentais

Os autores avaliaram o MASPO em seis tarefas diversas que abrangem proficiência matemática (MATH-500, AGIEval-MATH, AQuA), raciocínio complexo (GPQA) e geração de código (MBPP, HumanEval-ET). O framework foi testado em arquiteturas MAS Sequenciais e Hierárquicas, utilizando o Qwen3-8B como base, com o Gemini-2.5-pro atuando como otimizador e avaliador.

• Ganhos de Desempenho: O MASPO superou consistentemente as linhas de base mais avançadas, incluindo estratégias de agente único (Vanilla, CoT, Self-Refine) e métodos existentes de otimização multi-agente (TPE, SPO). Ele alcançou uma melhoria média de acurácia de 2,9% sobre as melhores linhas de base de otimização.
• Robustez: O framework demonstrou desempenho agnóstico à topologia, melhorando o MAS Sequencial em 5,06% e o MAS Hierárquico em 2,73% sobre suas respectivas linhas de base.
• Estudos de Ablação: Experimentos confirmaram a necessidade de todos os componentes principais. A remoção do mecanismo de Atualização do Feixe ou da Avaliação Conjunta levou a quedas significativas de desempenho. A análise de sensibilidade revelou que equilibrar Validade Local e Potencial de Antecipação (pesos 0,4/0,4) produziu adaptabilidade superior em comparação com a forte dependência do Alinhamento Global.
• Transferibilidade: Prompts otimizados no Qwen3-8B transferiram-se com sucesso para arquiteturas não vistas (DeepSeek-V3, GLM-4.6, Claude-Sonnet-4, Gemini-2.5-Pro), indicando que o MASPO captura lógica de interação generalizada, em vez de sobreajustar-se a idiossincrasias específicas de modelos.

Significado e Afirmações

O artigo afirma que o MASPO oferece uma solução robusta para o desafio pouco explorado da otimização conjunta de prompts em ambientes multi-agente dinâmicos. Ao ir além do ajuste isolado de agentes, o MASPO efetivamente preenche a lacuna entre interações locais e resultados globais, sem depender de rótulos de verdade fundamental para etapas intermediárias.

Os autores enfatizam que sua abordagem é particularmente significativa para:

• Resolver o Problema de Atribuição de Crédito: Fornecer um mecanismo para avaliar agentes intermediários com base em sua utilidade a jusante, e não apenas na correção final.
• Gerenciar Não Estacionariedade: Introduzir um mecanismo dinâmico de atualização que mantém o processo de otimização estável, apesar das distribuições de entrada em deslocamento causadas por agentes pares.
• Aplicabilidade Prática: Demonstrar que alto desempenho pode ser alcançado com um pequeno pool de amostras não rotuladas (50 instâncias), tornando o framework computacionalmente eficiente e adequado para implantações com recursos limitados ou sensíveis à privacidade.

O trabalho sugere que pesquisas futuras em sistemas de IA colaborativa devem focar na especialização dinâmica de funções e na otimização arquitetural, com o MASPO servindo como um passo fundamental em direção a sistemas multi-agente automatizados e de autoaperfeiçoamento.