MultiGA: Leveraging Multi-Source Seeding in Genetic Algorithms

1. Problema e Motivação

O artigo aborda a variabilidade de desempenho e as limitações de raciocínio dos Grandes Modelos de Linguagem (LLMs). Embora modelos proprietários (como GPT-5, Gemini) e de código aberto (como LLaMA, Qwen) tenham se tornado poderosos, suas capacidades são desiguais e dependem fortemente de como foram treinados (ajuste de instruções, RLHF, RLAIF).

• Desafio Principal: Em tarefas complexas de raciocínio (como geração de SQL, planejamento logístico ou ciências), não é claro qual modelo único é o melhor para uma tarefa específica. A dependência de um único modelo pode levar a resultados subótimos ou instáveis.
• Limitação Atual: Técnicas de inferência como Self-Refine ou LLMs-as-Judges geralmente operam dentro de um único modelo, limitando o espaço de busca de soluções.

2. Metodologia: O Framework MultiGA

Os autores propõem o MultiGA, um framework de otimização que aplica princípios de Algoritmos Genéticos (AG) ao espaço de soluções de LLMs. A inovação central é o uso de semeadura multi-fonte (multi-source seeding).

O processo segue as etapas abaixo (ilustradas na Figura 1 do artigo):

1. Inicialização da População (Seeding Multi-Fonte):

   • Em vez de gerar a população inicial a partir de um único modelo, o MultiGA amostra respostas de um conjunto diversificado de LLMs heterogêneos (ex: misturando modelos abertos e proprietários).
   • Isso expande o espaço de busca inicial e reduz o viés de distribuição de um único modelo.

2. Avaliação de Aptidão (Fitness):

   • Um modelo avaliador independente ($E$), pertencente a uma família diferente dos geradores, avalia cada candidato.
   • A função de aptidão é híbrida:
     • Fase 1: Comparação direta com a "verdade fundamental" (ground truth) quando disponível (ex: execução de SQL, verificação de restrições).
     • Fase 2: Uso de um "Juiz LLM" para avaliar a adequação semântica e a qualidade do raciocínio quando a verificação automática não é possível.

3. Seleção e Recombinação (Crossover):

   • Os melhores candidatos (top-$k$) são selecionados como pais.
   • Um modelo de recombinação (o mesmo avaliador $E$) sintetiza uma nova solução ("filho") combinando os pontos fortes de dois pais. Diferente de cruzamentos de tokens tradicionais, este operador usa a capacidade generativa do LLM para realizar uma recombinação semântica, integrando lógica e raciocínio.
   • Candidatos com pontuação abaixo de um limiar ($\tau$) são descartados (aposentados).

4. Iteração:

   • O processo repete-se por um número máximo de gerações ($T$) ou até que uma pontuação de aptidão alvo ($\phi$) seja atingida.

3. Contribuições Principais

1. Framework MultiGA: Uma nova arquitetura de otimização genética que utiliza múltiplos LLMs para inicialização e um avaliador independente para refinamento, criando um espaço de soluções mais rico.
2. Validação Empírica: Demonstração de que o MultiGA reduz a dependência de um único modelo. Em três de quatro benchmarks, uma configuração baseada principalmente em modelos de código aberto (MultiGA) superou uma variante semeada apenas pelo GPT-5 e diversos baselines de modelo único.
3. Fundação para Pesquisa Futura: Estabelece a base para explorar como ensembles de modelos heterogêneos (abertos e proprietários) podem melhorar tarefas interdisciplinares onde a seleção do modelo ideal é incerta.

4. Resultados Experimentais

Os autores avaliaram o framework em quatro benchmarks distintos:

• DSQL (Text-to-SQL): O MultiGA alcançou 70,5% de precisão, superando significativamente o baseline do GPT-4 (47,8%) e uma configuração semeada apenas pelo GPT-5 (58,5%). Isso demonstra a capacidade de corrigir erros de alinhamento de esquema através da recombinação.
• DNATPLAN (Planejamento de Reuniões): O modelo semeado apenas pelo GPT-5 obteve o melhor resultado (95,0%), sugerindo que, para tarefas onde um modelo já é excelente, a diversidade pode ter menos impacto ou exigir mais iterações para filtrar soluções fracas. O MultiGA (GA) obteve 88,0%.
• DGPQA (Ciências de Nível de Pós-Graduação): O MultiGA alcançou 95,9% de precisão, superando o baseline do Gemini 1.5 Pro (91,7%). Isso prova que modelos acessíveis, quando combinados via MultiGA, podem atingir desempenho de ponta em raciocínio complexo.
• DBBQ (Avaliação de Viés Social): O MultiGA obteve 96,6% de precisão. No entanto, o estudo revelou que a agregação de modelos mais fracos pode, em alguns casos, reduzir a robustez em tarefas sensíveis a viés, destacando a necessidade de cuidado na seleção da população inicial.

Eficiência: O framework alcançou esses resultados utilizando apenas duas chamadas de modelos pagos para a semeadura inicial, realizando o restante do processo de otimização com modelos mais acessíveis.

5. Significado e Conclusão

O artigo conclui que o MultiGA oferece uma abordagem robusta para mitigar a "fragilidade" (brittleness) e as flutuações de desempenho associadas à seleção de um único LLM.

• Resiliência: O framework não precisa superar o melhor modelo individual em todas as tarefas, mas sim garantir um desempenho próximo ao ótimo de forma consistente, filtrando soluções ruins e amplificando as boas.
• Eficiência de Custo: Permite extrair insights de alto nível de modelos capazes sem a necessidade de executá-los em todo o pipeline de inferência, utilizando-os apenas para a avaliação e recombinação.
• Futuro: O trabalho sugere que a combinação de modelos heterogêneos via algoritmos evolutivos é uma via promissora para tarefas agênticas complexas e workflows multi-etapa, onde diferentes modelos podem contribuir com suas especialidades em diferentes estágios.