Resumo Técnico: DEI – Diversidade na Inferência Evolutiva para Busca de Qualidade-Diversidade

1. Declaração do Problema

Algoritmos evolutivos tradicionalmente dependem de operadores de mutação para explorar espaços de soluções. Embora os Modelos de Linguagem de Grande Escala (LLMs) tenham surgido como operadores criativos eficazes, capazes de mutação semântica e geração de programas, as abordagens distribuídas existentes para busca baseada em LLM frequentemente tratam a escalabilidade como um problema puramente computacional, e não cognitivo.

Os métodos atuais, como o FunSearch, geralmente implantam ensembles homogêneos onde múltiplos trabalhadores chamam o mesmo modelo de LLM. Nessas configurações, a diversidade surge exclusivamente da amostragem estocástica dentro de um único viés indutivo. Consequentemente, "pontos cegos" na distribuição generativa de um modelo tornam-se lacunas permanentes no arquivo de busca. Além disso, frameworks existentes, como a Rainha Vermelha Digital (DRQ), introduzem pressão adversarial, mas frequentemente operam em um contexto de nó único e modelo único. O desafio abordado por este artigo é como aproveitar os vieses indutivos distintos de LLMs heterogêneos para impulsionar a busca de Qualidade-Diversidade (QD) de forma mais eficaz do que o paralelismo homogêneo, ao mesmo tempo em que se gerenciam as complexidades de nível de sistema da latência heterogênea sem gargalos de sincronização.

2. Metodologia

2.1. Framework Central: DEI

Os autores propõem o DEI (Diversidade na Inferência Evolutiva), um framework de busca QD distribuída que atribui LLMs heterogêneos como operadores de mutação em nós pares. Diferentemente da busca paralela homogênea, o DEI trata os dados de treinamento e o alinhamento únicos de cada LLM como uma fonte complementar de novidade comportamental.

O sistema estende o framework Rainha Vermelha Digital (DRQ), que integra LLMs ao MAP-Elites (um algoritmo QD canônico). No DRQ, a pressão da "Rainha Vermelha" é gerada ao usar campeões de rodada (soluções de maior aptidão) como oponentes para rodadas subsequentes, criando uma corrida armamentista co-evolutiva. O DEI adapta isso por meio de:

1. Atribuição Heterogênea: Cada nó no grafo distribuído recebe um LLM distinto (por exemplo, GPT-5.4-mini, Claude Sonnet 4.6, etc.).
2. Pressão Adversarial Cross-Modelo: Nós compartilham seus campeões locais com pares. Esses campeões atuam como oponentes para outros nós, introduzindo estratégias que um modelo específico nunca geraria internamente.
3. Sementeamento de Arquivo: Campeões recebidos são semeados no arquivo local se ocuparem células comportamentais previamente vazias, facilitando a polinização cruzada de nichos.

2.2. Arquitetura do Sistema e Comunicação Assíncrona

Uma contribuição crítica de sistemas é o tratamento da latência heterogênea. Os nós podem variar de modelos locais de peso aberto (por exemplo, Qwen-35B em Apple Silicon) a modelos de fronteira em nuvem, resultando em latências de chamada que diferem por uma ordem de magnitude.

Para evitar limitar todo o ensemble à velocidade do nó mais lento, o DEI emprega uma camada de comunicação coletiva totalmente assíncrona:

• Gossip Não Bloqueante: Nós publicam seus campeões de rodada para pares imediatamente após a conclusão.
• Progresso Independente: Pares consomem campeões recebidos em seu próprio ritmo.
• Sem Barreiras de Sincronização: Não há barreiras globais; os nós avançam independentemente, esvaziando buffers de recebimento para atualizar seus pools locais de oponentes e arquivos.

2.3. Configuração Experimental

O framework é avaliado no Core War, um benchmark de programação competitiva onde programas "guerreiros" escritos em assembly Redcode batalham em um array de memória simulado (MARS).

• Características Comportamentais (BC): O espaço de busca é discretizado usando Produto Tempo-Espaço (tamanho do código $\times$ vida útil) e Cobertura de Memória (fração do núcleo tocada).
• Aptidão: Avaliada contra um pool de oponentes incluindo guerreiros autorados por humanos e campeões de rodada.
• Condições:
  • Solo: Linha de base DRQ de nó único.
  • Ensemble Homogêneo: Quatro nós executando o mesmo LLM.
  • Ensemble Diverso: Quatro nós executando LLMs diferentes (GPT-5.4-mini, Claude Sonnet 4.6, GPT-5.2, Claude Haiku 4.5).
• Controle: Todas as condições são estritamente orçadas para um número total igual de chamadas de LLM (por exemplo, 4 nós $\times$ 62 iterações $\approx$ 1 nó $\times$ 250 iterações).

3. Contribuições Principais

1. Framework DEI: Um sistema de busca QD distribuída que explora explicitamente ensembles heterogêneos de LLMs como operadores de mutação, atribuindo modelos distintos a nós distintos para maximizar a cobertura comportamental.
2. Integração de Gossip Assíncrono: Um protocolo de comunicação que permite a participação de hardware heterogêneo sem barreiras de sincronização, alcançando maior vazão do que abordagens síncronas.
3. Isolamento Empírico da Diversidade: Ao manter o orçamento total de computação constante, os autores demonstram que os ganhos de desempenho são impulsionados pela diversidade de modelos e não por computação adicional.
4. Pressão Adversarial Cross-Modelo: A introdução de campeões de diferentes famílias de modelos como oponentes, impulsionando robustez além do auto-jogo intra-modelo.

4. Resultados

Avaliado no domínio Core War, o ensemble heterogêneo demonstrou melhorias significativas em relação tanto às linhas de base de nó único quanto aos ensembles homogêneos:

• Pontuação QD: O ensemble diverso alcançou uma Pontuação QD de arquivo fundido +124% maior (45,90 vs. 20,46) em comparação com a linha de base de nó único.
• Cobertura: O ensemble diverso cobriu +28% mais células (80,6% vs. 63,0%) do espaço comportamental do que a linha de base.
• Generalidade: Em todas as quatro famílias de modelos testadas, a colaboração diversa alcançou maior generalidade (desempenho contra um conjunto retido de guerreiros humanos) do que a colaboração homogênea ou operação solo.
• Novidade de Nicho: A métrica $\eta$ (fração de campeões recebidos que aterrissam em células previamente vazias) foi significativamente maior em ensembles diversos, confirmando que os pares estão preenchendo lacunas que modelos individuais não conseguem alcançar.
• Comparação com Ensembles Homogêneos: O ensemble diverso superou o ensemble homogêneo com orçamento igual em Pontuação QD, cobertura e generalidade. Notavelmente, enquanto o ensemble homogêneo às vezes alcançou maior aptidão por célula (concentrando-se em nichos específicos), o ensemble diverso forneceu a cobertura mais ampla do espaço de soluções.

5. Significado e Alegações

O artigo alega fornecer a primeira evidência empírica de que a diversidade de modelos, e não o mero paralelismo, é o principal motor de ganho na busca QD distribuída baseada em LLM.

• Escalonamento Cognitivo: Os autores argumentam que o escalonamento da busca por LLM deve ser visto como "cognição paralela". Ao atribuir vieses indutivos distintos a diferentes nós, o sistema cobre um espaço comportamental maior do que qualquer modelo único poderia alcançar sozinho.
• Robustez: A pressão adversarial cross-modelo cria um processo evolutivo mais robusto, prevenindo o estagnamento que pode ocorrer quando os vieses de um único modelo dominam a busca.
• Democratização: A arquitetura assíncrona permite que pesquisadores com recursos limitados (por exemplo, executando modelos locais de peso aberto) contribuam para a busca colaborativa ao lado de modelos de fronteira sem serem gargalados por diferenças de latência.

Os autores mantêm modéstia quanto ao escopo de suas descobertas, observando que, embora a intuição teórica sugira aplicabilidade a outros domínios, seus resultados empíricos estão estritamente confinados ao domínio Core War. Eles identificam trabalhos futuros em topologias adaptativas, eixos comportamentais heterogêneos por nó e extensão para tarefas colaborativas multiagente.