Squeeze Evolve: Unified Multi-Model Orchestration for Verifier-Free Evolution

Título: SQUEEZE EVOLVE: Orquestração Unificada Multi-Modelo para Evolução sem Verificador

1. O Problema

A evolução de modelos de linguagem (LLMs) no tempo de inferência (test-time scaling) é uma estratégia promissora para melhorar o raciocínio, onde modelos iterativamente refinam soluções através de seleção, mutação e recombinação. No entanto, dois gargalos principais limitam a eficácia e a viabilidade econômica dessa abordagem, especialmente em cenários sem verificador externo (verifier-free):

1. Colapso de Diversidade: Sem um verificador externo para corrigir erros, a evolução repetida tende a convergir para modos estreitos de soluções, reduzindo a diversidade semântica e degradando o desempenho máximo (pass@K) ao longo das iterações.
2. Ineficiência de Custo: Métodos existentes frequentemente utilizam um único modelo de alto custo (e alto desempenho) para todas as etapas do processo evolutivo. Isso desperdiça recursos computacionais, pois nem todas as etapas (como a agregação de candidatos fáceis) exigem a capacidade de um modelo de ponta. Além disso, a geração de tokens em métodos evolutivos pode ser centenas de vezes maior que a inferência padrão, tornando o custo proibitivo.

O desafio central é: Como alcançar um nível de capacidade específico sob restrições orçamentárias rigorosas, mantendo a diversidade e a eficiência?

2. Metodologia: SQUEEZE EVOLVE

O SQUEEZE EVOLVE introduz um framework unificado de orquestração multi-modelo que aloca capacidade de modelo onde a utilidade marginal é mais alta. A abordagem baseia-se em três pilares principais:

• Framework Evolutivo Unificado: O trabalho formaliza métodos de test-time scaling existentes (como Majority Voting, Self-Refinement, RSA e AlphaEvolve) como instâncias de um único operador evolutivo $\Phi_f = \text{recomb} \circ \text{select}$. Isso permite otimizar o pipeline como um todo.
• Roteamento Baseado em Confiança (Confidence-Based Routing):
  • O sistema utiliza sinais intrínsecos do modelo (probabilidades de logits ou diversidade de respostas) como proxy de "fitness" (qualidade da solução).
  • Mecanismo: Para cada grupo de candidatos a serem recombinados, o sistema calcula uma métrica de confiança (ex: Group Confidence baseada em log-probs ou diversidade de respostas).
  • Alocação:
    • Grupos de Alta Confiança (Fáceis): São roteados para modelos mais baratos e rápidos (Modelo 1) ou agregados por métodos leves (ex: votação majoritária).
    • Grupos de Baixa Confiança (Difíceis): São roteados para modelos mais caros e capazes (Modelo 2) para garantir a qualidade da recombinação.
  • Isso permite que modelos menores lidem com a maioria das tarefas de agregação, enquanto modelos grandes são reservados apenas para os passos de maior impacto.
• Inicialização de Alta Qualidade: A análise empírica mostra que a qualidade da população inicial (gerada pelo modelo mais forte) é o fator dominante para a precisão final. O SQUEEZE EVOLVE garante que a etapa de inicialização seja sempre feita pelo modelo mais capaz.
• Implementação de Sistema Otimizada:
  • Pool de GPUs com Latência Casada: O sistema divide o orçamento de GPU em dois pools (um para o modelo grande, outro para o pequeno) dimensionados para que ambos concluam suas tarefas no mesmo tempo de wall-clock, evitando gargalos.
  • Motor de Confiança Personalizado: Uma implementação otimizada no vLLM que calcula a pontuação de confiança diretamente na GPU sem materializar tensores completos de log-probs, reduzindo a latência de pontuação em 4–10x e o uso de memória.

3. Contribuições Principais

1. Unificação Teórica e Prática: Unifica métodos de escalonamento no tempo de inferência em um único framework evolutivo e identifica a orquestração multi-modelo como a chave para resolver o colapso de diversidade e a ineficiência de custos.
2. Mecanismo de Roteamento Leve: Apresenta um mecanismo de roteamento que usa apenas sinais já produzidos durante a inferência (confiança intrínseca) para decidir qual modelo processar cada grupo de recombinação, sem necessidade de verificadores externos treinados.
3. Desempenho Superior com Custo Reduzido: Demonstra que é possível superar ou igualar a precisão de modelos únicos caros, reduzindo os custos de API em 1,3x a 3,3x e aumentando a vazão (throughput) em até 10x sob um orçamento fixo.
4. Descoberta Científica sem Verificador: É o primeiro método evolutivo verifier-free a igualar ou superar métodos baseados em verificador (como o AlphaEvolve) em tarefas de descoberta científica (empacotamento de círculos), provando que sinais de confiança podem substituir verificadores externos em certos contextos.
5. Eficiência Multimodal: Demonstra que, em tarefas visuais, um modelo de texto barato (que não processa imagens após a inicialização) pode substituir modelos multimodais caros na fase de agregação, economizando até 2,7x em custos sem perda de desempenho.

4. Resultados Empíricos

O framework foi avaliado em 8 benchmarks abrangendo matemática, codificação, visão, raciocínio visual e descoberta científica:

• Matemática e Codificação (AIME 2025, HMMT 2025, GPQA-Diamond, LiveCodeBench V6):
  • Redução de custos de 1,4x a 2,0x em pares homogêneos (open-source + open-source) e 1,4x a 3,3x em pares heterogêneos (open-source + proprietário).
  • Em alguns casos (ex: AIME 2025 com GPT-OSS), o SQUEEZE EVOLVE superou o modelo mais forte usado isoladamente.
• Tarefas Visuais (MMMU-Pro, BabyVision):
  • No MMMU-Pro, um par heterogêneo (Modelo 1 apenas texto + Modelo 2 visão) superou o modelo de visão completo com 2,7x de economia.
  • Isso confirma que a compreensão visual é crítica apenas na inicialização; a agregação subsequente pode ser feita por modelos de texto.
• Raciocínio Abstrato (ARC-AGI-V2):
  • Alcançou 97,5% de precisão a um custo de $7,74/tarefa, superando o estado da arte anterior (que usava execução de código e custava ~$11,77/tarefa).
• Descoberta Científica (Circle Packing):
  • Alcançou uma pontuação de 2.635896, comparável ao melhor framework evolutivo (ShinkaEvolve) e superando o AlphaEvolve, sem executar programas gerados durante a evolução (puramente verifier-free).

5. Significado e Impacto

O SQUEEZE EVOLVE representa uma mudança de paradigma na forma como pensamos sobre o escalonamento de inferência em LLMs. Em vez de apenas "jogar mais dinheiro e computação" em um único modelo, o trabalho demonstra que a alocação inteligente de recursos entre modelos de diferentes capacidades é a chave para a eficiência econômica.

• Viabilidade Econômica: Torna a evolução de modelos viável para aplicações em larga escala, reduzindo drasticamente o custo por tarefa.
• Acesso Democratizado: Permite que sistemas baseados em modelos open-source ou modelos menores compitam com soluções proprietárias de ponta em tarefas complexas.
• Fim da Dependência de Verificadores: Mostra que, com a orquestração correta, é possível realizar evolução robusta e de alta qualidade sem a necessidade de verificadores externos caros ou lentos, abrindo caminho para aplicações em domínios onde a verificação é impossível (ex: pesquisa de fusão nuclear, design de novos materiais).

Em resumo, o SQUEEZE EVOLVE desloca a fronteira custo-capabilidade para a esquerda, permitindo que sistemas de IA alcancem níveis de desempenho de ponta com uma fração do custo computacional tradicional.