DarwinX: Evolving Agent Harnesses Through Natural Selection
A DarwinX introduz uma estrutura de seleção natural baseada em população que evolui suportes de agentes de LLM através de um contrato de preservar-e-estender e recombinação, alcançando ganhos de desempenho significativos e generalizáveis em diversos benchmarks sem regredir em tarefas existentes ou exigir o retreinamento do modelo.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você tem um robô incrivelmente inteligente, mas ele está preso em uma caixa de vidro. Você não pode mudar o cérebro dele e não pode ensiná-lo novos fatos. Ele está congelado no tempo. No entanto, você precisa que ele resolva mil problemas diferentes, desde consertar um código quebrado até navegar em um site. Como você o torna melhor? No mundo da inteligência artificial, este é o desafio do "agente". Um agente não é apenas o cérebro (o modelo); é também o "harness" (o suporte ou arreio) — o conjunto de instruções, ferramentas e regras que dizem ao cérebro como agir. Pense no cérebro como um chef de cozinha brilhante que conhece todas as receitas do mundo, mas o suporte é a própria cozinha. Se a cozinha estiver bagunçada, o chef deixa cair ingredientes ou queima a sopa, não importa o quão talentoso ele seja. Cientistas têm tentado construir cozinhas autoaperfeiçoáveis, mas a maioria das tentativas é como um único chef tentando consertar sua própria estação enquanto cozinha. Eles frequentemente resolvem um problema (como picar cebolas mais rápido) mas acidentalmente quebram outro (como esquecer de desligar o fogão).
Apresentamos o DarwinX, uma nova abordagem da Salesforce AI Research que trata a melhoria de um agente de IA como a execução de um enorme experimento de seleção natural em uma placa de Petri. Em vez de um único chef tentando consertar tudo sozinho, o DarwinX cria toda uma população de diferentes configurações de cozinha. Ele permite que tentem novas ferramentas e instruções, mas com uma regra estrita: você só pode manter uma configuração nova se ela resolver um novo problema sem quebrar nenhum dos antigos. É como um jogo de "sobrevivência do mais apto", onde os mais aptos não são aqueles que têm apenas sorte, mas aqueles que conseguem fazer mais sem estragar o que já sabiam. O artigo sugere que, ao congelar o cérebro da IA e evoluir apenas esses "suportes de cozinha", o sistema consegue aprender a resolver tarefas complexas muito melhor, mesmo em enigmas que nunca viu antes.
A Evolução do Cinto de Ferramentas Perfeito
Os pesquisadores por trás do DarwinX fizeram uma pergunta simples: E se parássemos de tentar retreinar o cérebro da IA e focássemos inteiramente em evoluir as ferramentas e instruções que ela usa? Eles chamam isso de "harness" (suporte). Isso inclui os prompts (as instruções), as ferramentas (como uma calculadora ou um navegador web) e o fluxo de controle (as etapas que a IA segue).
Para testar isso, eles montaram uma placa de Petri digital. Eles pegaram um modelo de IA poderoso e congelaram seu cérebro completamente. Então, criaram uma população de diferentes "harnesses" (diferentes conjuntos de instruções e ferramentas) e deixaram que evoluíssem. Veja como a mágica aconteceu:
1. O Contrato "Preservar-e-Estender"
Imagine que você é um jardineiro. Você tem uma planta que produz tomates perfeitos. Você quer fazer com que ela cresça morangos também. Um jardineiro ruim pode tentar forçar a planta a crescer morangos e acidentalmente matar os tomates. O DarwinX usa uma regra estrita chamada contrato "preservar-e-estender". Uma nova versão do suporte só é permitida a sobreviver se resolver uma nova tarefa (como cultivar morangos) sem regredir nas tarefas antigas (os tomates ainda devem estar perfeitos). Se uma nova ideia resolve um problema mas quebra outro, ela é cortada do jardim. Isso garante que a IA melhore cada vez mais sem esquecer o que já sabia fazer.
2. O Arquivo de "E se..."
Em muitos experimentos de evolução, se um caminho leva a um beco sem saída, você o joga fora. O DarwinX é diferente. Ele mantém um arquivo de cada variante, mesmo aquelas que falharam no geral. Por quê? Porque um harness que "falhou" pode ter um único truque brilhante que resolve um problema específico. Ao manter esses "perdedores" no arquivo, o DarwinX pode, mais tarde, misturar e combinar esses elementos. É como perceber que uma tentativa fracassada de construir uma ponte teve uma ótima ideia para um cabo de suspensão. Ao combinar esse cabo com um design de ponte diferente, você obtém uma superponte. Essa "recombinação" permite que o sistema construa habilidades complexas unindo as melhores partes de diferentes linhagens.
3. Os Três Tipos de Pistas
Como o sistema sabe o que mudar? Ele utiliza três tipos de pistas, tudo isso sem tocar no cérebro da IA:
- Pistas de Falha: Quando a IA falha, o sistema analisa o porquê e sugere uma correção.
- Pistas de Professor: Se um humano ou uma IA mais forte mostra o caminho correto, o sistema copia esse método.
- Auto-pistas: O sistema compara suas próprias tentativas bem-sucedidas com suas falhas para entender a diferença.
Essas pistas são transformadas em pequenas edições no suporte, como mudar um prompt ou adicionar uma nova ferramenta.
Os Resultados: Um Cérebro Congelado, Um Supercérebro
Os pesquisadores testaram isso em quatro desafios diferentes, indo do fácil ao muito difícil. Os resultados foram surpreendentemente fortes, sugerindo que um modelo congelado pode se tornar um agente muito mais capaz apenas evoluindo seu suporte.
- O Terminal Bench (Tarefas de Programação): Em um conjunto de 89 tarefas de programação, o suporte evoluído aumentou a taxa de sucesso de 75,5% para 83,2% em um modelo GPT-5.5. Em um modelo GPT-5.6 mais forte, atingiu 84,7%, igualando ou superando os melhores agentes existentes no mundo, embora o próprio cérebro nunca tenha mudado. O artigo observa que a IA não teve apenas "sorte"; ela aprendeu a dedicar mais tempo e esforço exatamente nas tarefas em que estava tendo dificuldades, dobrando as tentativas nos problemas mais difíceis enquanto deixava os fáceis de lado.
- O Teste de "Generalização" (Held-Out): Eles então testaram o agente evoluído em 41 novas tarefas que ele nunca tinha visto antes. O suporte evoluído resolveu 68,3% delas, superando todos os outros agentes prontos (off-the-shelf) que testaram. Isso sugere que a IA aprendeu habilidades gerais, não apenas memorizou respostas.
- O Salto "Sintético-para-Real": Em um teste baseado em navegador chamado WebArena-Infinity, o sistema evoluiu em 300 tarefas sintéticas falsas e depois foi testado em 1.260 tarefas do mundo real. A taxa de sucesso saltou de 43,5% para 93,0%. Isso é enorme porque significa que a IA aprendeu a usar um navegador corretamente, não apenas a contornar restrições específicas de teste. Os pesquisadores auditaram os resultados e descobriram que o agente evoluído parou de "burlar restrições" (como tentar hackear o teste) e começou a fazer as coisas legitimamente.
- A Transferência entre Benchmarks: Finalmente, eles pegaram o suporte evoluído para tarefas de programação e o usaram em um benchmark completamente diferente chamado SWE-bench Verified (engenharia de software). Sem qualquer novo treinamento, ele obteve 84,2%, provando que as habilidades aprendidas eram transferíveis para novos tipos de problemas.
O Que Mudou? A Habilidade de "Verificação"
O artigo investiga o que realmente mudou no cérebro da IA (bem, no seu suporte). Descobriu-se que a IA não aprendeu novos fatos sobre matemática ou história. Em vez disso, ela aprendeu uma família de habilidades relacionadas à verificação e contratos.
Antes, a IA muitas vezes chutava uma resposta e esperava que estivesse certa. A IA evoluída aprendeu a:
- Criar um contrato: Antes de terminar uma tarefa, ela define exatamente o que uma resposta "correta" parece ser.
- Verificar seu trabalho: Ela executa ferramentas para verificar sua saída contra esse contrato.
- Corrigir erros: Se falhar na verificação, ela retorna ao ciclo e tenta novamente.
Este "pacote de verificação" foi o que permitiu à IA enfrentar tarefas difíceis de várias etapas, como configurar ambientes de software complexos ou navegar em um site sem se perder. É a diferença entre um aluno que chuta a resposta e um que revisa seu trabalho.
A Conclusão
O DarwinX sugere que nem sempre precisamos de cérebros maiores e mais inteligentes para tornar a IA melhor. Às vezes, só precisamos evoluir as instruções e as ferramentas que ela usa. Ao tratar o "suporte" da IA como algo vivo que pode ser selecionado, arquivado e recombinado, os pesquisadores criaram um agente que é mais confiável, mais capaz e menos propenso a burlar restrições. O artigo enfatiza que esses ganhos são reais e mensuráveis, não apenas simulações, e se mantêm mesmo quando a IA enfrenta tarefas que nunca viu antes. É um lembrete de que, às vezes, a melhor maneira de tornar um gênio mais inteligente é dar a ele um melhor conjunto de ferramentas e ensinar como usá-las.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.