🤖 AI

The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows

O artigo apresenta o ReASearch, um framework unificado onde um único agente orientado pelo raciocínio gerencia autonomamente todo o processo de otimização para prompts, programas e fluxos de trabalho de ML, internalizando efetivamente políticas de busca complexas e superando sistemas especializados em diversas tarefas.

Autores originais: Junbo Li, Boyi Liu, Canwen Xu, Yite Wang, Yuxiong He, Zhangyang Wang, Qiang Liu, Zhewei Yao

Publicado 2026-08-10

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Junbo Li, Boyi Liu, Canwen Xu, Yite Wang, Yuxiong He, Zhangyang Wang, Qiang Liu, Zhewei Yao

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando ensinar um robô a resolver um quebra-cabeça, escrever um poema ou treinar um personagem de videogame para vencer. No mundo da inteligência artificial, isso é chamado de "otimização". Geralmente, os humanos atuam como treinadores rigorosos na lateral do campo. Eles projetam um plano de jogo rígido: "Tente isto, depois tente aquilo, então, se falhar, volte e tente algo diferente". O robô (um grande modelo de linguagem) é apenas o jogador, seguindo cegamente ordens para fazer pequenas mudanças enquanto o treinador humano decide a grande estratégia. Mas e se o robô pudesse ser o treinador também? E se ele pudesse olhar para o placar, entender por que perdeu, decidir mudar as regras do jogo ou até perceber que está travado e precisar de uma abordagem completamente nova — tudo por conta própria? Este artigo explora exatamente essa questão: Pode um único agente de IA aprender a gerenciar sua própria busca pela melhor solução, sem um roteiro escrito por humanos dizendo como pensar?

Os pesquisadores por trás deste estudo, publicado na conferência COLM 2026, introduzem um novo sistema chamado ReASearch. Pense nisso como entregar ao robô um canivete suíço em vez de apenas um martelo. No passado, os otimizadores de IA eram como uma linha de montagem de fábrica com uma esteira fixa: um algoritmo projetado por humanos decidia qual solução candidata testar a seguir, quanto tempo gastar e quando desistir. O único trabalho da IA era sussurrar uma pequena edição para a solução atual. O ReASearch inverte esse roteiro. Ele dá ao agente de IA um conjunto de ferramentas — como um interpretador Python para executar código, um arquivo de memória para lembrar erros passados e a capacidade de realizar experimentos — e então deixa o agente decidir tudo. O agente pergunta a si mesmo: "Devo testar esta ideia em uma pequena amostra primeiro? Eu acabei de cometer o mesmo erro duas vezes? Devo descartar meu plano atual e voltar para um plano melhor que tentei anteriormente?". O agente não está apenas adivinhando; ele está raciocinando através do processo, construindo uma estratégia conforme avança.

A equipe testou este agente de "autocoach" em 14 desafios diferentes, que variam desde o ajuste de comandos de texto para torná-los mais inteligentes até a evolução de programas de computador para resolver enigmas matemáticos e até a otimização de fluxos de trabalho de treinamento de aprendizado de máquina. Os resultados foram surpreendentemente fortes. Em muitos casos, o ReASearch superou sistemas especializados que foram construídos por especialistas humanos com regras específicas e codificadas. Por exemplo, em uma tarefa chamada "Circle Packing" (ajustar círculos dentro de um quadrado da forma mais apertada possível), o agente descobriu soluções que foram melhores do que os melhores resultados já encontrados por humanos anteriormente. Em outras tarefas, ele melhorou o desempenho em uma margem de 2% a impressionantes 40%.

O que é verdadeiramente fascinante é como o agente fez isso. Os pesquisadores descobriram que o agente naturalmente começou a agir como um cientista experiente ou um mestre de xadrez, embora ninguém tenha lhe dito para fazer isso. Ele começou a "verificar duas vezes" ideias promissoras antes de se comprometer com elas. Aprendeu a "reverter" para versões anteriores e mais seguras de uma solução quando um novo caminho levava a um beco sem saída. Começou a manter um diário de "lições aprendidas" para evitar repetir os mesmos erros. Mais impressionante ainda, ele percebeu que, às vezes, é necessário combinar duas técnicas diferentes para resolver um problema, uma descoberta que geralmente exige profunda percepção humana. O artigo sugere que, quando você dá à IA as ferramentas certas e permite que ela raciocine através do processo, ela pode internalizar estratégias de busca complexas que anteriormente pensávamos precisar de um algoritmo projetado por humanos para gerenciar. Acontece que o otimizador não precisa ser um controlador separado e rígido; o otimizador pode ser o próprio agente.

Resumo Técnico: O Otimizador é o Agente (ReASearch)

Definição do Problema

A otimização de artefatos baseados em texto — especificamente prompts de sistema, programas e fluxos de trabalho de aprendizado de máquina (ML) — continua sendo um desafio central na IA moderna. Abordagens tradicionais geralmente dependem de controladores algorítmicos externos, projetados à mão (ex: busca evolucionária, bandits, otimização Bayesiana ou gradientes textuais) para gerenciar a política de busca. Nesses frameworks, os Grandes Modelos de Linguagem (LLMs) funcionam meramente como "mutadores" ou "geradores de propostas" sem estado, que executam edições locais dentro de um loop rígido e pré-definido. Os autores postulam que essa separação deixa uma questão fundamental sem resposta: Quanto da política de busca pode ser internalizada por um único agente de raciocínio?

Metodologia: ReASearch

O artigo introduz o ReASearch (Reasoning-driven Agentic Search), um framework unificado e "leve em termos de controle" que coloca um agente de LLM que utiliza ferramentas totalmente no comando do loop de otimização. Em vez de depender de uma meta-heurística matemática externa para ditar a exploração, alocação de orçamento e seleção de candidatos, o ReASearch expõe todo o processo de otimização como um conjunto de ferramentas que o agente invoca autonomamente.

Arquitetura Central

Loop de Agente Unificado: O sistema emprega um scaffold de agente agnóstico à tarefa. O agente recebe um prompt de sistema contendo orientação de domínio e o estado atual da otimização, juntamente com seu histórico de interação.
Interface Baseada em Ferramentas: Todas as operações de otimização são empacotadas como ferramentas. O agente decide qual ferramenta invocar a seguir com base em seu raciocínio. As ferramentas principais incluem:
- Execução e Análise: python_exec permite que o agente escreva scripts de análise, compute estatísticas e diagnostique padrões de falha programaticamente.
- Avaliação: Ferramentas específicas de domínio (ex: validate_candidate, run_experiment, evaluate) permitem que o agente teste hipóteses.
- Edição: Ferramentas como edit_code ou edit_train_file direcionam mudanças para sub-agentes para manter o contexto do agente principal limpo.
- Memória: Um arquivo lessons.md persistente e mecanismos de compressão de contexto permitem que o agente retenha insights de longo horizonte (o que funcionou, o que falhou e o que tentar a seguir) através das janelas de contexto.
Adaptação de Domínio: O mesmo scaffold de agente é aplicado a três domínios distintos, alterando apenas as ferramentas disponíveis e o prompt de sistema:
1. Otimização de Prompt: O agente amostra adaptativamente minibatches de treinamento, avalia candidatos em conjuntos de validação (com métricas agregadas para evitar overfitting) e diagnostica modos de falha.
2. Evolução de Programas: O agente modifica iterativamente códigos para problemas difíceos de instância única (ex: ARC-AGI-2, empacotamento de círculos), usando sub-agentes para edição de código e verificação, enquanto mantém um contexto de raciocínio persistente para formação de hipóteses.
3. Otimização de Fluxo de Trabalho de ML: O agente modifica scripts de treinamento, executa experimentos com tempo limitado e analisa curvas de treinamento para diagnosticar gargalos (ex: cronogramas de taxa de aprendizado, escolhas de arquitetura, regularização).
Comportamentos Emergentes: O artigo observa que comportamentos de busca complexos, tipicamente implementados por controladores explícitos, emergem naturalmente do processo de raciocínio do agente sem serem codificados:
- Dupla-Verificação: Rechecar ganhos promissores em amostras adicionais antes de se comprometer com uma validação dispendiosa.
- Revisão Baseada em Hipóteses: Formar hipóteses estruturais baseadas em evidências acumuladas e testá-las.
- Recuperação Baseada em Reversão: Reverter deliberadamente para ramos anteriores conhecidos como bons quando um caminho falha, em vez de continuar cegamente.
- Exploração Adaptativa: Ajustar estratégias de busca com base em restrições de orçamento e variância observada.

Principais Contribuições

Framework Unificado: O ReASearch trata a otimização baseada em texto como um problema de raciocínio sequencial, demonstrando que um único design de agente pode otimizar prompts, programas e fluxos de trabalho de ML.
Ganhos de Desempenho: Em 14 tarefas diversas, o ReASearch consistentemente iguala ou supera sistemas especializados de última geração (ex: GEPA, AdaEvolve, Claude Code) dentro dos mesmos orçamentos computacionais. Os ganhos variam de 2% a 40% sobre bases fortes de domínio específico.
Descoberta de Nível Humano: Em tarefas específicas como Circle Packing e problemas de Triângulo de Heilbronn, o ReASearch descobriu soluções que melhoraram os melhores resultados humanos conhecidos anteriormente.
Lógica de Busca Internalizada: O trabalho demonstra que agentes de fronteira que utilizam ferramentas podem internalizar uma fração substancial da lógica de busca anteriormente delegada a meta-heurísticas matemáticas externas, incluindo verificação de candidatos, diagnóstico causal e exploração adaptativa.

Resultados Experimentais

Os autores avaliaram o ReASearch contra bases especializadas em três categorias:

Otimização de Prompt: No AIME, GSM8K, HotpotQA e Terminal-Bench 2.0, o ReASearch superou o GEPA. Por exemplo, no Terminal-Bench 2.0, alcançou 53,33% de precisão comparado aos 42,22% do GEPA. O agente construiu com sucesso entendimentos de tarefas estruturados e selecionou prompts finais baseados no histórico total de otimização, em vez de apenas nos picos de pontuação de validação.
Evolução de Programas:
- Circle Packing: O ReASearch alcançou resultados (ex: 2.940 para $n=32$ ) que igualaram ou superaram ligeiramente os melhores resultados humanos conhecidos (2.939), superando significativamente o AdaEvolve.
- Triângulo de Heilbronn: O agente identificou simetrias matemáticas (simetria D4) para colapsar o espaço de busca, alcançando resultados quase ótimos (0.03260 para $n=12$ ) onde as bases falharam.
- ARC-AGI-2: O ReASearch alcançou 50,0% de precisão de teste (Sonnet 4.6), uma melhoria de 4x sobre os 12,5% do AdaEvolve, ao usar análise iterativa para deduzir regras de transformação em vez de busca de força bruta.
Otimização de Fluxo de Trabalho de ML: Comparado ao Claude Code (configuração AutoResearch), o ReASearch mostrou vantagens claras no IMG-100 (83,99% vs 78,59%), Atari Q*bert (4500 vs 1250 de recompensa) e MuJoCo (5267 vs 3986 de recompensa). Notavelmente, em uma tarefa de previsão de cripto do Kaggle, o ReASearch melhorou o ranking no leaderboard de 36º para 6º em 15 experimentos, enquanto a base estagnou.

Significância e Alegações

O artigo argumenta que o raciocínio não serve apenas para resolver tarefas, mas pode ser, por si só, um poderoso motor para busca aberta. A significância do ReASearch reside na sua demonstração de que o "otimizador" não precisa ser um controlador algorítmico separado e projetado à mão. Em vez disso, um único agente impulsionado pelo raciocínio, equipado com as ferramentas apropriadas, pode internalizar políticas de busca complexas — como gestão de orçamento, diagnóstico de falhas e adaptação de estratégia — que anteriormente eram domínio de meta-heurísticas externas.

Os autores afirmam que esta abordagem oferece um paradigma mais flexível e potencialmente mais poderoso para otimização, onde a capacidade do agente de acumular lições, raciocinar sobre falhas causais e adaptar sua estratégia ao longo de longos horizontes leva a um desempenho superior em diversas modalidades. O trabalho sugere um futuro onde a distinção entre o "buscador" e o "resolvedor" se dissolve, com o agente atuando como ambos.