🤖 AI

The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows

El artículo presenta ReASearch, un marco unificado donde un único agente impulsado por el razonamiento gestiona autónomamente todo el proceso de optimización para prompts, programas y flujos de trabajo de ML, internalizando eficazmente políticas de búsqueda complejas y superando a sistemas especializados en diversas tareas.

Autores originales: Junbo Li, Boyi Liu, Canwen Xu, Yite Wang, Yuxiong He, Zhangyang Wang, Qiang Liu, Zhewei Yao

Publicado 2026-08-10

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Junbo Li, Boyi Liu, Canwen Xu, Yite Wang, Yuxiong He, Zhangyang Wang, Qiang Liu, Zhewei Yao

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot a resolver un rompecabezas, escribir un poema o entrenar a un personaje de un videojuego para ganar. En el mundo de la inteligencia artificial, esto se llama "optimización". Por lo general, los humanos actúan como entrenadores estrictos en la banda: diseñan un plan de juego rígido: "Prueba esto, luego prueba aquello, y si falla, vuelve atrás y prueba algo más". El robot (un modelo de lenguaje extenso) es solo el jugador, siguiendo ciegamente órdenes para realizar pequeños cambios mientras el entrenador humano decide la gran estrategia. Pero, ¿y si el robot también pudiera ser el entrenador? ¿Qué pasaría si pudiera mirar el marcador, entender por qué perdió, decidir cambiar las reglas del juego o incluso darse cuenta de que está estancado y necesita un enfoque completamente nuevo, todo por su cuenta? Este artículo explora exactamente esa pregunta: ¿Puede un único agente de IA inteligente aprender a gestionar su propia búsqueda de la mejor solución, sin que un guion escrito por un humano le diga cómo pensar?

Los investigadores detrás de este estudio, publicado en la conferencia COLM 2026, presentan un nuevo sistema llamado ReASearch. Piensa en ello como entregarle al robot una navaja suiza en lugar de solo un martillo. En el pasado, los optimizadores de IA eran como una línea de ensamblaje de una fábrica con una cinta transportadora fija: un algoritmo diseñado por un humano decidía qué siguiente solución candidata probar, cuánto tiempo dedicar y cuándo rendirse. El único trabajo de la IA era susurrar una pequeña edición a la solución actual. ReASearch cambia el guion. Le otorga al agente de IA un conjunto de herramientas —como un intérprete de Python para ejecutar código, un archivo de memoria para recordar errores pasados y la capacidad de realizar experimentos— y luego deja que el agente decida todo. El agente se pregunta a sí mismo: "¿Debería probar esta idea primero en una muestra pequeña? ¿Acabo de cometer el mismo error dos veces? ¿Debería desechar mi plan actual y volver a uno mejor que probé anteriormente?". El agente no solo está adivinando; está razonando a través del proceso, construyendo una estrategia sobre la marcha.

El equipo puso a prueba este agente de "autocoaching" en 14 desafíos diferentes, que van desde retocar instrucciones de texto para hacerlas más inteligentes, hasta evolucionar programas informáticos para resolver acertijos matemáticos e incluso optimizar flujos de trabajo de entrenamiento de aprendizaje automático. Los resultados fueron sorprendentemente sólidos. En muchos casos, ReASearch superó a sistemas especializados que habían sido construidos por expertos humanos con reglas específicas y codificadas. Por ejemplo, en una tarea llamada "Empaquetamiento de Círculos" (ajustar círculos dentro de un cuadrado de la forma más apretada posible), el agente descubrió soluciones que fueron mejores que los mejores resultados conocidos que los humanos habían encontrado antes. En otras tareas, mejoró el rendimiento entre un 2% y un masivo 40%.

Lo que es verdaderamente fascinante es cómo lo hizo el agente. Los investigadores descubrieron que el agente comenzó a actuar naturalmente como un científico experimentado o un gran maestro de ajedrez, a pesar de que nadie se lo ordenó. Comenzó a "verificar dos veces" las ideas prometedoras antes de comprometerse con ellas. Aprendió a "revertir" a versiones anteriores y más seguras de una solución cuando un nuevo camino conducía a un callejón sin salida. Empezó a llevar un diario de "lecciones aprendidas" para evitar repetir los mismos errores. Lo más impresionante es que comprendió que, a veces, es necesario combinar dos técnicas diferentes para resolver un problema, un descubrimiento que normalmente requiere una profunda visión humana. El artículo sugiere que cuando le das a una IA las herramientas adecuadas y la dejas razonar a través del proceso, puede interiorizar estrategias de búsqueda complejas que antes pensábamos que requerían un algoritmo diseñado por humanos para gestionarlas. Resulta que el optimizador no necesita ser un controlador separado y rígido; el optimizador puede ser el propio agente.

Resumen Técnico: El Optimizador es el Agente (ReASearch)

Declaración del Problema

La optimización de artefactos basados en texto —específicamente prompts de sistema, programas y flujos de trabajo de aprendizaje automático (ML)— sigue siendo un desafío central en la IA moderna. Los enfoques tradicionales suelen depender de controladores algorítmicos externos diseñados a mano (por ejemplo, búsqueda evolutiva, bandidos, optimización bayesiana o gradientes textuales) para gestionar la política de búsqueda. En estos marcos, los Modelos de Lenguaje de Gran Escala (LLMs) funcionan meramente como "mutadores" o "generadores de propuestas" sin estado que ejecutan ediciones locales dentro de un bucle rígido y predefinido. Los autores plantean que esta separación deja una pregunta fundamental sin resolver: ¿Qué parte de la política de búsqueda puede ser internalizada por un único agente de razonamiento?

Metodología: ReASearch

El artículo introduce ReASearch (Búsqueda Agéntica impulsada por Razonamiento), un marco unificado y de "control ligero" que pone a un agente LLM que utiliza herramientas totalmente a cargo del bucle de optimización. En lugar de depender de una metaheurística matemática externa para dictar la exploración, la asignación de presupuesto y la selección de candidatos, ReASearch expone todo el proceso de optimización como un conjunto de herramientas que el agente invoca de forma autónoma.

Arquitectura Central

Bucle de Agente Unificado: El sistema emplea un andamiaje de agente único y agnóstico a la tarea. El agente recibe un prompt de sistema que contiene orientación de dominio y el estado de optimización actual, junto con su historial de interacción.
Interfaz Basada en Herramientas: Todas las operaciones de optimización se empaquetan como herramientas. El agente decide qué herramienta invocar a continuación basándose en su razonamiento. Las herramientas clave incluyen:
- Ejecución y Análisis: python_exec permite al agente escribir scripts de análisis, calcular estadísticas y diagnosticar patrones de falla de forma programática.
- Evaluación: Las herramientas específicas de dominio (por ejemplo, validate_candidate, run_experiment, evaluate) permiten al agente probar hipótesis.
- Edición: Herramientas como edit_code o edit_train_file dirigen los cambios a sub-agentes para mantener limpio el contexto del agente principal.
- Memoria: Un archivo persistente lessons.md y mecanismos de compresión de contexto permiten al agente retener conocimientos de largo alcance (qué funcionó, qué falló y qué intentar a continuación) a través de las ventanas de contexto.
Adaptación de Dominio: El mismo andamiaje de agente se aplica a tres dominios distintos cambiando únicamente las herramientas disponibles y el prompt de sistema:
1. Optimización de Prompts: El agente muestrea de forma adaptativa minibatches de entrenamiento, evalúa candidatos en conjuntos de validación (con métricas agregadas para evitar el sobreajuste) y diagnostica modos de falla.
2. Evolución de Programas: El agente modifica iterativamente el código para problemas difíciles de instancia única (por ejemplo, ARC-AGI-2, empaquetamiento de círculos), utilizando sub-agentes para la edición y verificación de código mientras mantiene un contexto de razonamiento persistente para la formación de hipótesis.
3. Optimización de Flujos de Trabajo de ML: El agente modifica scripts de entrenamiento, ejecuta experimentos con tiempo limitado y analiza curvas de entrenamiento para diagnosticar cuellos de botella (por ejemplo, esquemas de tasa de aprendizaje, elecciones de arquitectura, regularización).

Comportamientos Emergentes

El artículo observa que comportamientos de búsqueda complejos, típicamente implementados por controladores explícitos, emergen naturalmente del proceso de razonamiento del agente sin necesidad de codificación manual:

Doble Verificación: Re-comprobar ganancias prometedoras en muestras adicionales antes de comprometerse con una validación costosa.
Revisión Impulsada por Hipótesis: Formar hipótesis estructurales basadas en evidencia acumulada y probarlas.
Recuperación Basada en Reversión: Revertir deliberadamente a ramas anteriores conocidas como buenas cuando un camino falla, en lugar de continuar ciegamente.
Exploración Adaptativa: Ajustar las estrategias de búsqueda basadas en las restricciones de presupuesto y la varianza observada.

Contribuciones Clave

Marco Unificado: ReASearch presenta la optimización basada en texto como un problema de razonamiento secuencial, demostrando que un único diseño de agente puede optimizar prompts, programas y flujos de trabajo de ML.
Ganancias de Rendimiento: A través de 14 tareas diversas, ReASearch iguala o supera consistentemente a sistemas especializados de última generación (por ejemplo, GEPA, AdaEvolve, Claude Code) dentro de los mismos presupuestos computacionales. Las ganancias oscilan entre un 2% y un 40% sobre las bases sólidas de dominio específico.
Descubrimiento de Nivel Humano: En tareas específicas como Circle Packing y problemas de Heilbronn Triangle, ReASearch descubrió soluciones que mejoraron los mejores resultados humanos conocidos previamente.
Lógica de Búsqueda Internalizada: El trabajo demuestra que los agentes de vanguardia que utilizan herramientas pueden internalizar una fracción sustancial de la lógica de búsqueda que anteriormente se delegaba a metaheurísticas matemáticas externas, incluyendo la verificación de candidatos, el diagnóstico causal y la exploración adaptativa.

Resultados Experimentales

Los autores evaluaron ReASearch contra bases especializadas en tres categorías:

Optimización de Prompts: En AIME, GSM8K, HotpotQA y Terminal-Bench 2.0, ReASearch superó a GEPA. Por ejemplo, en Terminal-Bench 2.0, alcanzó una precisión del 53.33% comparado con el 42.22% de GEPA. El agente construyó exitosamente comprensiones de tareas estructuradas y seleccionó prompts finales basados en el historial completo de optimización en lugar de solo en la puntuación máxima de validación.
Evolución de Programas:
- Circle Packing: ReASearch logró resultados (por ejemplo, 2.940 para $n=32$ ) que igualan o superan ligeramente los mejores resultados humanos conocidos (2.939), superando significativamente a AdaEvolve.
- Heilbronn Triangle: El agente identificó simetrías matemáticas (simetría D4) para colapsar el espacio de búsqueda, logrando resultados casi óptimos (0.03260 para $n=12$ ) donde las bases fallaron.
- ARC-AGI-2: ReASearch alcanzó un 50.0% de precisión de prueba (Sonnet 4.6), una mejora de 4 veces sobre el 12.5% de AdaEvolve, mediante el uso de análisis iterativo para deducir reglas de transformación en lugar de una búsqueda de fuerza bruta.
Optimización de Flujos de Trabajo de ML: Comparado con Claude Code (configuración AutoResearch), ReASearch mostró ventajas claras en IMG-100 (83.99% vs 78.59%), Atari Q*bert (4500 vs 1250 de recompensa) y MuJoCo (5267 vs 3986 de recompensa). Notablemente, en una tarea de predicción de cripto de Kaggle, ReASearch mejoró el ranking en la tabla de clasificación de 36º a 6º en 15 experimentos, mientras que la base se estancó.

Significado y Reivindicaciones

El artículo argumenta que el razonamiento no es solo para resolver tareas, sino que puede ser en sí mismo un motor poderoso para la búsqueda abierta. La importancia de ReASearch radica en su demostración de que el "optimizador" no necesita ser un controlador algorítmico separado y diseñado a mano. En su lugar, un único agente impulsado por el razonamiento y equipado con las herramientas apropiadas puede internalizar políticas de búsqueda complejas —como la gestión de presupuesto, el diagnóstico de fallas y la adaptación de estrategia— que anteriormente eran el dominio de las metaheurísticas externas.

Los autores afirman que este enfoque ofrece un paradigma más flexible y potencialmente más poderoso para la optimización, donde la capacidad del agente para acumular lecciones, razonar sobre fallas causales y adaptar su estrategia a lo largo de horizontes extensos conduce a un rendimiento superior a través de diversas modalidades. El trabajo sugiere un futuro donde la distincción entre el "buscador" y el "solucionador" se disuelve, con el agente actuando como ambos.