Resumen Técnico: SAGE (Optimización de Prompts Estocástica mediante Exploración Guiada por Agentes)

Declaración del Problema

El artículo aborda el desafío de la Optimización Automática de Prompts (APO), específicamente dentro del dominio de la Ingeniería de Contexto: la optimización del contexto informativo que rodea las consultas de los Modelos de Lenguaje Extensos (LLM) sin actualizar los parámetros del modelo.

Los autores argumentan que el campo carece de una perspectiva teórica unificadora. Si bien trabajos recientes (Melcer et al., 2025) establecieron que la APO es fundamentalmente un problema de búsqueda de caja negra (ya que los gradientes textuales no funcionan como gradientes reales), los enfoques existentes sufren de dos limitaciones primarias:

1. Búsqueda Miópica: Los métodos por muestra procesan un ejemplo de entrenamiento a la vez, acumulando ediciones de forma codiciosa. Esto es computacionalmente costoso y propenso a óptimos locales.
2. Análisis Superficial: La mayoría de los métodos limitan la optimización al razonamiento exclusivo de LLM. Incluso los enfoques multi-agente que utilizan herramientas de código suelen utilizarlas para la construcción de artefactos procedimentales en lugar de un análisis diagnóstico de patrones de error.

El panorama de los prompts se caracteriza como un problema de optimización de caja negra ruidoso, con evaluaciones costosas, baja dimensionalidad efectiva y una rica estructura local. La efectividad de una estrategia de optimización depende de la interacción entre la estructura del paisaje (rugosidad) y el tipo específico de errores presentes.

Metodología: Marco de Trabajo SPO

Los autores introducen SPO (Optimización de Prompts Estocástica), un marco que formaliza la APO como un ascenso de colina estocástico (stochastic hill climbing) sobre un espacio de prompts estructurado. El bucle central genera $Q$ candidatos por iteración y adopta solo el mejor si este mejora estrictamente al incumbente (selección monotónica).

El artículo compara tres estrategias de creciente sofisticación dentro de este marco:

1. SPO-RS (Búsqueda de Residuos)

• Mecanismo: Genera $Q$ candidatos mediante muestreo de LLM de alta temperatura ($\tau=0.9$).
• Entrada: Condicionado en el mejor prompt actual y un resumen de sus errores.
• Naturaleza: Refleja el refinamiento informado por errores, pero depende de la perturbación estocástica en lugar de operadores estructurados.

2. SPO-GA (Algoritmo Genético)

• Mecanismo: Aplica operadores evolutivos (cruce y mutación) a una población de los top-$P$ prompts.
• Entrada: El cruce combina dos padres y sus resúmenes de errores; la mutación apunta a mejoras en un solo padre.
• Naturaleza: Sigue el paradigma de "LLM como operador evolutivo", intercambiando algo de diversidad por una mejora dirigida (temperatura más baja $\tau=0.7$).

3. SAGE (Exploración Guiada por Agentes)

• Mecanismo: Un flujo de trabajo multi-agente donde los agentes escriben y ejecutan código de diagnóstico para informar las ediciones de los prompts.
• Flujo de trabajo:
  1. Analizador (Analyzer): Ejecuta scripts sobre los resultados de evaluación para hacer emerger $H$ hipótesis respaldadas por evidencia sobre patrones de error.
  2. Orquestador (Orchestrator): Clasifica las hipótesis en $I$ direcciones de investigación.
  3. Investigadores (Investigators): Realizan investigaciones profundas en paralelo para verificar las hipótesis con conteos exactos y análisis de traza, devolviendo correcciones listas para la implementación.
  4. Generadores (Generators): Producen prompts revisados basados en los informes de investigación.
• Distinción Clave: A diferencia del trabajo previo donde el código construye artefactos, SAGE utiliza la ejecución de código para el diagnóstico estadístico (agrupamiento de errores, ejecución de pruebas estadísticas, identificación de patrones de falla sobrerepresentados) dentro de un procedimiento fijo.

Configuración Experimental

El marco fue evaluado en tres benchmarks y un despliegue de producción:

• XBRL Formula: Razonamiento financiero (500 entrenamiento / 200 prueba).
• FiNER: Reconocimiento de Entidades Nombradas Financieras (1,000 entrenamiento / 441 prueba).
• AppWorld: Tareas de agentes autónomos que involucran comprensión de API y generación de código.
• Despliegue de Producción: "Ash," un chatbot de salud mental de Slingshot AI, optimizado bajo un paradigma de optimización continua.

Baselines: Los métodos se compararon contra Base LLM, Aprendizaje en Contexto (ICL), MIPROv2, GEPA, Dynamic Cheatsheet y ACE offline. El LLM objetivo fue DeepSeek-V3.1; el meta-modelo que propuso las ediciones fue Claude Sonnet 4.6.

Resultados Clave

Rendimiento de los Benchmarks

Ninguna estrategia dominó de manera absoluta en todas las tareas; la efectividad dependió de la interacción entre la estructura del paisaje y el tipo de error:

• Formula (Rugged, Errores en Cascada): SAGE lideró, ya que su profundidad analítica fue recompensada al diagnosticar errores de razonamiento en cascada.
• FiNER (Paisaje Suave): SAGE logró la mayor precisión de entrenamiento, pero estrategias más simples (SPO-GA) generalizaron mejor en el conjunto de prueba. El paisaje era suave (correlacionado a grandes distancias), lo que hacía que el análisis profundo fuera menos crítico para la generalización.
• AppWorld (Rugged, Errores Procedimentales): Todas las variantes de SPO superaron a los baselines. SAGE logró la mayor precisión de entrenamiento, pero la precisión de validación osciló debido al pequeño conjunto de evaluación. SPO-GA logró la mayor precisión de prueba, sugiriendo que para errores procedimentales por tarea, la búsqueda simple es suficiente.

Análisis de Paisaje

Utilizando semivariogramas de la geoestadística, los autores cuantificaron la rugosidad del paisaje:

• Formula y AppWorld: Se decorrelacionaron dentro de vecindades semánticas pequeñas (rugoso).
• FiNER: Se mantuvieron correlacionados a $\sim4\times$ la distancia (suave).
• Hallazgo: La rugosidad por sí sola no predice la estrategia ganadora. El factor decisivo es la estructura del error: los errores de razonamiento en cascada se benefician del análisis de causa raíz de SAGE, mientras que los errores procedimentales ceden ante la búsqueda simple.

Despliegue de Producción (Chatbot de Salud Mental)

SAGE fue desplegado en el chatbot "Ash" durante ocho ciclos de optimización continua.

• Proceso: Cada ciclo implicaba desplegar el mejor prompt, ejecutar SAGE sobre las conversaciones recolectadas, realizar pruebas A/B de los candidatos y promover al ganador.
• Resultado: Siete de los ocho ciclos produjeron un brazo ganador positivo. Aunque los ciclos individuales fueron a menudo estadísticamente insignificantes (ruidosos), encadenar los deltas por ciclo resultó en una mejora relativa acumulada del +29.4% en la retención del día siguiente (D1) con significancia no paramétrica.
• Significancia: Esto demuestra que las pruebas A/B individualmente ruidosas pueden acumularse en una ganancia estadísticamente robusta cuando se acoplan con la optimización continua.

Contribuciones y Significancia

El artículo reclama tres contribuciones principales:

1. Marco de Optimización de Caja Negra: SPO formaliza la APO como una búsqueda de caja negra ruidosa sobre un paisaje estructurado, proporcionando una ablación controlada para aislar el valor de la profundidad analítica y la diversidad de exploración.
2. Ejecución de Código de Diagnóstico: SAGE es el primer marco de APO donde la ejecución de código sirve para el diagnóstico estadístico (analizar patrones de error) en lugar de la construcción de artefactos procedimentales o el razonamiento exclusivo de LLM.
3. Despliegue de Producción: El artículo introduce un paradigma de optimización continua para el diálogo abierto. Demuestra que acoplar el diagnóstico cualitativo (vía agentes) con la validación cuantitativa (vía pruebas A/B) permite la optimización efectiva en dominios que carecen de señales de corrección nítidas (como la salud mental), donde los benchmarks tradicionales fallan.

Los autores argumentan que este "optimización agéntica mixta cualitativa-cuantitativa" es la clave para mejorar los sistemas de diálogo orientados a tareas de código abierto donde la corrección no puede definirse de antemano. Señalan limitaciones, incluyendo la dependencia de funciones de evaluación automatizadas, los posibles cambios de distribución en la optimización continua y la novedad limitada de la refinación impulsada por agentes (que refina comportamientos existentes en lugar de inventar otros completamente nuevos sin dirección externa).