Resumen Técnico: BONSAI – Búsqueda en Árbol Guiada por la Evolvibilidad sobre Habilidades

1. Planteamiento del Problema

El artículo aborda el desafío de optimizar habilidades (skills) para agentes congelados. Una "habilidad" se define como un documento en lenguaje natural (que actúa como un manual de campo en lugar de una simple plantilla de prompt) que guía a un Modelo de Lenguaje Grande (LLM) congelado cuyos pesos no pueden actualizarse. Dado que el agente no puede aprender de la experiencia, cualquier capacidad que le falte debe estar codificada en el texto de la habilidad.

El enfoque estándar para la optimíazación de habilidades implica un bucle iterativo: editar la habilidad basándose en los fallos del agente, probar en tareas de validación y retener las ediciones que mejoren la puntuación. Los autores identifican un punto ciego crítico en este método: una única puntuación de validación no puede distinguir entre un documento que descansa sobre una meseta amplia (robusto ante nuevas ediciones) y uno que se encuentra en un pico estrecho (sobreajustado y frágil). Un documento en un pico estrecho puede obtener una puntuación alta, pero es un callejón sin salida, ya que las ediciones posteriores tienden a romper las capacidades existentes. Los métodos existentes carecen de una forma de medir la "evolvibilidad" de una región de la habilidad —la capacidad de producir variaciones viables bajo mutación— sin incurrir en costes computacionales adicionales.

2. Metodología: BONSAI

BONSAI (Bonsai Optimisation via Natural-language Search and Adaptive Iteration) replantea la optimización de habilidades como una Búsqueda en Árbol de Monte Carlo (MCTS) guiada por la evolvibilidad en lugar de solo por el fitness inmediato.

Componentes Principales

• Modelos: Se utilizan dos modelos congelados.
  • Performer (Ejecutor): El agente congelado (ej. granite-4.1-30b) que ejecuta las tareas basándose en la habilidad.
  • Optimizer (Optimizador): Un segundo modelo congelado (ej. DeepSeek-V3.2) que reescribe la habilidad basándose en los fallos del performer.
• Estructura de Árbol: Las habilidades se organizan en un árbol donde la raíz es un documento semilla. Cada arista representa una mutación (una reescritura reflexiva) del nodo padre. Esta estructura impone una topología de vecindad al espacio de los documentos.

Métricas Clave

• Fitness ($v(n)$): La puntuación de validación del documento en el nodo $n$.
• Evolvability (Evolvibilidad, $Q(n)$): Definida como el fitness esperado del vecindario mutacional de una habilidad. Se estima mediante la media del fitness del linaje del nodo (el nodo mismo más todos sus descendientes).
  $$Q(n) = \frac{1}{m(n)} \sum_{s \in L(n)} v(s)$$
  donde $L(n)$ es el linaje y $m(n)$ es el recuento de miembros puntuados.
• Brittleness (Fragilidad, $\sigma(n)$): La brecha entre el fitness actual y la evolvibilidad: $\sigma(n) = v(n) - Q(n)$.
  • $\sigma > 0$: Indica un pico sobreajustado y frágil (la puntuación actual es mayor que el promedio del vecindario).
  • $\sigma \le 0$: Indica una región evolutiva (el vecindario mantiene o mejora la puntuación actual).

Algoritmo de Búsqueda

La búsqueda procede en iteraciones utilizando una regla de selección de Límite de Confianza Superior (UCB):
$$U(s) = v(s) + \lambda(Q(s) - v(s)) + c\sqrt{\frac{\ln N(p)}{N(s)}}$$

• Explotación: El término $\lambda(Q(s) - v(s))$ dirige la búsqueda hacia regiones con alta evolvibilidad. Cuando $\lambda=1$, la búsqueda prioriza $Q(s)$ (evolvibilidad) sobre el fitness bruto $v(s)$.
• Exploración: El término UCB estándar asegura que las ramas débiles sean revisitadas.
• Aceptación: Un hijo propuesto se acepta solo si mejora estrictamente un pequeño minilote de entrenamiento (Eq. 4).
• Respaldo (Backup): Los hijos aceptados actualizan las estadísticas del linaje ($N$, $m$, $W$). Las mutaciones rechazadas actualizan únicamente el recuento de visitas $N$, evitando que los reescritos fallidos reduzcan artificialmente la estimación de la evolvibilidad de una región.
• Ensanchamiento (Widening): Los nodos tienen una capacidad sublineal de hijos basada en el número de muestras puntuadas, asegurando que la búsqueda sea profunda en lugar de ancha.

Injerto (Operador Opcional - Grafting)

Para abordar la fragmentación de capacidades entre diferentes ramas del árbol, BONSAI incluye un operador de injerto (graft). Si un nodo $A$ carece de una capacidad que un nodo $B$ de otro linaje posee (determinado comparando las puntuaciones por tarea en los datos de entrenamiento), se pide al optimizador que reescriba $A$ para incorporar la técnica de $B$. El donante $B$ actúa como evidencia, no como ancestro, y no recibe actualizaciones de visitas.

Envío (Shipping)

Al agotar el presupuesto, BONSAI envía el único documento con la mayor puntuación de validación ($\arg\max v(n)$), no aquel con la mayor evolvibilidad. Esto asegura que el resultado final sea el documento con mejor rendimiento encontrado, mientras que la evolvibilidad sirve únicamente como mecanismo de dirección para el presupuesto de búsqueda.

3. Contribuciones Clave

1. La Evolvibilidad como Métrica de Dirección: Los autores identifican la robustez bajo mutación (evolvibilidad) como la propiedad crítica para la optimización de habilidades, distinguiéndola del fitness presente.
2. Estimación Sin Coste Adicional: Proponen un método para medir la evolvibilidad ($Q$) que no incurre en llamadas adicionales al modelo. Reutiliza las puntuaciones de fitness ya pagadas durante la búsqueda para estimar la calidad del vecindario mutacional.
3. Marco de Búsqueda Basado en Árbol: BONSAI convierte una colección desordenada de candidatos en un espacio de búsqueda estructurado donde las propiedades de vecindad pueden medirse y optimizarse mediante MCTS.
4. Transferencia de Capacidad Asimétrica: La introducción del operador de injerto permite la transferencia de capacidades específicas entre linajes sin fusionar documentos, abordando el problema de la divergencia de capacidades en las habilidades.

4. Resultados Experimentales

El marco fue evaluado en tres evaluaciones de referencia (benchmarks) utilizando un performer congelado de 30B y un optimizador DeepSeek-V3.2.

• SpreadsheetBench: BONSAI mejoró el documento semilla en 5.71 puntos de precisión y superó al baseline GEPA (con el mismo presupuesto) por 2.14 puntos. Con el injerto habilitado, alcanzó un 25.00% de precisión.
• SearchQA: BONSAI mejoró respecto al documento semilla en 6.57 puntos y superó a GEPA por 0.71 puntos (79.00% frente a 78.29%).
• LiveMathematicianBench: BONSAI logró un 64.91% de precisión, superando la semilla (28.23%) por un margen amplio y superando a GEPA por 8.77 puntos.
• Comparación con SkillOpt: En todos los benchmarks, BONSAI superó al segundo baseline, SkillOpt, por un promedio de 3.97 puntos. Los autores atribuyen la insuficiencia de SkillOpt a su etapa de agregación, que comprime las ediciones sin ver las trayectorias subyacentes.
• Ablación (Evolvability vs. Greedy): Cuando la señal de selección se cambió a fitness puramente codicioso ($\lambda=0$), el rendimiento cayó significativamente en todos los benchmarks (ej. -7.02 puntos en LiveMathematicianBench), confirmando que la dirección por evolvibilidad es el principal motor del éxito.

5. Significado y Reivindicaciones

El artículo afirma que BONSAI dirige con éxito el presupuesto de búsqueda hacia regiones del espacio de habilidades que continúan produciendo mejoras, en lugar de quedar atrapado en picos estrechos y sobreajustados. Al tratar la evolvibilidad como una propiedad distinta del fitness, el método evita el "punto ciego" de la optimización estándar basada en puntuaciones.

Los autores enfatizan que esta mejora se logra sin coste adicional más allá del bucle estándar de "aceptar si es mejor", ya que la métrica de evolvibilidad se deriva de los datos de búsqueda existentes. El marco demuestra que, para agentes congelados, el "terreno" del espacio de la habilidad (su capacidad de evolucionar) es tan importante como la "elevación" actual (puntuación). Los resultados sugieren que organizar la optimización de habilidades como una búsqueda en árbol guiada por la robustez mutacional produce una generalización superior en tareas de validación en comparación con los enfoques de evolución de prompts reflexivos o de estados entrenables.