Resumen Técnico: Arbor – La búsqueda en árboles como capa de cognición para agentes autónomos

Declaración del Problema

Los avances recientes en la optimización de código basada en Modelos de Lenguaje Grande (LLM) han demostrado que los agentes autónomos pueden descubrir soluciones de alta calidad para objetivos computacionales aislados (por ejemplo, un único kernel o operadores específicos). Sin embargo, el rendimiento del software de producción surge de la compleja interacción de múltiples capas (aplicación, framework, compilador, kernel, hardware). Optimizar una capa a menudo expone cuellos de botella o regresiones en otra, creando un espacio de acción con estado y de gran escala donde las intervenciones pueden invalidar el progreso previo.

Los enfoques existentes enfrentan tres limitaciones primarias:

1. Alcance Aislado: Los autotuners de compiladores y los marcos de trabajo multi-agente suelen operar dentro de una sola capa o sobre un único objetivo, fallando al abordar las dependencias entre capas.
2. Falta de Memoria con Estado: Los sistemas actuales no mantienen una memoria de trabajo compartida que evolucione con cada medición, tratando los fallos simplemente como señales de parada en lugar de datos diagnósticos.
3. Incapacidad para Manejar Fallos en Cascada: Cuando una optimización causa un error de sistema o una regresión, los sistemas existentes carecen del mecanismo para diagnosticar la causa raíz, propagar las restricciones de vuelta a la búsqueda y remodelar la exploración subsiguiente.

El desafío central se desplaza de la generación de candidatos a la selección de candidatos: navegar por un paisaje dinámico donde cada intervención redefine la distribución de los cuellos de botella, requiriendo un sistema que pueda detectar cambios, diagnosticar fallos a través de las capas y expandir la frontera de búsqueda de forma autónoma.

Metodología: El Marco de Trabajo Arbor

Arbor formula la optimización de rendimiento de pila completa como una búsqueda en árboles con puntuación heurística sobre un espacio de acción que se expande dinámicamente. Introduce una capa de cognición que mantiene un árbol de búsqueda explícito que sirve como memoria de trabajo compartida entre los agentes.

1. Procedimiento de Búsqueda y Gestión de Estado

• Estructura del Árbol: El estado de la optimización es un árbol $T = (V, E)$ con raíz en una línea base perfilada. Cada nodo representa una acción y su resultado (mantenida, revertida o fallida/crash). El camino desde la raíz hasta el nodo define la secuencia acumulativa de intervenciones.
• Expansión Dinámica: El árbol no es estático. Tras una acción exitosa, el sistema vuelve a perfilar para revelar cuellos de botella previamente invisibles, generando nuevas ramas que no existían en la inicialización.
• Bucle de Búsqueda: El Orquestador ejecuta un bucle de profundidad primero (depth-first):
  1. Perfilado del estado actual para identificar cuellos de botella y tiempos de uso de GPU.
  2. Puntuación de candidatos mediante una función heurística.
  3. Despacho de la acción con mayor puntuación a un Especialista de Dominio.
  4. Control de resultados mediante verificación de precisión y benchmarking de extremo a extremo.
  5. Actualización del árbol: las acciones mantenidas se convierten en la nueva línea base; las acciones revertidas registran anotaciones diagnósticas; las acciones con error (crash) activan el análisis de causa raíz.
  6. Recalculo de la puntuación de los candidatos restantes a medida que la distribución del cuello de botella cambia.

2. Puntuación Heurística

Los candidatos se puntúan equilibrando la ganancia esperada frente al costo y el riesgo, incorporando un bono de exploración:
$$h(a) = \frac{g(a)}{c(a) \cdot (1 - r_{acc}) \cdot (1 - r_{crash}) \cdot m_{gap}} + C_s \frac{\ln N}{1 + n_{cat}}$$

• $g(a)$: Ganancia esperada, estimada a partir del tiempo de GPU del kernel objetivo y de los priors de velocidad específicos por categoría (derivados de una base de conocimientos persistente).
• $c(a)$: Costo estimado de tiempo de ejecución (implementación, reinicio, benchmarking).
• $r_{acc}, r_{crash}$: Tasas empíricas de fallo de precisión y de errores de sistema (crash), refinadas conforme avanza la campaña.
• $m_{gap}$: Multiplicador de urgencia que escala con la brecha restante hacia el objetivo de rendimiento (throughput).
• Término UCB: Fomenta la exploración de categorías de acción submuestreadas.

3. Arquitectura Multi-Agente con Pesos y Contrapesos

Arbor estructura sus agentes para imitar organizaciones de ingeniería efectivas, descomponiendo las capacidades en Habilidades Duras (pericia de dominio) y Habilidades Blandas (protocolos de coordinación).

• El Orquestador (El "Líder Técnico"):

  • Dirige el bucle de optimización mediante el perfilado, la puntuación y la delegación.
  • Construye dinámicamente Especialistas de Dominio en tiempo de ejecución para tareas específicas (kernel, framework, comunicación, compilador, despacho).
  • Compone los prompts utilizando el contexto del hardware, entradas de la base de conocimientos e historiales de fallos.
  • No implementa código por sí mismo, sino que decide qué intentar y quién lo implementa.

• El Crítico (El "Control de Calidad"):

  • Salvaguarda la estabilidad y la integridad de las mediciones.
  • Realiza el Análisis de Causa Raíz (RCA) en caso de errores, distinguiendo entre errores de implementación y direcciones improductivas.
  • Aplica Salvaguardas para detectar anomalías en los benchmarks.
  • Realiza Introspección para evaluar si una idea revertida conserva mérito bajo diferentes restricciones.
  • Monitorea la salud del sistema a largo plazo, publicando restricciones para evitar volver a regiones improductivas.

• Especialistas de Dominio:

  • Construidos dinámicamente por tarea.
  • Operan de forma asíncrona a través de las capas, realizando un refinamiento iterativo con validación local antes de devolver parches listos para ser integrados (merge-ready).
  • Adheridos a las restricciones publicadas por el Crítico.

• Base de Conocimientos Persistente:

  • Acumula estrategias y modos de fallo a través de las sesiones.
  • Permite la transferencia de arranque en caliente (warm-start) a nuevos modelos y hardware, informando los priors de puntuación y reduciendo la varianza entre ejecuciones.

Contribuciones Clave

1. Formulación de Búsqueda en Árboles con Estado: El artículo formula la optimización de múltiples capas como una búsqueda en un árbol donde este sirve como memoria de trabajo compartida. Los fallos se propagan como restricciones en los nodos hijos, y los éxitos disparan un nuevo perfilado para expandir la frontera de búsqueda.
2. Arquitectura Multi-Agente de Pesos y Contrapesos: Introduce un sistema de dos agentes donde un Orquestador impulsa la optimización agresiva mientras un Crítico salvaguarda la estabilidad. Ningún agente puede dirigir el sistema de forma unilateral, asegurando que los sacrificios de rendimiento a corto plazo solo se realicen cuando sea necesario para la viabilidad de la sesión.
3. Descomposición de Habilidades: Descompone las capacidades de los agentes en habilidades duras (pericia de dominio) y habilidades blandas (protocolos de coordinación), respaldadas por una base de conocimiento persistente para la transferencia entre sesiones.
4. Construcción Dinámica de Especialistas: Se aleja de los agentes fijos, construyendo Especialistas de Dominio dinámicamente en tiempo de ejecución basados en el objetivo de optimización específico, el contexto del hardware y los datos históricos.

Resultados

Arbor fue evaluado en el servicio de inferencia de LLM a través de seis modelos de producción en GPUs AMD Instinct (MI355X y MI300X).

• Mejoras de Rendimiento (Throughput):
  • En MI355X, Arbor logró una mejora de rendimiento de +40% a +193% sobre las líneas base optimizadas por el fabricante tras días de operación totalmente autónoma.
  • En MI300X (validación de transgeneracional), las mejoras oscilaron entre +62% y +99%.
• Reproducibilidad: La varianza entre ejecuciones fue de apenas 2 puntos porcentuales, demostiendo una reproducibilidad independiente del hardware.
• Ablación/Comparación: Un solo agente sin el entorno de Arbor (siendo el "entorno" el marco de búsqueda en árbol multi-agente) se estancó en solo un +33% de mejora de rendimiento y colapsó de forma irrecuperable en pocas horas.
• Caso de Estudio (gpt-oss-120b): En un árbol de búsqueda específico para un modelo MoE de 120B, el sistema exploró 30 acciones. 9 fueron mantenidas, 16 fueron revertidas con información diagnóstica y 3 causaron errores pero fueron recuperadas mediante RCA. El sistema alcanzó los 6,515 tok/s/GPU (una mejora del 48% sobre la línea base de 4,405 tok/s/GPU), utilizando conocimientos de la introspección (ej. identificación de rutas de código muerto) y del RCA (clasificando errores como problemas de dependencia en lugar de fallos algorítmicos).

Significado y Reivindicaciones

El artículo afirma que Arbor representa un cambio en la optimización autónoma: de la generación de candidatos aislados a la navegación de espacios de acción con estado y de gran escala. Al tratar los fallos como señales diagnósticas que remodelan la exploración y mantener una memoria de trabajo compartida, Arbor permite campañas autónomas de varios días que de otro modo serían imposibles debido a la inestabilidad del sistema.

El marco demuestra que:

1. La optimización de múltiples capas es factible sin intervención humana, siempre que el sistema pueda detectar cambios en los cuellos de botella y diagnosticar fallos a través de la pila tecnológica.
2. Las arquitecturas de pesos y contrapesos son críticas para la autonomía sostenida, evitando que la exploración agresiva desestabilice el sistema.
3. La transferencia de conocimiento entre sesiones y generaciones de hardware es alcanzable mediante memoria persistente, redubr la barrera para la puesta en marcha de nuevo hardware o modelos.

En última instancia, Arbor busca reducir el coste operativo y la intensidad de carbono de los despliegues de LLM mediante la automatización del esfuerzo coordinado que tradicionalmente requiere equipos de ingeniería a través de todo el stack de software y hardware.