Resumen Técnico: Compilación JIT de Agentes para la Planificación y Programación de Agentes Web Optimizados en Latencia

Enunciado del Problema

Los agentes de uso informático (CUA) automatizan tareas basadas en la web especificadas en lenguaje natural (por ejemplo, "pedir el artículo más barato de Taco Bell") generando secuencias de llamadas a herramientas como hacer clic, escribir y desplazarse. Las implementaciones actuales suelen seguir un bucle secuencial de obtener-tomar-pantalla-ejecutar, donde cada iteración requiere una llamada a un Modelo de Lenguaje Grande (LLM). Esta arquitectura adolece de dos limitaciones principales:

1. Alta Latencia y Costo: La necesidad de una llamada a un LLM en cada paso crea retrasos significativos en la ejecución y altos costos de inferencia.
2. Precisión y Tasas de Error: La aplicación ingenua de LLMs de vanguardia conduce a errores frecuentes, que a menudo provienen de secuencias incorrectas de uso de herramientas (por ejemplo, hacer clic en el elemento equivocado o escribir en el campo incorrecto) y de una falta de optimización en la programación de la ejecución.

Los intentos existentes para mejorar el rendimiento, como el filtrado agresivo del DOM o el aprendizaje por refuerzo de modelos más pequeños, aún dependen de conjuntos de herramientas estáticos y de una ejecución secuencial, sin explorar el espacio completo de programas de ejecución (incluyendo paralelismo y protección de solicitudes) ni eliminar las llamadas no deterministas a LLM entre invocaciones de herramientas.

Metodología: Compilación JIT de Agentes

Los autores proponen la Compilación Just-in-Time (JIT) de Agentes, un sistema que traduce instrucciones de alto nivel en lenguaje natural a código optimizado y ejecutable en el momento de la síntesis del plan. A diferencia de los agentes estándar que ejecutan un bucle de "observar-pensar-actuar", este sistema compila una tarea en un grafo de código estático que orquesta las llamadas a herramientas y la inferencia, seleccionando la traducción con el costo estimado más bajo. La arquitectura consta de tres componentes principales:

1. Protocolo de Herramientas con Enforzamiento de Invariantes

Para garantizar la corrección de los planes de código generados, el sistema introduce un protocolo donde cada herramienta especifica precondiciones y postcondiciones (invariantes de estado).

• Estructura: Las herramientas definen los estados esperados antes de la ejecución (pre), los estados garantizados después de la ejecución (post) y predicados opcionales en tiempo de ejecución (pre_check, post_check) para la depuración.
• Verificación: Esto permite la verificación composicional en el momento de la compilación. Una llamada a herramienta solo es válida si el estado actual satisface su precondición. Esta verificación estática elimina una gran clase de errores causados por secuencias de acciones incorrectas (por ejemplo, intentar pedir un artículo antes de navegar a la página de detalles).
• Beneficio: El protocolo desplaza la frontera de Pareto de latencia-precisión, aumentando significativamente la tasa de generación de planes válidos.

2. Planificador de Optimización de Costos (JIT-Planner)

El planificador genera múltiples planes de código candidatos en paralelo, los valida contra el protocolo de herramientas y selecciona el candidato de menor costo.

• Generación Paralela: Múltiples trabajadores muestrean planes de código de un LLM simultáneamente.
• Validación Basada en CFG: Cada plan se convierte en un Grafo de Flujo de Control (CFG). El sistema recorre el grafo para verificar el flujo de estado (asegurando que el post del paso $i$ satisfaga el pre del paso $i+1$) y estimar el costo.
• Modelo de Costos: Los costos se acumulan basándose en las llamadas a herramientas y las llamadas de evaluación de IA (ai_eval). Se aplica una penalización por anidación ($\gamma$) para desalentar los bucles anidados que involucran llamadas costosas a LLM.
• Resultado: El planificador selecciona el plan válido con el costo estimado más bajo, a menudo reemplazando llamadas innecesarias a LLM con lógica de código pura (por ejemplo, calculando el precio mínimo en código en lugar de pedirle al LLM).

3. Programador Consciente de Costos (JIT-Scheduler)

El programador determina la estrategia de ejecución óptima para un plan dado basándose en distribuciones de latencia aprendidas. Evalúa tres estrategias:

• Serial: Ejecución secuencial.
• Paralelo: Paralelismo de tareas a través de $n$ trabajadores.
• Protección (Hedge): Ejecución paralela especulativa donde $n$ trabajadores redundantes ejecutan la misma tarea y se devuelve el primer resultado válido.
• Mecanismo: Utilizando estimación de costos de Monte Carlo, el programador muestrea de distribuciones de latencia aprendidas de elementos específicos del DOM (recopiladas fuera de línea). Predice con qué elementos interactuará un plan y estima la latencia esperada para cada estrategia, seleccionando la que tiene la latencia media mínima.

Caché Fuera de Línea

El sistema depende de un proceso fuera de línea para poblar dos cachés:

1. Caché del Planificador: Mapea acciones de alto nivel a código de herramientas reutilizable y conforme al protocolo (sintetizado a partir de trazas de ejecución).
2. Caché del Programador: Mapea elementos del esquema de la página a distribuciones de latencia (ajustadas a partir de trazas de ejecución históricas).

Contribuciones Clave

1. Protocolo de Herramientas con Enforzamiento de Invariantes: Extiende las interfaces de herramientas estándar para incluir invariantes de estado, permitiendo la verificación estática de secuencias de herramientas y reduciendo errores de generación.
2. Planificación de Optimización de Costos: Introduce un planificador que genera candidatos en paralelo, los valida mediante recorrido de CFG y selecciona la ruta de ejecución de menor costo, eliminando efectivamente las llamadas redundantes a LLM.
3. Programación Consciente de Costos: Implementa un programador que selecciona dinámicamente entre estrategias seriales, paralelas y de protección basándose en simulaciones de Monte Carlo de distribuciones de latencia aprendidas.
4. Sistema de Extremo a Extremo: Integra estos componentes en un compilador JIT que traduce tareas en lenguaje natural a código ejecutable optimizado, superando el bucle estándar de agentes.

Resultados

El sistema se evaluó en 37 tareas en cinco aplicaciones web (Dashdish, GitLab, Gomail, Omnizon, Reddit) utilizando varios LLMs de vanguardia.

• Rendimiento del JIT-Planner:

  • Logró una aceleración de 10.4× sobre la línea base estándar de Browser-Use.
  • Mejoró la precisión en un +28% sobre Browser-Use.
  • Demostró que la estimación de costos clasifica efectivamente los planes: la diferencia entre los candidatos de mejor costo y peor costo fue una varianza de latencia de 5.3×.
  • El protocolo de invariantes redujo la tasa de fallo de la generación de planes del 80% al 43% y desplazó el modo de fallo dominante de violaciones de ordenamiento de herramientas a otros tipos.

• Rendimiento del JIT-Scheduler:

  • Logró una aceleración de 2.4× y una mejora de precisión del +9% sobre el CUA de OpenAI.
  • Superó a las estrategias de programación fijas (Serial, Paralelo, Protección) al seleccionar adaptativamente la estrategia óptima por tarea. Por ejemplo, identificó correctamente que las tareas con elementos de interfaz de usuario de alta varianza (por ejemplo, encontrar un botón específico) se benefician de la protección, mientras que las búsquedas simples se benefician de la ejecución serial.

• Análisis de Complejidad:

  • Las aceleraciones fueron consistentes a través de la cardinalidad de la tarea (baja, media, alta) y la longitud, lo que indica que los beneficios provienen principalmente de eliminar la inferencia de LLM por paso en lugar de heurísticas específicas de la tarea.
  • Las aplicaciones con patrones de navegación complejos (por ejemplo, Reddit) vieron las aceleraciones más altas (hasta 18.9×), mientras que aquellas con flujos más simples vieron ganancias menores pero aún significativas.

Significado y Afirmaciones

El artículo afirma que la Compilación JIT de Agentes presenta una dirección prometedora para mejorar la eficiencia y fiabilidad de los agentes de uso informático. Al tratar la planificación de agentes como un problema de compilación, el sistema:

1. Desacopla la Planificación de la Ejecución: Permite la optimización de todo el grafo de ejecución antes del tiempo de ejecución, en lugar de tomar decisiones codiciosas paso a paso.
2. Reduce la No Determinación: Al hacer cumplir invariantes de estado y compilar tareas en código, reduce la dependencia de llamadas no deterministas a LLM durante la ejecución, lo que conduce a una mayor precisión.
3. Optimiza el Uso de Recursos: A través de la programación consciente de costos, se adapta a las características de latencia específicas de las interacciones web, equilibrando la compensación entre latencia y precisión de manera más efectiva que las estrategias estáticas.

Los autores señalan que el enfoque es más adecuado para aplicaciones que un agente manejará repetidamente, ya que requiere un costo de configuración fuera de línea (síntesis de herramientas y recopilación de trazas) para construir las cachés necesarias. Reconocen limitaciones relacionadas con los cambios en la interfaz de usuario (que pueden romper las herramientas en caché) y entornos altamente estocásticos (por ejemplo, CAPTCHAs), pero afirman que el protocolo de invariantes proporciona un mecanismo para la detección en tiempo de ejecución y la recuperación.