💻 computer science

Learning Latency-Aware Orchestration for Multi-Agent Systems

El artículo presenta LAMaS, un nuevo marco de trabajo que reduce la latencia de extremo a extremo en sistemas multiagente mediante el aprendizaje de grafos de ejecución conscientes de la latencia con asignación de crédito de ruta crítica durante el entrenamiento y el empleo de un controlador adaptativo ligero para eliminar interacciones redundantes durante la inferencia, logrando una reducción de latencia de más del 50% mientras mantiene la precisión de la tarea.

Autores originales: Xi Shi, Mengxin Zheng, Qian Lou

Publicado 2026-08-14

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Xi Shi, Mengxin Zheng, Qian Lou

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un equipo de brillantes robots especializados trabajando juntos para resolver un rompecabezas complejo. Este es el mundo de los Sistemas Multiagente (MAS), donde poderosas "mentes" de IA (llamadas Modelos de Lenguaje de Gran Tamaño o LLM) se dividen en ayudantes más pequeños y enfocados. Un robot puede ser excelente en matemáticas, otro en programación y un tercero en verificar hechos. Al pasarse notas e ideas de un lado a otro, pueden abordar problemas que un solo robot no podría resolver por sí solo. Sin embargo, hay un inconveniente: cada vez que estos robots hablan entre sí, toma tiempo. Si tienen que pasarse una nota diez veces para obtener una respuesta, todo el proceso se vuelve lento, tardando a veces de 10 a 60 minutos solo para terminar una sola tarea. En el mundo real, esperar tanto tiempo es un factor determinante que impide su uso.

Durante un tiempo, los científicos intentaron hacer que estos equipos fueran más rápidos simplemente reduciendo costos o haciendo que los robots fueran más inteligentes. Pero se dieron cuenta de que hacer que el equipo sea más "barato" no siempre lo hace más "rápido". Piénsalo como una carrera de relevos: si tienes un equipo de diez corredores, el tiempo total no es solo la suma de la velocidad de cada uno; está determinado por la cadena más lenta y larga de corredores pasando el testigo. Si reduces el número de corredores pero dejas intacta la cadena más lenta, el tiempo de la carrera no mejora. La gran pregunta fue: ¿Cómo rediseñamos el flujo de trabajo del equipo para reducir el tiempo sin perder la precisión de la respuesta final?

Esto es exactamente lo que los investigadores de la Universidad de la Florida Central abordaron en su nuevo artículo, introduciendo un sistema llamado LAMaS (Sistema Multiagente Consciente de la Latencia). Descubrieron que la forma antigua de optimizar estos equipos de IA era como intentar arreglar un atasco de tráfico diciéndole a cada coche que condujera más rápido, incluso si el cuello de botella era un único puente estrecho. En cambio, LAMaS actúa como un controlador de tráfico inteligente que sabe exactamente qué parte de la ruta es el "camino crítico": la cadena de pasos más larga que determina el tiempo total.

El artículo propone una estrategia de dos partes para solucionar el problema de la velocidad. Primero, durante la fase de "entrenamiento" (donde el sistema aprende cómo trabajar), LAMaS utiliza un método de puntuación especial. En lugar de castigar a todos los robots por igual cuando tardan demasiado, enfoca su "regaño" solo en los robots que forman parte del camino crítico, aquellos que están retrasando a todo el equipo. También establece una regla estricta: no importa qué tan rápido sean, no pueden caer por debajo de cierto nivel de precisión. Es como decirle a un equipo de carreras: "Pueden correr tan rápido como quieran, pero deben terminar la carrera correctamente".

Segundo, y quizás de manera más ingeniosa, LAMaS añade un "controlador ligero" que observa la carrera en tiempo real. Incluso si el equipo planeaba correr diez vueltas, este controlador podría notar después de la tercera vuelta que el equipo ya ha encontrado la respuesta. Entonces tiene el poder de decir: "¡Alto! No necesitamos las otras siete vueltas", y corta el resto del trabajo. Esto sucede dinámicamente a medida que la tarea se desarrolla, en lugar de ser un plan fijo hecho con antelación.

Cuando los investigadores probaron esto en cuatro diferentes bancos de pruebas desafiantes —que iban desde resolver problemas de matemáticas de escuela primaria hasta escribir código y responder preguntas de conocimiento complejas— descubrieron que LAMaS fue un cambio radical. Comparado con otros sistemas avanzados de equipos de IA, LAMaS redujo el tiempo de espera total en más del 50% (en algunos casos reduciéndolo hasta en un 75%) manteniendo la precisión igual de alta, o incluso mejor. Por ejemplo, en un banco de pruebas de matemáticas llamado GSM8K, su sistema terminó en aproximadamente 11.73 segundos con un 93.65% de precisión, mientras que otros sistemas de alto nivel tardaron más de 48 segundos para una precisión similar.

El artículo sugiere que este enfoque no es solo una solución temporal para un sistema específico; cuando intentaron integrar el método LAMaS en otros diseños de equipos de IA existentes, este los hizo más rápidos de manera consistente sin romperlos. Los autores demuestran que, al enfocarnos en los pasos del "cuello de botella" y permitir que el sistema se detenga anticipadamente cuando tiene confianza, podemos construir equipos de IA que no solo son inteligentes, sino también increíblemente rápidos, haciéndolos mucho más prácticos para el uso en el mundo real.

Resumen Técnico: Aprendizaje de la Orquestación Consciente de la Latencia para Sistemas Multi-Agente (LAMaS)

1. Planteamiento del Problema

Los Sistemas Multi-Agente (MAS, por sus siglas en inglés) mejoran las capacidades de razonamiento de los Modelos de Lenguaje de Gran Escala (LLMs) mediante la orquestación de múltiples agentes especializados. Sin embargo, a medida que estos sistemas escalan, la latencia de inferencia se ha convertido en un cuello de botella crítico, requiriendo a menudo entre 10 y 60 minutos por tarea en escenarios realistas.

Los métodos de orquestación existentes optimizan principalmente el rendimiento de la tarea y el coste de inferencia (uso de tokens). Los autores argumentan que estos objetivos son insuficientes para la reducción de la latencia porque:

Desajuste Estructural: La latencia de extremo a extremo está gobernada por la ruta de ejecución crítica (la cadena más larga de dependencias), no por el coste aditivo total de todos los operadores. Reducir el coste total no necesariamente acorta la ruta crítica.
Ruido en la Asignación de Créditos: La optimización de latencia simple aplica penalizaciones uniformes, fallando al distinguir entre los operadores en la ruta crítica (cuellos de botella) y aquellos en rutas no críticas.
Compromiso entre Precisión y Latencia: Optimizar para la latencia sin restricciones puede degradar la precisión de la tarea de forma impredecible.
Limitaciones Estáticas: Los grafos fijados en el momento del entrenamiento no pueden aprovechar la evidencia en tiempo de ejecución (por ejemplo, el consenso temprano sobre una respuesta) para eliminar interacciones futuras redundantes.

2. Metodología: Marco de Trabajo LAMaS

Los autores proponen el Sistema Multi-Agente Consciente de la Latencia (LAMaS), un marco que aborda la latencia en dos niveles distintos: la optimización de grafos en el tiempo de entrenamiento y el control de ejecución en el tiempo de inferencia.

A. Tiempo de Entrenamiento: Optimización Restringida con Conciencia de la Ruta Crítica

LAMaS formula la orquestación como un problema de optimización restringida:
$\min_{\theta} \mathbb{E}[\lambda_t T + \lambda_c C] \quad \text{sujeto a} \quad \mathbb{E}[S] \geq S_0$
Donde $T$ es la latencia, $C$ es el coste, $S$ es la precisión de la tarea, y $S_0$ es un umbral de precisión objetivo.

Relajación Lagrangiana: La restricción se resuelve mediante una variable dual adaptativa ( $\lambda_S$ ) actualizada mediante el ascenso de gradiente proyectado. Esto asegura que el sistema reduzca la latencia solo si esta no cae por debajo de la precisión de referencia ( $S_0$ ) de la arquitectura subyacente.
Asignación de Créditos Consciente de la Ruta Crítica: Para abordar el desajuste estructural, LAMaS asigna recompensas a nivel de operador basadas en la criticidad de la ruta.
- Para un operador $o$ , el peso $w(o)$ se define como la relación entre la ruta más larga que pasa por $o$ y la longitud total de la ruta crítica ( $T$ ).
- Los operadores en la ruta crítica ( $w(o)=1$ ) reciben la penalización de latencia completa.
- Los operadores en rutas casi críticas reciben penalizaciones atenuadas, mientras que aquellos en rutas no críticas reciben señales insignificantes. Esto dirige las actualizaciones de gradiente hacia los operadores que actúan como cuellos de botella.

B. Tiempo de Inferencia: Control de Ejecución Adaptativo

Reconociendo que un grafo de tiempo de entrenamiento no puede explotar la evidencia en tiempo de ejecución, LAMaS introduce un controlador de ejecución ligero.

Función: En cada finalización de operador, el controlador evalúa si la ejecución parcial actual es suficiente o si las interacciones adicionales de los agentes son beneficiosas.
Mecanismo: Predice una "ventaja de control" ( $\Delta_k$ ), estimando la diferencia en la recompensa Lagrangiana entre detenerse ahora o ejecutar el grafo completo.
Decisión: Si $\Delta_k > 0$ , el sistema termina de forma temprana, eliminando interacciones futuras redundantes. El controlador se entrena mediante regresión MSE sobre trazas recolectadas del orquestador congelado, utilizando características como el progreso de la ejecución, el consenso de la respuesta (equivalencia semántica de las salidas) y la dificultad de la consulta.

3. Contribuciones Clave

Formulación: Los autores formulan la orquestación de MAS consciente de la latencia como un problema de optimización restringida que minimiza la latencia bajo un umbral de precisión, resuelto mediante relajación Lagrangiana.
Asignación de Créditos: Introducen un mecanismo de asignación de créditos consciente de la ruta crítica que pondera las penalizaciones de latencia según la criticidad de la ruta, asegurando que los gradientes se centren en los operadores cuello de botella.
Control en Tiempo de Ejecución: Proponen un controlador en tiempo de inferencia ligero que califica las ejecuciones parciales y elimina adaptativamente las interacciones redundantes de los agentes basándose en la evidencia del tiempo de ejecución.
Modularidad: El marco está diseñado para ser modular, permitiendo que los mecanismos centrales se transfieran a otras arquitecturas de MAS basadas en aprendizaje con cambios mínimos.

4. Resultados Experimentales

LAMaS fue evaluado en cuatro bancos de pruebas: GSM8K, HumanEval, MATH y MMLU-Pro, contra líneas de base que incluyen estrategias no-MAS (CoT, SC) y orquestadores MAS aprendidos (MaAS, GDesigner, AgentDropout).

Reducción de Latencia: LAMaS logró la mejor latencia entre todas las líneas de base de MAS aprendidas evaluadas, reduciendo la latencia de extremo a extremo entre un 55.6% y un 75.6% en comparación con las líneas de base más fuertes (por ejemplo, reduciendo la latencia de 48.11s a 11.73s en GSM8K).
Preservación de la Precisión: A pesar de las significativas reducciones de latencia, LAMaS mantuvo una precisión competitiva o superior en comparación con las líneas de base (por ejemplo, 93.65% frente a 93.36% en GSM8K).
Eficiencia de Costes: El método también redujo significativamente los costes de API (por ejemplo, de 31.52 a 7.71 unidades en GSM8K) debido a un menor número de invocaciones de operadores.
Estudios de Ablación:
- Eliminar el controlador de tiempo de inferencia aumentó la latencia entre un 16.5% y un 21.1%.
- Eliminar la asignación de créditos de la ruta crítica degradó todas las métricas, confirmando la necesidad de las penalizaciones ponderadas por la ruta.
- Un enfoque "simple" de solo latencia (sin umbrales de precisión ni ponderación de la ruta crítica) resultó en caídas significativas de precisión con ganancias mínimas de latencia.
Transferibilidad: Al integrarse en otras arquitecturas (GDesigner y AgentDropout), el flujo de trabajo de LAMaS redujo consistentemente la latencia entre un 27% y un 39% preservando la precisión, demostrando su generalidad.

5. Significado y Reivindicaciones

El artículo afirma que LAMaS aborda una brecha fundamental en la orquestación de sistemas multi-agente: la incapacidad de los métodos actuales centrados en el coste o el rendimiento para controlar la latencia de ejecución de forma fiable.

Perspectiva Estructural: El trabajo destaca que la latencia es una propiedad de nivel de grafo determinada por la ruta crítica, lo que requiere una asignación de créditos especializada en lugar de recompensas aditivas uniformes.
Despliegue Práctico: Al reducir la latencia en más de un 50% sin sacrificar la precisión, LAMaS hace que el razonamiento multi-agente complejo sea más viable para el despliegue práctico en tiempo real.
Restricción de "No Hacer Daño": El uso de un umbral de precisión explícito ( $S_0$ ) asegura que la optimización de la latencia no ocurra a expensas del rendimiento de la tarea, un modo de fallo común en la optimización sin restricciones.
Generalizabilidad: La capacidad del marco para transferirse a otras arquitecturas de MAS sugiere que la orquestación consciente de la latencia es un requisito universal para los sistemas de agentes escalables, independientemente de la red de política subyacente específica.