Resumen Técnico: Redes Coordinadas para la Comunicación en Tiempo Real Aumentada por Agentes en Dispositivos

1. Planteamiento del Problema

El surgimiento de los agentes de IA está impulsando un nuevo paradigma en la Comunicación en Tiempo Real (RTC): la RTC Aumentada por Agentes. En este modelo, los agentes de IA se ejecutan localmente en los dispositivos de los usuarios para recuperar, analizar y generar información de forma autónoma para apoyar la colaboración humana (por ejemplo, la coautoría de documentos legales o el resumen de registros de reuniones).

Si bien los agentes en el dispositivo ofrecen ventajas significativas en cuanto a privacidad (manteniendo los datos sensibles cifrados de extremo a extremo) y costo (descargando la inferencia de GPU de la nube), introducen un desafío de red crítico: la contención entre flujos de tráfico heterogéneos.

• Flujos de Video Humano: Requieren baja latencia (<150 ms) y alta calidad, gestionados típicamente por un control de congestión basado en el retardo (por ejemplo, GCC).
• Flujos de Contexto de Agente: Implican la transmisión de grandes cachés de Clave-Valor (KV) (hasta 80 MB tras la compresión) para permitir una inferencia de LLM rápida. Estos flujos utilizan un control de congestión basado en la pérdida (por ejemplo, SCTP) para maximizar el rendimiento, llenando agresivamente los búferes de red.

El Conflicto Central: Cuando estos flujos comparten una red, la naturaleza agresiva de los flujos de contexto de los agentes causa retrasos de cola para el video humano. Esto provoca que los controladores de video basados en el retardo reduzcan drásticamente las tasas de bits (por ejemplo, una caída del 53% en las puntuaciones VMAF) y se recuperen lentamente (>30 segundos). Además, cuando múltiples agentes transmiten contextos simultáneamente para una sola consulta, la programación estándar de turno rotatorio (round-robin) conduce a retrasos de cola inflados y recursos de cómputo subutilizados, aumentando el tiempo de respuesta del agente hasta en un 56%.

2. Metodología: Marco HAFS

Los autores proponen HAFS (Human-Agent Flow Scheduling), un marco de redes coordinadas diseñado para garantizar simultáneamente una alta calidad de video y una baja latencia de respuesta del agente. HAFS opera como una capa de transporte de flujos múltiples guiada por la aplicación sobre WebRTC y llama.cpp estándar, sin requerir modificaciones en la infraestructura de red subyacente.

2.1 Arquitectura del Sistema

HAFS utiliza una arquitectura de Unidad de Reenvío Selectivo (SFU) común en la RTC moderna. Introduce dos coordinadores que operan en la capa de aplicación tanto en el emisor como en la SFU:

1. Coordinador de Flujo Humano-Agente: Controla conjuntamente las tasas de envío de los flujos de video (RTP) y de contexto de agente (SCTP).
2. Coordinador de Flujo Multi-Agente: Programa el orden de transmisión de los flujos de agentes concurrentes para minimizar el tiempo de respuesta total.

2.2 Componentes Clave del Diseño

A. Coordinación de Flujo Humano-Agente

Para resolver la contención entre el tráfico de video y el de agentes, HAFS emplea un mecanismo de control de tasa consciente de la cola a nivel de cuadro:

• Estimador de Doble Retroalimentación: Estima el retardo de la cola combinando la retroalimentación de RTP (retraso de paquetes) con los ACKs de SCTP. Los ACKs de SCTP pueblan densamente los intervalos de inactividad entre los cuadros de video, lo que permite al sistema medir la cola causada específicamente por el tráfico del agente sin interferir con el ritmo (pacing) nativo de RTP.
• Control de Tasa Conjunto (MI/AI-MD): El sistema aumenta la tasa de envío agregada hasta que el retardo de la cola a nivel de cuadro se acerca, pero no excede, la fecha límite especificada por la aplicación (por ejemplo, 150 ms).
  • Incremento Multiplicativo (MI): Aumenta rápidamente la tasa cuando la cola está vacía.
  • Incremento Aditivo (AI): Aumenta suavemente la tasa cuando la cola se está formando pero permanece por debajo de la fecha límite.
  • Disminución Multiplicativa (MD): Reduce la tasa si se aproxima la fecha límite.
• Asignación de Ancho de Banda: Una vez determinada la tasa total, el sistema provisiona estrictamente la tasa de bits requerida para el video en vivo y asigna la capacidad de "holgura" restante a los flujos de agentes.
• Ancho de Banda Probado por el Agente: Dado que los flujos de agentes a menudo sondean a tasas superiores a las del video, el sistema utiliza el rendimiento observado del agente para estimar el ancho de banda disponible, permitiendo que el controlador de video se recupere rápidamente de la congestión sin esperar a los lentos bucles de retroalimentación basados en el retardo.

B. Coordinación de Flujo Multi-Agente

Para manejar múltiples flujos de contexto concurrentes, HAFS trata el problema de programación como un problema de taller de dos máquinas (transmisión de red seguido de decodificación de LLM).

• Programación Consciente de Pipelining: El sistema predice el tiempo de transmisión ($T_{net}$) y el tiempo de computación ($T_{comp}$) para cada flujo. Aplica la regla de Johnson para determinar el orden de transmisión óptimo:
  • Los flujos donde $T_{net} \le T_{comp}$ se programan primero (ordenados por $T_{net}$ ascendente).
  • Los flujos donde $T_{net} > T_{comp}$ se programan al final (ordenados por $T_{comp}$ descendente).
• Estrategia de Predicción: Dado que la longitud de la salida del LLM es desconocida antes de la decodificación, HAFS realiza una decodificación de LLM de un solo paso ligera utilizando la caché KV preconstruida para predecir la longitud de la respuesta. Esta predicción se utiliza únicamente para el orden relativo, lo que hace que el sistema sea robusto ante errores de predicción absoluta.
• Mecanismos de Robustez:
  • Actualización Dinámica de Prioridad: Reevalúa las prioridades si el ancho de banda de la red fluctúa significativamente (>20%).
  • Prefill Solapado: Si la transferencia de red es más lenta que el prefill local, el sistema transmite oportunamente el contexto de texto bruto antes de la caché KV para mantener ocupados los recursos de cómputo del receptor.

3. Contribuciones Clave

1. Identificación de un Nuevo Paradigma de Red: El artículo destaca los problemas de contención específicos que surgen de la coexistencia de video de baja latencia y flujos de contexto de agentes con alto rendimiento en la RTC en el dispositivo, un escenario no abordado por las arquitecturas de RTC tradicionales o de agentes basados en la nube.
2. Transporte de Flujos Múltiples Guiado por la Aplicación: HAFS introduce un orquestador unificado en la capa de aplicación que logra una precisión similar a la de la red mediante la programación de flujos, aprovechando los RTT cortos de las arquitecturas basadas en SFU, evitando la necesidad de modificaciones a nivel de router.
3. Nuevo Mecanismo de Control de Tasa: El diseño de un estimador de cola a nivel de cuadro que utiliza los ACKs de SCTP para aislar la cola inducida por el agente del tráfico de video, permitiendo la optimización simultánea de la calidad de video y el rendimiento del agente.
4. Pipelining de Computación-Red: La formulación de la programación de flujos multi-agente como un problema de taller de flujo, utilizando la predicción ligera de LLM para minimizar la latencia de respuesta de extremo a extremo.

4. Resultados Experimentales

Los autores prototiparon HAFS utilizando WebRTC y llama.cpp, evaluándolo en diversos entornos (MacBook Pro, Samsung Galaxy S25, NVIDIA Jetson Orin Nano) y redes (Wi-Fi 6, 5G).

• Calidad de Video: HAFS logra una calidad de video 1.5× mayor (medida por VMAF) en comparación con las líneas base (Zoom, Teams) cuando los flujos de agentes están activos, manteniendo efectivamente una calidad de video comparable a la transmisión de solo video.
• Latencia del Agente: HAFS reduce el tiempo de respuesta del agente en un 31% en comparación con las líneas base de última generación.
• Escalabilidad: El sistema mantiene las mejoras de rendimiento a través de diferentes números de flujos de agentes concurrentes, diferentes modelos de LLM (familias Qwen, Llama) y diversas condiciones de red.
• Sobrecarga: El marco incurre en una sobrecarga insignificante en consumo de energía, CPU y uso de memoria.

5. Significado

El artículo afirma que HAFS proporciona una solución práctica y desplegable para la próxima generación de aplicaciones colaborativas de IA. Al permitir la RTC aumentada por agentes en el dispositivo, aborda los desafíos duales de privacidad (evitando la exposición de datos en la nube) y costo (reduciendo la dependencia de GPU en la nube) mientras resuelve la contención de red inherente que anteriormente hacía que tales sistemas fueran inviables. El trabajo demuestra que, con estrategias de transporte coordinadas y guiadas por la aplicación, es posible soportar cargas de trabajo de IA de alto ancho de banda y baja latencia junto con la comunicación humana en tiempo real sin comprometer la experiencia del usuario.