💬 NLP

Beyond tokens: a unified framework for latent communication in LLM-based multi-agent systems

Este artículo introduce un marco unificado que categoriza los métodos emergentes para la comunicación latente en sistemas multiagente basados en LLM a lo largo de tres ejes —tipo de información, estrategia de alineación y mecanismo de fusión— para organizar sistemáticamente la literatura, identificar patrones de diseño y resaltar desafíos clave para investigaciones futuras.

Autores originales: Yingzhuo Liu

Publicado 2026-06-05

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Yingzhuo Liu

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un equipo de asistentes de IA expertos trabajando juntos para resolver un rompecabezas complejo. Actualmente, la forma estándar en que trabajan es como un grupo de personas pasándose notas de ida y vuelta. Una persona piensa, escribe una nota, se la pasa a la siguiente persona, quien la lee, piensa, escribe una nueva nota y la pasa a continuación.

Este artículo argumenta que este método de "pasarse notas" (usar lenguaje natural) es ineficiente y un desperdicio. Propone una nueva forma para que estos agentes de IA se comuniquen: la Comunicación Latente. En lugar de escribir notas, se pasan mutuamente sus "pensamientos" crudos y sin filtrar directamente.

Aquí hay un desgido de las ideas del artículo usando analogías simples:

1. El problema de "Pasarse Notas" (Lenguaje Natural)

Cuando los agentes de IA hablan usando texto normal, tres cosas salen mal:

Es lento y costoso: Cada vez que un agente escribe una nota, tiene que traducir sus pensamientos internos complejos en palabras (tokens). El siguiente agente entonces tiene que leer esas palabras y traducirlas de nuevo en pensamientos. Esto es como traducir un libro al francés, entregarlo, y que el receptor lo traduzca de nuevo al inglés solo para entender la trama. Desperdicia una enorme cantidad de potencia de cómputo.
La información se pierde: El "pensamiento" interno de una IA es una película en 3D de alta definición y gran escala. Cuando escribe una nota, tiene que comprimir esa película en una sola oración (unas pocas palabras). Es como intentar describir toda una sinfonía diciendo solamente "Era ruidosa". El receptor pierde todos los detalles sutiles, probabilidades e ideas alternativas que el emisor consideró.
Es ruidoso: El lenguaje humano está lleno de relleno, cortesía y palabras vagas. Los agentes de IA a menudo pierden tiempo diciendo "Yo creo..." o "Tal vez..." cuando podrían simplemente enviar los datos crudos.

2. La Solución: "Pasar el Cerebro" (Comunicación Latente)

En lugar de escribir notas, el emisor simplemente le entrega al receptor una unidad USB que contiene su estado interno exacto.

La "Unidad USB" (Datos Latentes): Esto podría ser los números crudos (embeddings) con los que la IA comenzó, los cálculos intermedios (estados ocultos/hidden states) que realizó mientras pensaba, o el "banco de memoria" (KV-cache) que fue construyendo.
El Beneficio: El receptor conecta este drive e instantáneamente "sabe" lo que el emisor sabe, sin tener que leer una sola palabra. Se salta el paso de la traducción por completo. Esto ahorra tiempo, mantiene toda la información intacta y elimina el ruido.

3. La "Receta de Tres Partes" para construir estos sistemas

El artículo organiza todas las formas en que los investigadores están intentando hacer esto en un marco simple con tres preguntas (Ejes):

¿QUÉ están enviando? (El Contenido)
- El Borrador: Enviar solo la entrada básica (Embeddings).
- Los Borradores: Enviar los pensamientos intermedios (Estados Ocultos).
- El Archivo Completo: Enviar todo el banco de memoria de cálculos (KV-Caches). Esto contiene la mayor cantidad de información pero es el archivo más grande para enviar.
¿QUÉ parte se conecta con cuál? (La Alineación)
- El Relevo: ¿El pensamiento final del emisor va al primer pensamiento del receptor? ¿O coinciden capa por capa (como conectar engranajes específicos en dos máquinas diferentes)?
¿CÓMO lo mezclan? (La Fusión)
- Pegarlo encima: Pegar los nuevos datos al frente o al final de los pensamientos actuales del receptor.
- Mezclarlo dentro: Sumar los números matemáticamente.
- Mirarlo: Usar un mecanismo especial de "atención" para permitir que el receptor se enfoque en las partes más importantes de los datos del emisor.

4. Lo que el artículo encontró

Los autores analizaron 18 métodos diferentes propuestos entre 2024 y 2026 y encontraron patrones claros:

La tendencia de "Sin Entrenamiento": La mayoría de estos métodos funcionan inmediatamente sin necesidad de enseñar nada nuevo a la IA. Puedes simplemente conectarlos a modelos existentes.
El ganador del "Banco de Memoria": Los métodos que envían el "banco de memoria" completo (KV-Caches) se están volviendo los más populares porque preservan la mayor cantidad de información y ofrecen las mayores mejoras de velocidad (a veces haciendo las tareas 24 veces más rápidas).
El Intercambio (Trade-off): Enviar datos más detallados (como el banco de memoria completo) es más rápido e inteligente, pero requiere que la IA emisora y la receptora estén construidas de manera muy similar. Si son construidas de forma diferente, es más difícil conectarlas sin entrenamiento adicional.

5. Los Grandes Desafíos (¿Qué sigue?)

El artículo señala que este campo es aún joven y enfrenta varios obstáculos:

El Problema del "Traductor Universal": Todavía es difícil lograr que una IA construida por una empresa hable directamente con una IA construida por otra empresa sin un traductor.
Seguridad: Dado que estos mensajes son números invisibles, no palabras, es difícil para los humanos verificar si una IA está enviando un mensaje "envenenado" que engañe al receptor.
Dispositivos Edge: Enviar enormes "bancos de memoria" es genial para computadoras potentes, pero es difícil de hacer en dispositivos pequeños como teléfonos o robots que tienen batería y memoria limitadas.

Resumen

Este artículo es un mapa para una nueva forma en que los agentes de IA pueden hablar. En lugar de mensajes de texto habladores, lentos y con pérdida de información, se están moviendo hacia transferencias de datos directas y de alta velocidad. Los autores proporcionan un lenguaje unificado para describir estos nuevos métodos, ayudando a los investigadores a determinar la mejor manera de construir equipos de IA más rápidos, inteligentes y eficientes.

Resumen Técnico: Más allá de los tokens: Un marco unificado para la comunicación latente en sistemas multi-agente basados en LLM

1. Planteamiento del problema

Los sistemas multi-agente (MAS) construidos sobre Modelos de Lenguaje de Gran Escala (LLM) dependen actualmente del lenguaje natural (NL) como su protocolo de comunicación principal. Aunque es interpretable, este intercambio de tokens uno a uno sufre tres limitaciones estructurales:

Alto costo de inferencia: Cada mensaje requiere que el emisor decodifique su razonamiento interno en tokens y que el receptor los vuelva a codificar, duplicando la carga computacional ( $O(L \cdot T \cdot d)$ ) solo para la comunicación.
Pérdida de información: La discretización de un estado oculto de alta dimensión (que porta aproximadamente ~40,000 bits) en un solo token (limitado por $\log_2 V \approx 15$ bits) descarta confianzas calibradas, caminos de razonamiento alternativos y distinciones semánticas finas.
Redundancia y ambigüedad: El lenguaje natural está optimizado para la fluidez, no para la densidad de información, lo que genera una sobrecarga de marcadores de cortesía, atenuaciones y referentes vagos.

La Comunicación Latente propone una alternativa donde los agentes intercambian representaciones internas continuas (embeddings, estados ocultos o KV-caches) directamente, eludiendo el cuello de botella del lenguaje para preservar la información y reducir la latencia, aunque a costa de la interpretabilidad humana.

2. Metodología: Un marco unificado de 3 ejes

El artículo introduce un marco unificado para organizar la literatura en rápida expansión sobre la comunicación latente. Descompone cualquier protocolo de comunicación latente en tres ejes ortogonales:

Eje 1: QUÉ (Tipos de información comunicada)

Este eje define la cantidad continua expuesta por el emisor:

Embeddings: Vectores de la capa de entrada (ej. CIPHER). Menos informativos pero de arquitectura ligera.
Estados Ocultos (Hidden States): Salidas de capas intermedias (ej. AC, Interlat, SDE). Codifican el razonamiento intermedio pero carecen de la plenitud de las claves de atención del contexto.
KV-Caches: Pares Clave-Valor de los mecanismos de atención (ej. KVComm, Cache-to-Cache). Máximamente informativos, permitiendo al receptor "reanudar" el contexto del emisor, pero con el mayor costo de transmisión y dependencia arquitectónica.
Otros: Deltas de estado, memoria persistente o inyecciones latentes visuales (ej. Vision Wormhole).

Eje 2: CUÁL (Alineación Emisor–Receptor)

Este eje define cómo el espacio latente del emisor se mapea al del receptor:

Alineación de Información Latente: Oscila desde espacios idénticos (mismo modelo) hasta cabezales de proyección aprendidos (backbones homogéneos) o códecs universales (arquitecturas heterogéneas).
Alineación de Capas:
- Última $\to$ Primera: La última capa del emisor se mapea a la primera capa del receptor.
- Todas $\to$ Correspondiente: La capa $\ell$ del emisor se mapea a la capa $\ell$ del receptor (común en métodos de KV-cache).
- Seleccionada $\to$ Seleccionada: Selección heurística o aprendida de capas específicas.

Eje 3: CÓMO (Estrategia de fusión de información)

Este eje define cómo el latente recibido se integra en la computación del receptor:

Concatenación: Anexar el latente al prompt o al estado oculto.
ación (Prepending): Insertar el latente (especialmente KV-caches) al inicio de la secuencia del receptor.
Operaciones Matemáticas: Suma elemento a elemento o proyecciones lineales aprendidas (ej. sumar deltas de estado).
Atención Cruzada (Cross-Attention): El receptor atiende sobre un conjunto de latentes de pares.
Restauración de Caché: Reemplazar o trasplantar directamente partes del KV-cache del receptor para evitar la recomputación.

3. Contribuciones clave

El artículo realiza cuatro contribuciones principales:

Marco Unificado: Propone la descomposición QUÉ/CUÁL/CÓMO, proporcionando un vocabulario compartido para categorizar y comparar métodos de comunicación latente.
Categorización Sistemática: Analiza 18 métodos representativos publicados entre 2024 y 2026, mapeándolos en el marco e identificando cinco patrones de diseño generalizables (ej. el compromiso entre riqueza de información y costo de transporte).
Síntesis Empírica: Resume los resultados reportados, destacando que los métodos latentes reducen consistentemente la latencia en 2–24 $\times$ y el uso de tokens en 3–4 $\times$ en comparación con NL-Comm, con una precisión a menudo competitiva o superior a las bases de referencia.
Desafíos Abiertos: Identifica seis problemas abiertos críticos:
- Alineación de Arquitecturas Cruzadas: Ir más allá de las suposiciones de mismo modelo sin un entrenamiento pesado.
- Seguridad: Abordar la opacidad de los canales latentes frente a perturbaciones adversarias.
- Compresión: Desarrollar mejor cuantización y compresión para despliegue en el borde (edge).
- Comprensión Teórica: Establecer límites de la teoría de la información sobre la aceleración y la transmisión de información.
- Unificación de Latent CoT: Cerrar la brecha entre el razonamiento latente intra-agente y la comunicación latente inter-agente.
- Despliegue en el Mundo Real: Adaptarse a las restricciones del borde (batería, memoria, ancho de banda).

4. Resultados y Hallazgos

El artículo sintetiza los hallazgos de los 18 métodos analizados:

Latencia: La comunicación latente ofrece aceleraciones significativas, con Interlat reportando hasta 24 $\times$ de aceleración en tareas de contexto largo y Agent Memory logrando aceleraciones de 136 $\times$ en el TTFT (Tiempo para el Primer Token) mediante el almacenamiento en disco de la caché de KV.
Precisión: Métodos como SDE (State Delta Trajectory) y Mixture of Thoughts (MoT) reportan ganancias de estado del arte en razonamiento complejo y benchmarks fuera de distribución.
Régimen de Entrenamiento: Una tendencia sorprendente es el dominio de los métodos libres de entrenamiento (ej. CIPHER, KVComm, RelayCaching), que dependen de la alineación arquitectónica en lugar de adaptadores aprendidos. El entrenamiento es necesario principalmente para la alineación heterogénea o funciones de fusión complejas.
Dominio de KV-Cache: Los métodos basados en KV-cache están emergiendo como el estándar para la comunicación de alta fidelidad, a pesar de sus mayores costos de transmisión, debido a su capacidad para preservar el contexto completo del emisor.

5. Significado y Reivindicaciones

El artículo afirma que su importancia radica en bajar la barrera de entrada para nuevos investigadores al proporcionar una taxonomía estructurada para un campo fragmentado. Argumenta que el campo se está moviendo de implementaciones ad-hoc hacia un espacio de diseño sistemático.

Los autores no pretenden que la comunicación latente sea un reemplazo universal para el lenguaje natural. En su lugar, postulan una visión híbrida: el lenguaje natural sigue siendo superior para la supervisión humana, la depuración y la auditoría de seguridad, mientras que la comunicación latente es preferible para la señalización estrechamente acoplada entre agentes intermedios donde la latencia y la densidad de información son críticas.

El artículo concluye que los próximos 12 a 18 meses probablemente verán nuevos métodos, benchmarks y comprensiones teóricas, impulsados por la necesidad de resolver los problemas abiertos identificados, particularmente la alineación de arquitecturas cruzadas y la seguridad.