MOSAIC: A Unified Platform for Cross-Paradigm Comparison and Evaluation of Homogeneous and Heterogeneous Multi-Agent RL, LLM, VLM, and Human Decision-Makers

El artículo presenta MOSAIC, una plataforma de código abierto que unifica la comparación y evaluación de paradigmas de toma de decisiones heterogéneos (RL, LLM, VLM y humanos) en entornos multiagente mediante un protocolo de comunicación entre procesos, una abstracción de operadores unificada y un marco de evaluación determinista.

Lo esencial

Imagina que tienes un gran estadio de fútbol lleno de diferentes tipos de jugadores: algunos son robots programados (que aprenden jugando millones de veces), otros son genios de la lectura (modelos de lenguaje como yo, que piensan con palabras), algunos son artistas visuales (modelos que ven imágenes y texto), y finalmente, hay seres humanos reales.

El problema es que, hasta ahora, todos estos jugadores estaban en estadios separados. Los robots jugaban en un campo de matemáticas, los genios de la lectura en un campo de texto, y los humanos en un campo de realidad. Nadie podía ver cómo se comportaban todos juntos en el mismo partido, ni podía comparar quién era realmente mejor bajo las mismas condiciones.

MOSAIC es la solución a este caos. Es una nueva plataforma (un "super-estadio" virtual) que permite poner a todos estos jugadores diferentes en el mismo campo, jugando el mismo juego al mismo tiempo.

Aquí te explico cómo funciona, usando analogías sencillas:

1. El Traductor Universal (El Protocolo de Comunicación)

Imagina que el robot habla "código binario", el genio de la lectura habla "inglés poético" y el humano habla "español con gestos". Si intentas ponerlos en una habitación, no se entenderían.

MOSAIC actúa como un traductor universal y un árbitro estricto.

• Crea una "burbuja" alrededor de cada jugador (un proceso aislado) para que cada uno haga lo que sabe hacer sin romperse.
• Luego, les da un guion común: "Cuando veas esto, haz aquello".
• Esto permite que un robot, un modelo de lenguaje y un humano se pasen la pelota (o tomen decisiones) sin que nadie tenga que cambiar su forma de pensar o su código original.

2. El Director de Orquesta (La Interfaz Unificada)

En una orquesta, tienes violines, trompetas y baterías. Todos tocan instrumentos distintos, pero el director les da la misma señal para empezar.

MOSAIC tiene un "Director" (llamado Operator) que no le importa si el músico es un robot o un humano. Solo le importa que todos sigan el ritmo del juego.

• Si el robot necesita ver números, el Director se los da.
• Si el humano necesita ver una imagen, el Director se la muestra.
• Todos actúan al mismo tiempo, como si fueran un solo equipo, aunque sus cerebros funcionen de forma totalmente diferente.

3. El Campo de Pruebas Justo (Evaluación Cruzada)

Antes de MOSAIC, era como comparar la velocidad de un Ferrari con la de un caballo, pero el Ferrari corría en una pista de asfalto y el caballo en el barro. No era justo.

MOSAIC crea un campo de pruebas justo y repetible:

• Modo Manual: Es como tener una cámara lenta. Puedes pausar el juego y ver a un robot, un humano y un modelo de lenguaje tomando decisiones al mismo tiempo, lado a lado, para ver quién se equivoca y quién acierta.
• Modo Guion: Es como un experimento científico automático. Puedes decirle al sistema: "Juega 1,000 partidos con las mismas condiciones exactas" y te dará los resultados sin que nadie tenga que mirar la pantalla.

¿Por qué es esto importante?

Imagina que quieres crear un equipo de emergencia donde un humano, un robot y una IA deben trabajar juntos para salvar un edificio en llamas.

• ¿El robot entiende las órdenes del humano?
• ¿La IA puede predecir lo que hará el robot?
• ¿El humano puede confiar en la IA?

Con MOSAIC, los investigadores pueden simular estos escenarios hoy mismo. Pueden mezclar a un robot experto en fútbol con un modelo de lenguaje que nunca ha jugado, y ver si logran ganar juntos.

En resumen:
MOSAIC es el primer lugar donde puedes mezclar cerebros de silicio (robots), cerebros de texto (IA generativa), cerebros visuales (IA que ve) y cerebros humanos en una sola mesa de juego. Permite ver quién gana, quién pierde y cómo pueden aprender a trabajar juntos, todo bajo el mismo techo y con las mismas reglas.

Es como si por fin pudiéramos poner a un mago, un ingeniero y un atleta a construir una casa juntos, y tener una cámara que nos muestre exactamente cómo interactúan sus diferentes talentos.

Resumen técnico

Resumen Técnico: Plataforma MOSAIC

1. El Problema

A pesar del maduramiento independiente de los marcos de Aprendizaje por Refuerzo (RL) (como RLlib, CleanRL, Stable-Baselines3) y las Benchmarks de Modelos de Lenguaje (LLM) y Visión-Lenguaje (VLM) (como AgentBench, BALROG), existe una brecha crítica en la infraestructura de investigación:

• Falta de Unificación: No existe una plataforma que permita desplegar agentes de paradigmas de toma de decisiones diferentes (RL, LLM, VLM y humanos) dentro del mismo entorno de manera simultánea.
• Incompatibilidad de Interfaces: Los entrenadores de RL esperan observaciones tensoriales y producen acciones enteras; los agentes LLM esperan prompts de texto y generan respuestas de texto; y los operadores humanos requieren interfaces interactivas.
• Limitaciones en la Evaluación: La literatura actual sobre trabajo en equipo ad hoc (AHT) y coordinación sin ceros (ZSC) asume que todos los agentes comparten las mismas representaciones de observación y acción. Esto impide estudiar escenarios realistas donde los compañeros de equipo operan bajo paradigmas cualitativamente distintos.

2. Metodología y Arquitectura

MOSAIC es una plataforma de código abierto diseñada bajo una arquitectura de tres niveles para separar la orquestación, la comunicación y la ejecución, permitiendo la integración de frameworks de terceros sin modificar su código fuente.

• Capa de Orquestación (GUI Qt6): Actúa como el plano de control autoritativo. Gestiona el ciclo de vida de los procesos, supervisa el estado y proporciona una interfaz visual en tiempo real. Nunca incrusta lógica algorítmica, solo coordina.
• Protocolo de Trabajadores (IPC):
  • Utiliza un protocolo basado en IPC (Comunicación entre Procesos) mediante stdin/stdout con JSON ligero.
  • Cada agente (RL, LLM, VLM, Humano) se ejecuta como un subproceso aislado (worker). Esto permite que frameworks nativos (como CleanRL o BALROG) se ejecuten sin cambios, comunicándose a través de un protocolo versionado.
  • Incluye mecanismos de latencia y recuperación de fallos (heartbeats y restauración de checkpoints).
• Abstracción de Operador (Operator Abstraction):
  • Define una interfaz unificada (OperatorController) que mapea los trabajadores a ranuras de agentes en el entorno.
  • Estándariza la interacción mediante dos modos: select_action (modo secuencial) y select_actions (modo paralelo).
  • Soporta tipos de agentes: RL, LLM, VLM, Humano, Aleatorio (baselines) y Nulo.
• Evaluación Trans-Paradigma:
  • Modo Manual: Permite avanzar paso a paso (lock-step) bajo semillas compartidas, visualizando el comportamiento de diferentes agentes lado a lado con etiquetas de color.
  • Modo Script: Ejecuta evaluaciones automatizadas y reproducibles mediante scripts declarativos en Python, generando telemetría JSONL.

3. Contribuciones Clave

El artículo presenta tres contribuciones principales:

1. Protocolo de Trabajadores Basado en IPC: Envuelve marcos nativos y de terceros como procesos aislados, permitiendo que cada uno ejecute su lógica de entrenamiento e inferencia sin modificaciones, comunicándose a través de un protocolo estandarizado.
2. Abstracción de Operador: Crea una interfaz de nivel de agente unificada. Independientemente de si el agente es una política de RL, un LLM o un humano, todos se ajustan a la misma interfaz mínima, facilitando la composición de equipos heterogéneos.
3. Marco de Evaluación Determinista: Ofrece dos modos complementarios para comparar paradigmas bajo condiciones idénticas (semillas compartidas), permitiendo tanto la inspección visual detallada como la experimentación automatizada a largo plazo.

4. Resultados y Configuraciones Experimentales

Aunque el artículo se centra en la infraestructura, define un diseño experimental riguroso para evaluar la cooperación y competencia trans-paradigma:

• Soporte de Entornos: La plataforma integra 26 familias de entornos (incluyendo MiniGrid, MultiGrid, Melting Pot, Griddly) y soporta 8 tipos de trabajadores.
• Configuraciones de Prueba:
  • Equipos Homogéneos vs. Heterogéneos: Compara equipos formados solo por RL, solo por LLM, o mixtos (ej. 1 RL + 1 LLM).
  • Escenarios Adversarios: Evalúa equipos de RL contra equipos de LLM/VLM bajo las mismas semillas.
  • Transferencia Solo-a-Equipo: Los agentes de RL se entrenan individualmente (N=1) y se congelan. Luego se despliegan con agentes LLM/VLM sin ningún ajuste fino (fine-tuning), aislando la variable del paradigma de toma de decisiones.
• Integración: Se demuestra la capacidad de integrar frameworks como CleanRL, XuanCe, Ray RLlib y BALROG con menos de 120 líneas de código de "pegamento" (glue code) y sin tocar el código fuente original.

5. Significado e Impacto

• Cierre de la Brecha de Evaluación: MOSAIC es la primera infraestructura que permite una comparación justa y reproducible entre agentes de RL, LLM, VLM y humanos en entornos multiagente compartidos.
• Investigación de Trabajo en Equipo Ad Hoc: Permite estudiar cómo agentes con representaciones de observación y acción radicalmente diferentes (tensoriales vs. textuales vs. visuales) pueden cooperar o competir sin coordinación previa.
• Reproducibilidad y Estándar: Al estandarizar la interfaz del agente (complementando la estandarización del entorno de Gymnasium), facilita la investigación comunitaria abierta.
• Limitaciones Definidas: El sistema reconoce explícitamente que los agentes LLM/VLM se limitan a dominios de cuadrícula discreta (grid-worlds) debido a las limitaciones actuales en la razonamiento espacial de bajo nivel y la latencia de control en dominios continuos (como MuJoCo), donde los agentes de RL siguen siendo superiores.

Conclusión:
MOSAIC no es solo un benchmark, sino una plataforma unificada que habilita la próxima generación de investigación en sistemas multiagente, permitiendo a los investigadores explorar la sinergia (o interferencia) entre la inteligencia artificial clásica (RL), la inteligencia generativa (LLM/VLM) y la inteligencia humana en un mismo espacio de pruebas controlado.

Recursos:

• Código Fuente: https://github.com/Abdulhamid97Mousa/MOSAIC
• Documentación: https://mosaic-platform.readthedocs.io