Resumen Técnico: MIRAGE (Agentes Móviles con Razonamiento Implícito y Modelos de Mundo Generativos)

1. Planteamiento del Problema

Los agentes móviles, que operan aplicaciones cotidianas a partir de capturas de pantalla y objetivos lingüísticos, enfrentan un compromiso crítico entre la capacidad de razonamiento y la eficiencia de despliegue. Los sistemas actuales de vanguardia (p. ej., UI-TARS, MAI-UI) dependen de una Cadena de Pensamiento (CoT) explícita, donde los modelos generan racionalidades textuales verbosas antes de ejecutar acciones. Si bien esto mejora la toma de decisiones, introduce una carga significativa:

• Ineficiencia: La generación de pensamientos textuales largos aumenta la latencia de decodificación y el consumo de tokens, ralentizando el control interactivo.
• Costo: La supervisión requiere datos de racionalidad escritos por humanos o sintéticos, lo que aumenta los costos de entrenamiento.
• Restricciones de Despliegue: En escenarios móviles del mundo real, cada token adicional retrasa la retroalimentación, lo que hace que el razonamiento explícito sea poco práctico para aplicaciones de baja latencia.

El desafío central es preservar las capacidades de razonamiento de múltiples pasos y de predicción del estado futuro de la CoT explícita, eliminando al mismo tiempo el costo de decodificar los pensamientos intermedios en texto visible.

2. Metodología

MIRAGE aborda esto desplazando el razonamiento del flujo de tokens visibles al espacio latente continuo. El marco emplea un proceso de entrenamiento de dos etapas e introduce dos componentes novedosos: el Refinamiento Latente Paralelo Aproximado (APLR) y un cabezal de Modelo de Mundo Q-Former.

2.1 Formulación del Pensamiento Latente

En lugar de generar una secuencia de tokens de texto $\tau_t$ seguida de una acción $a_t$, MIRAGE genera una secuencia de variables latentes continuas $z_t = (z_{t,1}, \dots, z_{t,N})$ dentro del contexto del decodificador. Estos espacios (slots) latentes representan los "pensamientos" internos del agente (observación, racionalidad y predicción futura) sin ser des-tokenizados. El proceso de inferencia solo decodifica los tokens de acción finales, reduciendo drásticamente la longitud de la salida.

2.2 Refinamiento Latente Paralelo Aproximado (APLR)

Para entrenar al modelo para razonar eficazmente en el espacio latente sin el costo prohibitivo de la generación serial, MIRAGE introduce APLR.

• Concepto: La CoT latente tradicional requiere un refinamiento serial (un paso a la vez), lo cual es computacionalmente costoso. APLR trata el bloque de pensamiento como $N$ espacios y los refina en paralelo a lo largo de $K$ rondas (estilo Jacobi).
• Mecanismo: En cada ronda $k$, todos los espacios latentes $z_i^{(k+1)}$ se actualizan simultáneamente utilizando los valores de la ronda $k$.
• Garantía Teórica: El método proporciona un límite demostrable sobre el error de aproximación. Después de $K$ rondas, los primeros $K$ espacios latentes coinciden exactamente con la solución serial, mientras que los espacios de la "cola" restantes retienen un error acotado.
• Eficiencia: Esto reduce el costo de entrenamiento de $N$ pasadas seriales a un pequeño número de pasadas sincrónicas ($K \ll N$), típicamente $K=3$.

2.3 Alineación del Modelo de Mundo Q-Former

Una limitación del refinamiento paralelo es que los espacios latentes de la "cola" (que a menudo contienen predicciones del estado futuro) pueden no estar suficientemente supervisados por la pérdida de solo acción. Para abordar esto, MIRAGE integra una perspectiva de Modelo de Mundo:

• Objetivo: El modelo es entrenado para predecir las características visuales de la próxima captura de pantalla ($x_{t+1}$) basándose en el estado de razonamiento latente actual.
• Arquitectura: Un cabezal Q-Former ligero alinea los estados latentes refinados con las características visuales de parada de gradiente (stop-gradient) extraídas de la siguiente captura de pantalla por un codificador de visión congelado.
• Beneficio: Esto obliga a los espacios latentes a codificar la dinámica del entorno y las predicciones de transición, evitando el colapso de la representación y proporcionando una supervisión densa para la dimensión de "predicción" del proceso de pensamiento.

2.4 Flujo de Entrenamiento de Dos Etapas

1. Etapa 1 (Calentamiento de CoT Explícita): El modelo es entrenado en trazas de texto estructuradas que contienen bloques de <THOUGHT> (observación, racionalidad, predicción) y <ACTION>. Esto enseña al núcleo el espacio de acción móvil y los patrones de razonamiento.
2. Etapa 2 (Destilación Latente): El bloque de texto <THOUGHT> se reemplaza con espacios latentes. El modelo es entrenado utilizando APLR para el refinamiento y el cabezal Q-Former para la alineación del modelo de mundo. La función de pérdida conjunta combina la Entropía Cruzada de Acción ($L_{ce}$) y la pérdida de alineación del Modelo de Mundo ($L_{wm}$).

3. Contribuciones Clave

El artículo reclama tres contribuciones principales:

1. Marco MIRAGE: Un agente móvil que razona enteramente en el espacio latente, logrando un rendimiento de nivel de CoT explícita con 3 a 5 veces menos tokens decodificados y una latencia de inferencia significativamente menor.
2. APLR: Un procedimiento de refinamiento paralelo de estilo Jacobi que aproxima la CoT latente serial completa a una fracción de su costo de entrenamiento, con un límite teórico en el error de aproximación de los espacios de la cola.
3. Cabezal de Modelo de Mundo Q-Former: Un mecanismo que alinea los estados de razonamiento latente con las características de la captura de pantalla futura, permitiendo al agente anticipar las transiciones de estado de la GUI y mejorar la capacidad de la tarea sin generar píxeles o texto en el momento de la inferencia.

4. Resultados Experimentales

MIRAGE fue evaluado en AndroidControl (seguimiento de instrucciones y precisión de acción) y AndroidWorld (completitud de tareas dinámicas en el dispositivo).

• AndroidControl:

  • MIRAGE-4B mejoró el Exact Match (EM) del 68.48% al 77.59% y la Precisión de Acción del 75.15% al 91.09% en comparación con la línea base Qwen3-VL-4B.
  • Reducción de Tokens: El promedio de tokens generados por paso cayó de ~115 a ~19 (una reducción del 83%).
  • Latencia: La latencia de primer-token-a-último-token se redujo de 1.8$\times$ a 2$\times$ en comparación con las líneas base fuertes.

• AndroidWorld:

  • MIRAGE-4B logró una Tasa de Éxito de Tarea (SR) del 52.6%, superando a la línea base Qwen3-VL-4B (42.9%) por 9.7 puntos porcentuales.
  • MIRAGE-8B logró un SR del 57.8%, una mejora de 10.2 puntos sobre su línea base.
  • Eficiencia: A pesar de mayores tasas de éxito, los modelos MIRAGE generaron ~70–75% menos tokens que sus líneas base.

• Estudios de Ablación:

  • Eliminar el objetivo del Modelo de Mundo (solo APLR) resultó en un menor rendimiento (48.2% SR frente a 52.6% para MIRAGE completo), confirmando la necesidad de la alineación con el estado futuro para refinar los espacios latentes de la cola.
  • Reducir los espacios latentes de 9 a 3 degradó significativamente el rendimiento, resaltando la necesidad de una capacidad continua suficiente para representar el razonamiento complejo.

5. Significado y Reclamaciones

El artículo posiciona a MIRAGE como una solución al "cuello de botella del razonamiento" en los agentes móviles. Reclama que:

• El Razonamiento Implícito es Viable: El razonamiento de alta calidad no requiere una salida textual verbosa; puede comprimirse efectivamente en estados latentes.
• Eficiencia sin Sacrificio: Al desacoplar el cómputo del razonamiento del flujo de tokens, los agentes pueden lograr la robustez de la CoT explícita mientras cumplen con las estrictas restricciones de latencia y presupuesto de tokens del despliegue móvil.
• Predicción del Estado Futuro: Integrar objetivos de modelo de mundo directamente en el proceso de razonamiento latente permite a los agentes anticipar los cambios en la interfaz, una capacidad que anteriormente era difícil de mantener en representaciones latentes compactas.

Los autores reconocen las limitaciones, señalando que el enfoque actual depende del entrenamiento supervisado, utiliza modelado de mundo a nivel de características (en lugar de nivel de píxeles) y requiere salvaguardas de privacidad y seguridad antes de su despliegue en el mundo real.