Resumen Técnico: ODYSSEYARENA

Declaración del Problema

Las evaluaciones actuales de los agentes de Modelos de Lenguaje de Gran Escala (LLM) dependen predominantemente de un paradigma deductivo. En estos entornos, se les proporcionan a los agentes reglas explícitas, objetivos estáticos y, a menudo, instrucciones de estándares de oro o documentación detallada de API. Aunque este enfoque es eficaz para evaluar el seguimiento de instrucciones y la planificación de corto horizonte, descuida la necesidad inductiva de que los agentes descubran autónomamente las leyes de transición latentes a partir de la experiencia. El despliegue en el mundo real requiere que los agentes exploren activamente los entornos, reaccionen a la retroalimentación e iteren el ajuste de sus acciones mediante la automejora sin reglas preespecificadas. Además, los benchmarks existentes suelen restringir los horizontes de interacción a menos de 50 pasos, fallando al capturar los desafíos de la acumulación de errores y la necesidad de coherencia estratégica a lo largo de miles de pasos. Existe una brecha crítica en la evaluación de la capacidad de un agente para inferir reglas ocultas y la dinámica de transición a partir de la experiencia interactiva en tiempo real.

Metodología

Para abordar estas brechas, los autores introducen ODYSSEYA ARENA, una suite de entornos interactivos diseñados para recentrar la evaluación de agentes en interacciones de largo horizonte, activas e inductivas.

Marco Teórico

Los autores formalizan los entornos interactivos como funciones generativas de transición de estado: $(s_{t+1}, r_t) = T(s_t, a_t)$, donde $s_t$ es un estado latente y $a_t$ es una acción del agente. La función de transición $T$ codifica implícitamente las reglas del entorno. Los agentes deben inducir la forma funcional de $T$ mediante la interacción estratégica. Los autores descomponen la dinámica del entorno en cuatro primitivas estructurales ortogonales:

1. Reglas Simbólicas Discretas: Lógica booleana sobre $N$ bits que requiere el descubrimiento de dependencias causales latentes.
2. Dinámica Estocástica Continua: Evolución en un espacio de estados continuo gobernado por factores latentes oscurecidos por el ruido, lo que requiere inferencia estadística.
3. Patrones Temporales Periódicos: Regularidades cíclicas que requieren la identificación de dependencias temporales de largo alcance para optimizar los compromisos multiobjetivo.
4. Estructuras de Grafos Relacionales: Interacciones no locales definidas por un grafo oculto $G$, que requieren razonamiento relacional sobre restricciones topológicas.

Instanciación del Entorno

Estas primitivas se materializan en cuatro entornos diversos (Figura 2):

• Turn On Lights (Encender Luces): Instancia reglas simbólicas discretas. Los agentes alternan luces interdependientes para alcanzar una configuración objetivo. Acoplamientos booleanos ocultos dictan los cambios de estado, requiriendo exploración activa para inferir la red lógica.
• AI Trading (Trading de IA): Instancia dinámica estocástica continua. Los agentes gestionan una cartera de múltiples activos donde las transiciones de precios son impulsadas por factores de mercado latentes ($z_t$) y una matriz de dependencia oculta ($W$). El éxito requiere separar la señal del ruido para ejecutar estrategias de trading de largo horizonte.
• Energy Dispatch (Despacho de Energía): Instancia patrones temporales periódicos. Los agentes asignan recursos térmicos, eólicos, solares y de batería bajo restricciones de presupuesto y demanda. El sistema presenta ciclos de eficiencia variables en el tiempo para fuentes renovables, lo que requiere que el agente anticipe fluctuaciones periódicas para evitar el colapso del sistema.
• Repo System (Sistema de Repositorios): Instancia estructuras de grafos relacionales. Los agentes configuran un proyecto de Python instalando/desinstalando paquetes. El entorno contiene un grafo de dependencias oculto donde las acciones inducen efectos secundarios no monotónicos (por ejemplo, actualizaciones/degradaciones automáticas), requiriendo un diagnóstico sistemático y razonamiento relacional.

Protocolos de Benchmark

Los autores establecen dos suites de benchmarking estandarizadas:

1. ODYSSEYARENA-LITE: Una suite estandarizada de 120 tareas curadas (30 por entorno) optimizada para una evaluación eficiente. Los horizontes de interacción son computacionalmente tratables (por ejemplo, 120–200 pasos) pero suficientes para necesitar planificación de largo horizonte y la inducción activa.
2. ODYSSEYARENA-CHALLENGE: Una suite de prueba de estrés con más de 1,000 pasos por tarea, diseñada para sondear los límites de la persistencia del agente, la estabilidad del razonamiento y el mantenimiento de la estrategia durante horizontes extremos.

Para asegurar la reproducibilidad y una comparación justa, todos los elementos estocásticos (por ejemplo, factores de mercado, curvas de eficiencia) se determinan previamente como secuencias fijas dentro de los metadatos de la tarea, eliminando la aleatoriedad en tiempo de ejecución mientras se preserva el desafío inductivo.

Contribuciones Clave

1. Nuevo Paradigma de Evaluación: El artículo propone un cambio del cumplimiento deductivo de instrucciones hacia el descubrimiento autónomo, centrándose en la inducción de la dinámica del mundo latente a través de la interacción de largo horizonte y activa.
2. Benchmark Fiable y Escalable: La instanciación del paradigma inductivo en ODYSSEYARENA, proporcionando ODYSSEYARENA-LITE como una suite estándar para la evaluación eficiente y ODYSSEYARENA-CHALLENGE para pruebas de estrés.
3. Evaluaciones y Perspectivas Extensas: Una evaluación exhaustiva de más de 15 modelos líderes (propietarios y de código abierto) que caracteriza el cuello de botella inductivo como una barrera fundamental para el descubrimiento autónomo.

Resultados Experimentales

Los autores evaluaron más de 15 modelos, incluyendo Gemini 3 Pro Preview, GPT-5, DeepSeek-V3.2 y varias series de Llama y Qwen.

• Brecha de Rendimiento: Incluso los modelos comerciales de frontera (por ejemplo, Gemini 3 Pro Preview) logran una tasa de éxito máxima del 44.17% en ODYSSEYARENA-LITE, significativamente por debajo del rendimiento humano (que alcanza el 81.67% en Turn On Lights y el 100% en Repo System).
• Inductivo vs. Deductivo: Un hallazgo crítico es la asimetría entre las capacidades deductivas e inductivas. Cuando se proporcionan reglas explícitas (la configuración "con reglas"), los modelos logran un éxito casi perfecto (por ejemplo, 100% en Turn On Lights). Sin embargo, sin estas reglas, el rendimiento cae precipitadamente, confirmando que el cuello de botella principal es el descubrimiento de la dinámica del mundo, no la complejidad de la lógica de la tarea en sí.
• Modos de Fallo: El análisis de las trayectorias de fallo (Tabla 3) revela que los problemas más prevalentes son las Limitaciones de Exploración (80.85% de los fallos), donde los agentes convergen a óptimos locales sin pruebas de hipótesis sistemáticas, y las Restricciones de Memoria (57.45%), donde los agentes fallan al recuperar evidencia clave de historiales largos. Se encontró que la Incapacidad de Planificación fue poco común (4.26%).
• Límites de Escalamiento: Aunque los modelos más grandes generalmente superan a los más pequeños, el fallo ubicuo en tareas que requieren la síntesis de patrones periódicos (Energy Dispatch) sugiere que el aumento de escala por sí solo es insuficiente para superar el cuello de botella inductivo para un modelado robusto de la estructura del mundo.
• Saturación de Largo Horizonte: Las curvas de tasa de éxito a menudo se estancan temprano, lo que indica que los presupuestos de interacción extendidos producen ganancias marginales insignificantes para los modelos que carecen de un modelo de mundo interno coherente.

Significancia

El artículo afirma que ODYSSEYARENA identifica un cuello de botella crítico en la búsqueda del descubrimiento autónomo en entornos complejos. Los resultados sugieren que los LLM actuales sobresalen en el cumplimiento deductivo pero carecen de la capacidad inductiva para sintetizar autónomamente la mecánica del entorno a partir de la experiencia. Este trabajo argumenta que la investigación futura hacia una inteligencia más agéntica debe priorizar arquitecturas capaces de destilar leyes de transición latentes a partir de la experiencia bruta, cerrando la brecha entre el seguimiento pasivo de reglas y el descubrimiento activo. El benchmark proporciona un marco riguroso para evaluar y mejorar estas capacidades, yendo más allá de las limitaciones de las evaluaciones estáticas, de corto horizonte y deductivas.