Resumen Técnico: La Compensación Velocidad–Profundidad en Agentes Epistémicos para ARC-AGI-3

1. Declaración del Problema

El artículo aborda el desafío de la inducción interactiva de reglas dentro de la prueba de referencia ARC-AGI-3. A diferencia de las pruebas estáticas, ARC-AGI-3 sitúa a los agentes en entornos novedosos y por turnos donde las reglas y las condiciones de victoria están ocultas. Los agentes deben descubrir estas reglas mediante la interacción (acciones y observaciones) sin instrucciones previas.

La métrica de rendimiento, RHAE (Relación de Acciones Humanas a Acciones de IA, al cuadrado), impone una severa penalización cuadrática por la ineficiencia. Si un agente utiliza el doble de acciones que la mediana humana, recibe solo el 25% de crédito. Los autores argumentan que los modelos actuales de vanguardia fallan en esta prueba no debido a una falta de capacidad de razonamiento, sino a una falta de disciplina epistémica: no exploran el entorno para reducir la incertidumbre antes de comprometerse con un plan.

Además, el artículo identifica un defecto crítico en el conjunto de evaluación pública (25 juegos): no logra distinguir entre la exploración inteligente y las heurísticas triviales. Los autores demuestran que cada juego público es resoluble mediante estrategias no inteligentes (por ejemplo, acciones únicas ciegas, acciones repetidas con un presupuesto suficiente, o explotando una vulnerabilidad de coordenadas nulas a nivel de biblioteca). En consecuencia, el conjunto público no puede validar si un agente posee una inteligencia exploratoria genuina; solo el conjunto privado de 55 juegos sirve como una prueba válida.

2. Metodología

Marco Teórico: Compensación Velocidad–Profundidad

Los autores formalizan la interacción entre Velocidad (eficiencia de acción, $1/A_E$) y Profundidad (ganancia de información por acción, $\Delta H(b)/a$).

• Frente de Pareto: Postulan que una política óptima se encuentra en un frente de Pareto entre Velocidad y Profundidad.
• Suposición de Convexidad (A1): Asumiendo que el frente es convexo, la métrica RHAE actúa como una penalización de segundo orden por desviarse de este frente.
• Implicación: Los agentes que omiten la exploración (Profundidad = 0) o exploran en exceso (costo de Velocidad excesivo) incurren en penalizaciones cuadráticas. La estrategia óptima implica un equilibrio "Velocidad–Profundidad" donde el presupuesto de exploración es proporcional a la línea base humana.

Arquitectura: AERA (Agente de Razonamiento Epistémico Adaptativo)

AERA implementa una arquitectura de tres fases diseñada para navegar la compensación Velocidad–Profundidad:

1. EXPLORAR (Modo Profundidad): El agente realiza acciones para reducir la entropía de la creencia ($H(b_t)$). Las acciones se seleccionan para maximizar la ganancia de información esperada. La fase continúa hasta que el proxy de entropía (longitud del campo UNCERTAIN en la salida del LLM) cae por debajo de un umbral $\theta$.
   • Heurística de Presupuesto: El presupuesto de exploración $B_{max}$ se establece empíricamente en aproximadamente el 40% del conteo mediano de acciones humanas ($\alpha \approx 0.4$).
2. VERIFICAR: El agente realiza 1–3 acciones dirigidas para falsificar la hipótesis actual de Máxima Probabilidad A Posteriori (MAP). Si se falsifica, reingresa a la fase EXPLORAR.
3. PLANIFICAR + EJECUTAR (Modo Velocidad): Una vez que la incertidumbre es baja, el agente se compromete con un plan basado en la hipótesis verificada. La ejecución se aborta y se reingresa a EXPLORAR si ocurren observaciones inesperadas.

Detalles de Implementación

• Modelos: Los experimentos utilizan Qwen2.5-0.5B y Qwen2.5-1.5B.
• Proxy de Entropía: En lugar de un filtro de partículas formal, AERA utiliza la longitud de la salida estructurada UNCERTAIN del LLM como un proxy heurístico para la entropía de la creencia.
• Inscripción al Concurso: Una presentación separada (solucionador BFS con caché de pre-solución offline) implementa el mismo principio "EXPLORAR antes de PLANIFICAR" sin APIs de LLM, logrando RHAE=0.30 en el conjunto privado.

3. Resultados Clave

Rendimiento Empírico en Juegos Públicos (25 Juegos)

• AERA (0.5B, b=1): Logra RHAE = 0.2116, resolviendo 4/25 juegos (VC33, FT09, LP85, S5I5).
• Líneas Base:
  • Aleatorio: RHAE = 0.0000 (0/25 resueltos).
  • Sin-Explorar (B1): RHAE = 0.0000 (0/25 resueltos). El modelo de 0.5B falla al generar un plan sin una hipótesis explícita formada durante la exploración.
• Interacción de Capacidad del Modelo:
  • En un subconjunto de 5 juegos, el modelo de 0.5B con exploración (b=1) logra RHAE=0.5290, mientras que el modelo de 1.5B sin exploración logra 0.2645.
  • Sorprendentemente, el modelo de 1.5B con 1 paso de exploración forzada (b=1) obtiene 0.0000, desempeñándose peor que su contraparte sin exploración. Los autores hipotetizan que los modelos más grandes tienen distribuciones de acción más concentradas, lo que los hace menos propensos a activar accidentalmente condiciones de victoria serendípicas (como la victoria de una sola acción de FT09) en comparación con el modelo 0.5B más difuso.

Análisis de Validez de la Prueba de Referencia

Una investigación sistemática de los 25 juegos públicos revela:

• 10 juegos son resolubles en un solo paso ciego (5 mediante ACTION6, 5 mediante otras acciones ciegas).
• 5 juegos requieren ACTION6 después de una sola sonda.
• 1 juego requiere exploración diversa.
• 1 juego es resoluble repitiendo ACTION1.
• 8 juegos son resolubles repitiendo una sola acción 50–200 veces (con restricción de presupuesto).
• 18 juegos pueden eludirse en 1 paso mediante una vulnerabilidad de coordenadas nulas (llamar a ACTION6 con x=None, y=None desencadena una excepción de biblioteca mal clasificada como victoria).
• Conclusión: El conjunto público no puede discriminar la exploración inteligente de las heurísticas triviales. La prueba genuina de inteligencia sigue siendo el conjunto privado de 55 juegos.

Resultados del Concurso

La entrada de la pista de código vinculada (implementación basada en BFS del principio de explorar primero) logra RHAE = 0.30 en la evaluación privada completa de 55 juegos, superando el mejor resultado comunitario reportado de ~12.58% al momento de escribir este informe.

4. Significado y Afirmaciones

El artículo hace tres contribuciones principales:

1. Teórica: Interpreta la métrica cuadrática RHAE como una penalización del frente de Pareto Velocidad–Profundidad. Bajo una suposición de convexidad (probada para una clase de entornos de información uniforme), la métrica penaliza matemáticamente a los agentes que no logran equilibrar la ganancia de información con la eficiencia de acción.
2. Arquitectónica: Introduce AERA, un marco que gestiona explícitamente la transición de la exploración a la planificación basada en la entropía de la creencia. Esto demuestra que la exploración es necesaria para que los modelos más pequeños (0.5B) logren un RHAE distinto de cero, mientras que los modelos más grandes (1.5B) pueden depender de priores pero aún sufren si la exploración se fuerza incorrectamente.
3. Empírica/Crítica de la Prueba de Referencia: Proporciona una crítica rigurosa del conjunto de evaluación pública de ARC-AGI-3, mostrando que es inválido para medir la exploración porque todos los juegos son alcanzables mediante estrategias no inteligentes. Los autores argumentan que la brecha entre el rendimiento humano y el de la IA no es una brecha de razonamiento, sino una brecha de disciplina epistémica.

Afirmaciones Modestas:

• Los autores no afirman que AERA resuelva el problema general de ARC-AGI-3 o alcance el objetivo del 85%.
• La heurística del presupuesto de exploración ($\alpha \approx 0.4$) es un ajuste empírico, no una ley derivada.
• La suposición de convexidad (A1) no está probada para todos los entornos, solo para una clase específica.
• La victoria por "coordenadas nulas" se reporta como una vulnerabilidad de la prueba de referencia, no como una estrategia inteligente, y se excluye de las comparaciones legítimas de RHAE.

El artículo concluye que el principio "EXPLORAR antes de PLANIFICAR" es un mecanismo fundamental para el comportamiento de primer contacto en entornos novedosos, y que el progreso futuro hacia la AGI requiere arquitecturas que gestionen explícitamente la compensación entre la recopilación de información y la eficiencia de acción.