Resumen Técnico: Compresión Prospectiva en el Aprendizaje de Abstracciones Humanas

Enunciado del Problema

El artículo aborda un desafío central en la síntesis de programas y el modelado cognitivo: el aprendizaje de bibliotecas en línea. Se trata de la adquisición incremental de abstracciones reutilizables (ayudantes) bajo incertidumbre sobre las demandas futuras de tareas. Los enfoques computacionales existentes, como DreamCoder y Stitch, tratan el aprendizaje de bibliotecas como compresión retrospectiva. Estos algoritmos descubren iterativamente una biblioteca de subprogramas que comprime al máximo un corpus estático de tareas pasadas.

Sin embargo, los autores argumentan que los dominios de aprendizaje del mundo real a menudo son no estacionarios, donde las tareas surgen de un proceso generativo que evoluciona con el tiempo. En tales contextos, un aprendiz debe decidir qué abstracciones formar basándose únicamente en las tareas vistas hasta ese momento, sin conocimiento de la distribución completa de tareas. La pregunta central es si el aprendizaje de bibliotecas humanas está impulsado por la compresión de datos pasados (retrospectiva) o por la anticipación y compresión de tareas futuras (prospectiva).

Metodología

La Tarea del Constructor de Patrones (PBT)

Para investigar esto, los autores utilizan la Tarea del Constructor de Patrones, un paradigma de síntesis de programas visuales.

• Dominio: Los participantes reconstruyen patrones geométricos binarios de $10 \times 10$.
• Mecanismo: Las soluciones se expresan como programas compuestos por un Lenguaje Específico de Dominio (DSL) fijo que contiene 6 primitivas geométricas y 7 operadores de transformación (3 binarios, 4 unarios).
• Aprendizaje de Bibliotecas: Los participantes pueden guardar cualquier construcción intermedia como un "ayudante". Estos ayudantes persisten a través de los ensayos y funcionan como nuevas primitivas, permitiendo la construcción incremental de una biblioteca reutilizable.

Diseño Experimental

Los autores diseñaron dos experimentos con currículos latentes complementarios para disociar entre estrategias de compresión retrospectiva y prospectiva:

1. Experimento 1 (Currículo Secuencial): Las tareas siguen una estructura autorregresiva donde cada objetivo es una transformación de una solución precedente. Esta estructura es resoluble mediante compresión retrospectiva, ya que las soluciones pasadas informan directamente a las futuras.
2. Experimento 2 (Currículo de Grupo de Operadores): Las tareas se organizan en grupos de cuatro. Dentro de un grupo, todos los objetivos comparten un subprograma latente común (ayudante) combinado con un conjunto fijo de cuatro operadores distintos. Crucialmente, los ensayos consecutivos en un grupo tienen baja similitud superficial, lo que dificulta inferir la estructura compartida a partir de las tareas pasadas inmediatas. Este diseño requiere compresión prospectiva: inferir el proceso generativo latente para anticipar el ayudante compartido para todo el grupo.

Modelos Computacionales

Los autores evaluaron el comportamiento humano frente a una familia de modelos computacionales:

1. Línea Base (Sin Biblioteca): Búsqueda exhaustiva de abajo hacia arriba sin abstracción.
2. Modelos de Compresión Retrospectiva:
   • RC (Compresión Retrospectiva): Selecciona ayudantes de manera codiciosa para maximizar la utilidad de compresión sobre el corpus de tareas pasadas (similar a DreamCoder).
   • GL (Aprendizaje de Biblioteca Codiciosa): Selecciona únicamente el programa terminal del ensayo actual.
   • PL (Aprendizaje de Biblioteca Probabilístico): Selecciona estocásticamente subprogramas de la traza de derivación.
3. Modelos de Sesgo Inductivo (Basados en LLM):
   • LLM-PS: Utiliza un Modelo de Lenguaje Grande (GPT-5.2) para la síntesis basada en la tarea actual y las primitivas, capturando priores estructurales sin historial.
   • LLM-PS-H: Incluye el historial completo de tareas y soluciones pasadas en el prompt.
4. Compresión Prospectiva (Normativa): Un modelo teórico que selecciona ayudantes para maximizar la utilidad de compresión esperada sobre el corpus de soluciones completo (pasado y futuro), condicionado a la distribución de tareas observada.

Métricas

El rendimiento se midió utilizando:

• Conteo de Pasos: Eficiencia en la construcción de la solución.
• Tamaño de la Biblioteca: Número de ayudantes creados.
• Utilidad de Compresión del Corpus: La métrica principal, que evalúa qué tan bien un conjunto seleccionado de $k$ ayudantes comprime el corpus de programas completo (retenido), incluidas las tareas futuras.

Resultados Clave

1. Eficiencia Humana y Uso de Bibliotecas: Los participantes completaron exitosamente las tareas y crearon consistentemente bibliotecas de ayudantes. El uso de ayudantes redujo significativamente el número de pasos requeridos en comparación con las soluciones de primitivas brutas, manteniendo una profundidad de solución acotada incluso a medida que crecía la longitud del programa bruto.
2. Modelos Retrospectivos en el Experimento 1: En el currículo secuencial, el comportamiento humano fue bien aproximado por el modelo de Compresión Retrospectiva (RC). Tanto los humanos como RC seleccionaron ayudantes que comprimían efectivamente las tareas pasadas observadas.
3. Comportamiento Prospectivo en el Experimento 2: En el currículo de grupo de operadores, los modelos retrospectivos (RC, GL, PL) y los modelos de sesgo inductivo (LLM-PS, LLM-PS-H) fallaron en seleccionar los ayudantes compartidos óptimos.
   • RC seleccionó ayudantes que comprimían las tareas pasadas pero perdieron la estructura latente compartida en todo el grupo.
   • Los modelos LLM seleccionaron ayudantes geométricamente plausibles basados en sesgos inductivos, pero fallaron en capturar el subprograma compartido específico requerido para el grupo.
   • Rendimiento Humano: Los ayudantes seleccionados por humanos lograron consistentemente una utilidad de compresión del corpus más alta que todos los modelos computacionales en el Experimento 2. El comportamiento humano rastreó estrechamente al "Oráculo" (el conjunto óptimo de ayudantes conocido con la perspectiva del tiempo), lo que indica que los humanos inferieron con éxito la estructura generativa latente y seleccionaron abstracciones que serían útiles para tareas futuras.
4. Inadecuación de las Explicaciones Existentes: Los resultados demuestran que la selección de abstracciones humanas no puede explicarse únicamente por compresión retrospectiva o sesgos inductivos modelados por la síntesis de programas basada en LLM actuales.

Contribuciones Clave

1. Paradigma Experimental: La introducción de un paradigma controlado (PBT) con currículos latentes diseñados específicamente para disociar estrategias de compresión prospectiva de retrospectiva.
2. Evaluación Computacional: Una evaluación sistemática de una familia de modelos (compresión retrospectiva, sesgo inductivo y estrategias probabilísticas) frente al comportamiento humano en entornos no estacionarios.
3. Evidencia Empírica de Compresión Prospectiva: La primera demostración de que el aprendizaje de abstracciones en línea humano está impulsado por la compresión prospectiva del proceso generador de tareas. Los humanos infieren estructuras latentes para seleccionar abstracciones que se transfieren a tareas futuras, una capacidad no capturada por algoritmos retrospectivos existentes ni por la síntesis de programas basada en LLM actual.

Significado y Afirmaciones

El artículo afirma que el aprendizaje de abstracciones humanas se caracteriza mejor como compresión prospectiva en lugar de mera compresión retrospectiva o sesgo inductivo estático.

• Para la Síntesis de Programas: Los autores argumentan que los algoritmos de aprendizaje de bibliotecas deben ir más allá de la optimización para la compresión de datos pasados. Para manejar dominios no estacionarios, los algoritmos deben modelar explícitamente la distribución de tareas no estacionaria y anticipar dependencias futuras.
• Para la Ciencia Cognitiva: Los hallazgos apoyan la visión de que el aprendizaje de abstracciones está estrechamente acoplado con el modelado de estructura anticipatoria. Los aprendices no solo comprimen la experiencia; infieren cómo evolucionan las estructuras de tareas con el tiempo para facilitar la predicción jerárquica y el aprendizaje de secuencias.
• Evaluación Comparativa: La Tarea del Constructor de Patrones se propone como una candidata para evaluación de la abstracción prospectiva, distinguiendo entre algoritmos que simplemente resuelven tareas individuales y aquellos que pueden inferir y reutilizar estructuras a través de una distribución de tareas que evoluciona temporalmente.

Los autores permanecen modestos respecto al alcance, señalando que su estudio se limita a un dominio visual restringido y que se necesita trabajo futuro para modelar formalmente la distribución de probabilidad de las tareas futuras y realizar inferencia conjunta sobre tanto la biblioteca como el proceso generador de tareas latente.