From Pixels to Predicates: Learning Symbolic World Models via Pretrained Vision-Language Models

Este trabajo presenta un método que utiliza modelos de visión y lenguaje preentrenados para aprender modelos de mundo simbólicos a partir de demostraciones cortas, permitiendo a los robots generalizar de forma cero-shot y resolver problemas de toma de decisiones a largo plazo en entornos complejos mediante planificación.

Lo esencial

¡Claro que sí! Imagina que quieres enseñarle a un robot a hacer tareas domésticas complejas, como limpiar la cocina o preparar un jugo, pero solo tienes un video corto de un humano haciéndolo una o dos veces. El reto es que el robot no solo debe copiar el video, sino entender la lógica para poder hacerlo en una cocina diferente, con objetos distintos y hasta con un objetivo nuevo que nunca vio antes.

Aquí está la explicación de este paper, "De Píxeles a Predicados", usando analogías sencillas:

1. El Problema: El Robot "Ciego" y el Video Corto

Imagina que le das a un robot un video de 10 segundos donde una persona limpia una mesa y tira una manzana a la basura.

• El enfoque antiguo (Imitación): El robot intenta memorizar los movimientos exactos del video. Si mañana la mesa es de otro color, la manzana es una pera, o la basura está en otro lado, el robot se confunde y falla. Es como si aprendieras a conducir solo memorizando los movimientos de tu mano en un coche específico; si cambias de coche, no sabes qué hacer.
• El objetivo de este paper: Queremos que el robot no memorice los movimientos, sino que entienda las reglas del juego. Que sepa que "si hay algo en la mesa, hay que quitarlo" o "si la manzana está en la mesa, puede ir a la basura".

2. La Solución: El "Traductor Mágico" (VLM)

Aquí entra la magia. Los autores usan un Modelo de Lenguaje y Visión (VLM). Piensa en esto como un traductor mágico que habla dos idiomas:

1. Idioma de los Píxeles: Lo que ve la cámara (colores, formas, imágenes borrosas).
2. Idioma de la Lógica (Predicados): Conceptos claros como "La mesa está limpia", "El robot tiene la mano vacía" o "La manzana está dentro de la caja".

¿Cómo funciona el proceso?

Paso A: La Lluvia de Ideas (Inventar Reglas)

El robot ve el video del humano. En lugar de solo ver "mancha roja", le pregunta al Traductor Mágico: "¿Qué conceptos importantes están pasando aquí?".
El Traductor Mágico, que es muy inteligente (como un humano con mucha cultura general), sugiere cientos de ideas:

• "¿Está la mesa limpia?"
• "¿Hay algo encima de la mesa?"
• "¿Es esto una manzana?"
• "¿Está el robot sosteniendo algo?"

Es como si le dieras a un niño un video de alguien cocinando y le preguntaras: "¿Qué cosas importantes están pasando?". Él podría decir: "El fuego está encendido", "La sartén está caliente", "El huevo está crudo".

Paso B: El Filtro Inteligente (La Selección)

El robot recibe una lista gigante de estas ideas (a veces más de 100). No puede usarlas todas; sería como intentar cocinar usando 100 recetas diferentes a la vez.
Aquí entra un algoritmo de optimización (un filtro muy estricto). El robot prueba qué ideas funcionan mejor para planificar.

• Si la idea "¿Es de color rojo?" no ayuda a limpiar la mesa, ¡la descarta!
• Si la idea "¿Hay algo encima de la mesa?" es crucial para saber cuándo limpiar, ¡la guarda!

Al final, el robot se queda con un pequeño conjunto de reglas lógicas (los "predicados") que realmente importan.

Paso C: El Planificador (El Director de Orquesta)

Ahora, el robot tiene un "manual de instrucciones" simbólico. Cuando llega el momento de actuar en un entorno nuevo (por ejemplo, una cocina diferente con un robot Boston Dynamics Spot):

1. El robot mira la escena nueva.
2. El Traductor Mágico traduce esa escena nueva a las reglas que el robot aprendió (ej: "¡Oye! La mesa está sucia y la mano está vacía").
3. Un planificador (como un ajedrecista) usa esas reglas para pensar: "Si la mesa está sucia y tengo un borrador, puedo limpiarla. Si la mano está vacía, puedo agarrar el borrador".
4. El robot ejecuta los movimientos necesarios.

3. ¿Por qué es tan genial? (La Magia de la Generalización)

La parte más impresionante es que el robot aprende de muy pocos ejemplos (menos de 15 videos) y luego puede resolver problemas que nunca vio.

• Ejemplo del "Borrador": En el entrenamiento, el robot vio a un humano limpiar una mesa. En la prueba, el robot debe limpiar una mesa, pero primero tiene que sacar un borrador de un cubo de basura (algo que nunca vio en el entrenamiento).
  • Un robot normal se bloquearía.
  • Este robot piensa: "El borrador está dentro del cubo. Mi regla dice que si algo está dentro, puedo sacarlo. Luego, mi regla dice que si tengo el borrador y la mesa está sucia, puedo limpiarla". ¡Y lo hace!

Analogía Final: El Chef Novato vs. El Chef Maestro

• El robot antiguo es como un chef novato que solo sabe copiar un video. Si le pides que haga un pastel con harina de almendras en lugar de trigo, se rinde porque el video decía "harina de trigo".
• El robot de este paper es como un chef maestro que, tras ver un video, entiende los principios: "Si hay harina, se mezcla; si hay huevo, se bate; si el horno está caliente, se hornea". Gracias a esto, puede cocinar cualquier pastel, incluso con ingredientes nuevos, porque entiende la lógica, no solo la receta.

En resumen

Este paper presenta un método llamado pix2pred. Convierte imágenes borrosas en reglas lógicas claras usando inteligencia artificial avanzada. Esto permite que los robots aprendan de muy pocos ejemplos y luego sean capaces de resolver tareas complejas y nuevas en el mundo real, adaptándose a cambios en el entorno como si tuvieran sentido común. ¡Es un gran paso para que los robots sean verdaderos ayudantes en nuestras casas!

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo "From Pixels to Predicates: Learning Symbolic World Models via Pretrained Vision-Language Models" (De píxeles a predicados: Aprendizaje de modelos del mundo simbólicos mediante modelos de visión y lenguaje preentrenados), presentado en español.

---

Resumen Técnico: De Píxeles a Predicados (pix2pred)

1. El Problema

El objetivo central de la investigación es permitir que los robots tomen decisiones a largo plazo en entornos complejos y dinámicos, partiendo únicamente de entradas sensoriales de bajo nivel (imágenes) y un conjunto limitado de demostraciones cortas.

Los desafíos principales identificados son:

• Generalización Agresiva: Los robots deben resolver tareas con nuevos objetos, configuraciones, fondos visuales y objetivos que no se vieron durante el entrenamiento.
• Complejidad de la Planificación: Dado un conjunto de habilidades paramétricas de bajo nivel (ej. "agarrar", "mover", "limpiar"), el robot debe seleccionar la secuencia correcta y asignar los parámetros adecuados (qué objeto agarrar, dónde moverse).
• Limitaciones de los Enfoques Actuales:
  • Los métodos de imitación (aprendizaje sin modelo) suelen fallar en tareas de horizonte largo o con variaciones no vistas, ya que tienden a memorizar secuencias de acciones en lugar de entender la lógica subyacente.
  • Los métodos basados en modelos simbólicos tradicionales requieren que los predicados (propiedades y relaciones de los objetos) sean definidos manualmente por humanos, lo cual es costoso y no escala bien a nuevos dominios.
  • Los enfoques recientes que usan Modelos de Lenguaje (LLMs/VLMs) directamente para planificar a menudo carecen de una representación estructurada del mundo, lo que lleva a fallos en la consistencia lógica y la generalización.

2. Metodología: pix2pred

Los autores proponen pix2pred, un marco de trabajo que combina la percepción de los Modelos de Visión y Lenguaje (VLM) preentrenados con la síntesis de programas y la optimización para aprender modelos del mundo simbólicos directamente desde imágenes.

El proceso se divide en tres fases principales:

A. Propuesta de Predicados Visuales (Inventiva)
En lugar de definir predicados manualmente, el sistema utiliza un VLM (como GPT-4o o Gemini) para generar un "pool" inicial de candidatos a predicados simbólicos.

• Entrada: Se alimenta al VLM con las imágenes de las demostraciones (antes y después de cada acción), los nombres de las habilidades ejecutadas y los descriptores de los objetos.
• Salida: El VLM propone una gran cantidad de átomos (instancias concretas, ej. "Hay un borrador sobre la mesa") y los eleva a predicados generales (ej. NoObjectsOnTop(?mesa)).
• Diversidad: El prompt instruye al VLM para que proponga sinónimos y antónimos para asegurar una cobertura semántica amplia.

B. Implementación y Etiquetado
Cada predicado propuesto se implementa como una función de clasificación consultada al mismo VLM.

• Dada una imagen y un predicado instanciado (ej. IsEraser(?obj)), el VLM devuelve un valor booleano (True, False o Unknown).
• Se utiliza Chain-of-Thought (Cadena de Pensamiento) y Set-of-Marks (etiquetado de objetos en la imagen) para mejorar la precisión del etiquetado, especialmente para distinguir cambios entre estados consecutivos.

C. Aprendizaje del Modelo Simbólico (Optimización)
Una vez generado el pool masivo de predicados candidatos (que puede incluir cientos de opciones redundantes o irrelevantes), se aplica un algoritmo de búsqueda por escalada (hill-climbing) para seleccionar el subconjunto óptimo.

• Objetivo: Minimizar una función de costo que evalúa la eficiencia de la planificación. El algoritmo busca el conjunto de predicados y operadores (reglas de transición) que permita resolver las demostraciones de entrenamiento con la menor complejidad y mayor generalización.
• Robustez al Ruido: Se introducen modificaciones para manejar el ruido inherente a las respuestas de los VLM (ej. usando intersecciones "suaves" de precondiciones en lugar de intersecciones exactas) y eliminar operadores que se ajustan demasiado a casos específicos (overfitting).

D. Despliegue y Planificación
En la fase de prueba:

1. El VLM etiqueta el estado actual del mundo (imagen) con los predicados seleccionados.
2. Un planificador basado en búsqueda (PDDL) utiliza el modelo simbólico aprendido para generar una secuencia de habilidades de bajo nivel que logre el objetivo.
3. El robot ejecuta las acciones, replanificando si es necesario.

3. Contribuciones Clave

1. Inventiva de Predicados Automatizada: Es la primera metodología que utiliza VLMs para inventar y anclar (grounding) predicados simbólicos directamente desde demostraciones visuales sin supervisión humana sobre qué conceptos aprender.
2. Generalización Agresiva: El método logra generalizar a tareas con nuevos objetos, fondos, cantidades de objetos y objetivos compuestos, superando significativamente a los enfoques de imitación pura y a los planificadores directos basados en LLMs.
3. Selección de Predicados por Optimización: Demuestra que simplemente pedirle a un VLM que seleccione predicados no es suficiente; es crucial un proceso de optimización posterior para filtrar el ruido y la redundancia, logrando modelos simbólicos compactos y eficientes.
4. Validación en el Mundo Real: El sistema se ha probado exitosamente en un robot real (Boston Dynamics Spot) en tareas de limpieza y preparación de jugos, demostrando viabilidad fuera de la simulación.

4. Resultados Experimentales

Los experimentos se realizaron en cinco dominios (tres simulados: Cocina, Hamburguesa, Café; y dos reales: Limpieza, Jugos).

• Comparativa: pix2pred superó consistentemente a los baselines (líneas base), incluyendo:
  • ViLa: Un enfoque que usa VLMs para planificar directamente sin abstracciones simbólicas. ViLa falló en tareas de horizonte largo y con estados iniciales no vistos (ej. cuando el robot ya sostenía un objeto).
  • Ablaciones: Se demostró que eliminar la selección de predicados ("No subselect") o la invención de nuevos predicados ("No invent") degrada drásticamente el rendimiento.
• Métricas de Éxito:
  • En simulación, pix2pred resolvió la mayoría de las tareas de prueba (hasta un 100% en algunos casos) con objetivos más complejos y horizontes más largos que los vistos en entrenamiento.
  • En el mundo real, el robot Spot resolvió tareas de limpieza y preparación de jugos con nuevos objetos y fondos, logrando tasas de éxito superiores a ViLa en tareas que requerían composición de demostraciones (ej. vaciar un contenedor lleno antes de usarlo).
• Análisis de Fallos: La mayoría de los fallos se debieron a errores de clasificación del VLM en tiempo de prueba (ruido en el etiquetado), no a fallos en la lógica del planificador o en el modelo aprendido.

5. Significado e Impacto

Este trabajo representa un avance significativo hacia la robótica generalista. Al automatizar la creación de representaciones simbólicas a partir de datos visuales crudos, elimina la necesidad de ingeniería manual de características y reglas lógicas para cada nuevo entorno.

• Interpretabilidad: A diferencia de las redes neuronales profundas (cajas negras), el modelo resultante es simbólico y humano-legible, permitiendo entender por qué el robot tomó una decisión.
• Eficiencia de Datos: El sistema aprende modelos robustos con muy pocas demostraciones (entre 3 y 12), lo que es crucial para la aplicación práctica en entornos donde recolectar grandes cantidades de datos es costoso.
• Puente entre Simbólico y Subsimbólico: pix2pred actúa como un puente efectivo, utilizando la capacidad de percepción semántica de los VLMs para alimentar sistemas de planificación clásicos, combinando lo mejor de ambos mundos: la flexibilidad de la visión moderna y la rigurosidad lógica de la planificación simbólica.

En conclusión, pix2pred demuestra que es posible aprender modelos del mundo abstractos y generalizables directamente de píxeles, permitiendo a los robots enfrentar tareas complejas y novedosas con una capacidad de razonamiento similar a la humana.