Resumen Técnico: Representaciones de Imágenes Estructuradas para el Aprendizaje Robótico Explicable (SIR)

Planteamiento del Problema

Las políticas robóticas existentes basadas en incrustaciones (embeddings) visuales aprendidas carecen de una estructura explícita y son sensibles a las distracciones visuales. Aunque estas incrustaciones proporcionan codificaciones compactas de la información visual, siguen siendo opacas, lo que dificulta la interpretación del proceso de toma de decisiones. Además, a medida que los agentes robóticos en el mundo real operan en entornos complejos con numerosos objetos observados, existe una creciente necesidad de representaciones de escena estructuradas y expresivas que faciliten tanto el rendimiento como la explicabilidad en el Aprendizaje de Imitación Condicionado por Objetivos (GCIL). Los enfoques actuales suelen depender de características visuales no estructuradas o requieren algoritmos de planificación complejos, lo que limita su aplicabilidad al aprendizaje paso a paso sin puntos clave (key-points) explícitos.

Metodología: Representaciones de Imágenes Estructuradas (SIR)

Los autores proponen las Representaciones de Imágenes Estructuradas (SIR), un marco que aprovecha los Grafos de Escena (SGs) como una representación intermedia para el aprendizaje de políticas robóticas. A diferencia de los métodos de explicabilidad post-hoc, SIR es intrínsecamente explicable porque el grafo disperso sirve como un estado intermedio aprendido durante la generación de acciones.

La arquitectura consta de cuatro componentes principales:

1. Generación del Grafo de Escena:

   • El sistema construye un Grafo Completamente Conectado (FC-Graph) inicial donde los nodos representan los objetos detectados en la escena (mediante segmentación de máscara de verdad de campo o predicha).
   • Las representaciones iniciales de los nodos se derivan de diversas modalidades de imagen, incluyendo:
     • Etiqueta (Label): Etiquetas de objetos codificadas mediante one-hot.
     • Característica de Imagen Recortada (Cropped-Image-Feature): Incrustaciones visuales de redes pre-entrenadas (p. ej., ResNet18) aplicadas a los recortes de las cajas delimitadoras (bounding boxes) de los objetos.
     • Coordenadas de Caja Delimitadora (BB-Coordinates): Coordenadas 2D normalizadas de la caja delimitadora.
     • Característica de Nube de Puntos (Point-Cloud-Feature): Incrustaciones de redes pre-entrenadas (p. ej., PointNet) aplicadas a las nubes de puntos de los objetos.
   • Las características de las aristas se inicializan basadas en distancias geométricas o se establecen en 1.

2. Dispersión de Grafos Aprendible (Learnable Graph Sparsification):

   • Un módulo entrenable, denominado FiLMDecoder (un Transformer-Decoder de dos capas con Normalización de Capa Adaptativa condicionada por objetivos de lenguaje), predice una puntuación para cada nodo.
   • El sistema emplea una selección de nodos fundamentada en la instrucción para retener solo los $k$ nodos con las puntuaciones más altas, creando un subgrafo mínimo y relevante para la tarea.
   • Para asegurar que la dispersión sea aprendible y diferenciable, los autores introducen:
     • Una pérdida de histograma suave (soft histogram loss) para fomentar una distribución uniforme de las puntuaciones de los nodos y prevenir el colapso.
     • Una pérdida L1 en los pesos de los nodos para guiar la selección de los nodos relevantes para la instrucción.
     • Un mecanismo donde los pesos de los nodos ($NW$) se incorporan en los pesos de las aristas y en el paso de agrupación (pooling). Esto asegura que la información de los nodos "eliminados" no se propague hacia la incrustación final del grafo, haciendo que la dispersión sea verdaderamente de extremo a extremo (end-to-end).

3. Generación de la Incrustación del Grafo de Escena:

   • El subgrafo disperso es procesado por una Red de Atención de Grafos (GATv2) de dos capas con conexiones residuales.
   • Una capa de agrupación de promedio global agrega las características de los nodos retenidos para producir la representación final de la escena (incrustación del grafo).

4. Generación de Acciones:

   • La incrustación del grafo resultante, combinada con una incestación de objetivo de lenguaje (vía CLIP), sirve como la entrada de estado para los generadores de acciones descendentes. Los autores evalúan dos generadores: el Transformer de Difusión Multimodal (MDT) y un Transformer de Clonación de Comportamiento (BC-Transformer).

Contribuciones Clave

1. Investigación de los SGs en GCIL: El artículo proporciona una investigación exhaustiva sobre el uso de Grafos de Escena como representaciones de estado directas para el aprendizaje robótico, analizando sistemáticamente qué modalidades de imagen (simbólicas, geométricas, visuales) sirven como características iniciales de nodos efectivas.
2. Dispersión Aprendible: Los autores proponen un método novedoso para la dispersión de SG de extremo a extremo y aprendible. Esto crea un subgrafo disperso que actúa como una explicación directa del proceso de toma de decisiones del modelo, revelando qué objetos e interacciones se consideran críticos.
3. Explicabilidad Intrínseca: Al analizar las desviaciones entre los subgrafos aprendidos y las expectativas humanas (p. ej., la inclusión de distractores o la omisión de objetos clave), el método permite la detección de sesgos en los conjuntos de datos, tales como correlaciones espurias y sesgos posicionales.

Resultados Experimentales

El método fue evaluado en los benchmarks RoboCasa y CALVIN utilizando 100 ejecuciones (rollouts) por configuración.

• Rendimiento: En RoboCasa, SIR logró una tasa de éxito promedio del 19.5%, superando a las líneas base basadas en imágenes (14.81%) y a los modelos de grafos totalmente conectados sin dispersión (16.98%).
• Integración de Modalidades: Los modelos basados en grafos demostraron una capacidad superior para integrar diversas modalidades. Por ejemplo, mientras que las líneas base de solo nube de puntos funcionaron pobremente (4.13%), los modelos basados en grafos que utilizan características de nube de puntos lograron tasas de éxito significativamente más altas (11.08% a 15.04%).
• Robustez ante Distractores: Cuando se introdujeron objetos distractores novedosos durante la inferencia, las líneas base basadas en imágenes sufrieron una caída de rendimiento de aproximadamente un 3.3%. En contraste, SIR y otros modelos basados en grafos mostraron casi ninguna degradación de rendimiento, demostrando una alta robustez a las distracciones visuales.
• Estudios de Ablación: El estudio confirmó que la dispersión fundamentada en la instrucción con pérdida de histograma suave produce el mejor rendimiento en comparación con la eliminación aleatoria, la eliminación ingenua o los métodos basados en umbrales.

Significado y Reivindicaciones

El artículo afirma que SIR ofrece un avance significativo en el aprendizaje robótico explicable al ir más allá de las opacas incrustaciones visuales hacia representaciones relacionales estructuradas.

• Intrínseco vs. Post-hoc: Los autores enfatizan que SIR no es un método de explicación post-hoc (como usar un VLM para filtrar objetos después del entrenamiento). En cambio, el grafo disperso es una representación intermedia aprendida. Esto permite al modelo revelar su lógica de toma de decisiones real, incluyendo sus posibles fallos.
• Detección de Sesgos: Un hallazgo crítico es que el análisis de los subgrafos aprendidos puede descubrir sesgos en los conjuntos de datos. Por ejemplo, los autores observaron que en ciertas tareas, el modelo ejecutaba las acciones con éxito ignorando el objeto objetivo y dependiendo únicamente del estado propio del robot (sesgo posicional), o explotando correlaciones espurias con objetos de fondo irrelevantes.
• Interpretabilidad: La capacidad de visualizar los subgrafos de "explicación de la tarea" proporciona una visión directa de si el modelo tiene éxito por las razones correctas o si está explotando atajos en los datos de entrenamiento.

Los autores concluyen que, si bien SIR mejora el rendimiento y la robustez, su contribución más valiosa es la capacidad de utilizar los grafos dispersos aprendidos como una herramienta de depuración tanto para el comportamiento del modelo como para la calidad del conjunto de datos.