FAWAM: Force-Aware World Action Models for Closed-Loop Contact-Rich Manipulation

Resumen Técnico: FAWAM – Modelos de Acción de Mundo Conscientes de la Fuerza para la Manipulación de Ciclo Cerrado Rica en Contacto

1. Planteamiento del Problema

Las tareas de manipulación robótica ricas en contacto (por ejemplo, limpiar, pelar, empujar) requieren una regulación continua de la interacción con el entorno. Aunque las observaciones visuales son el estándar, a menudo son insuficientes para inferir estados de interacción críticos como contactos débiles, presión excesiva o atascos. Los métodos existentes que incorporan la detección de fuerza suelen tratarla como una modalidad de observación adicional para el aprendizaje de políticas o la utilizan para el control reactivo de bajo nivel. Sin embargo, estos enfoques no logran modelar explícitamente la evolución de los futuros estados de contacto (por ejemplo, futuros pares de fuerzas o wrenches) y carecen de referencias predictivas para guiar las correcciones durante la ejecución. En consecuencia, los robots tienen dificultades para anticipar los resultados del contacto y ajustar su comportamiento de manera proactiva cuando la retroalimentación detectada se desvía de las expectativas.

2. Metodología

Los autores proponen FAWAM (Modelo de Acción de Mundo Consciente de la Fuerza), un marco de ciclo cerrado que integra señales de fuerza en tres niveles: percepción, predicción y ejecución. El sistema opera en dos frecuencias distintas: un Modelo de Acción con Visión de Fuerza que se ejecuta a 1 Hz para la planificación de alto nivel, y un Corrector Residual Guiado por Fuerza que se ejecuta a 10 Hz para el ajuste en línea.

A. Modelo de Acción con Visión de Fuerza
Este componente extiende un modelo de acción de mundo (basado en GE-Act) para incorporar la conciencia de la fuerza:

• Condicionamiento de Fuerza: Los historiales recientes de fuerza/par de 6 ejes ($w_{t-H_f+1:t}$) se codifican en una característica de contacto compacta ($c_t$) mediante un MLP ligero. Esta característica modula la vía de generación de acciones utilizando una modulación de estilo AdaLN-Zero, donde los desplazos condicionados por la fuerza se añaden a los parámetros estándar de AdaLN-Zero (desplazamiento, escala, puerta) dentro de los bloques DiT.
• Predicción Conjunta: En lugar de utilizar un cabezal de predicción de fuerza aislado, el modelo reemplaza la proyección de acción original con una proyección lineal conjunta. Esta produce trayectorias de acciones futuras concatenadas ($A_t$) y trayectorias de par de fuerzas futuras ($W_t$). Este diseño obliga al decodificador a aprender una representación compartida que capture el acoplamiento entre los movimientos del robot y sus consecuencias físicas de contacto.
• Entrenamiento: El modelo emplea una estrategia de entrenamiento de dos etapas. Primero, se ajusta un modelo de generación de video utilizando flow matching en el espacio latente. Segundo, el decodificador de acción consciente de la fuerza se entrena con una función de pérdida combinada ($L_{stage2} = L_{action} + \lambda_F L_{force}$) para predecir simultáneamente futuros movimientos y fuerzas de contacto bajo el mismo marco de flow matching.

B. Corrección Residual Guiada por Fuerza
Para abordar variaciones inesperadas de contacto (por ejemplo, resistencia repentina) durante la ejecución de un bloque de acción (action chunk), se introduce un corrector residual:

• Entradas: El corrector toma el bloque de acción base, la referencia de par predicha, la retroalimentación de par en tiempo real y el estado propioceptivo actual.
• Cómputo del Error: Calcula explícitamente un error de seguimiento de par ($e^w_t$) comparando el par medido ($w^{meas}$) con la trayectoria de par predicha ($w^{pred}$).
• Mecanismo de Puerta (Gating): Un cabezal de puerta predice un escalar de puerta ($g^{res}_t$) para determinar si es necesaria la corrección. Se aplica una máscara binaria ($\kappa_t$) basada en un umbral para evitar que el modelo residual perturbe las ejecuciones nominales.
• Salida: El sistema genera una acción residual ($\Delta a^{res}$) que se añade a la acción base solo cuando la puerta está activa, refinando la ejecución en línea.
• Recolección de Datos: Los datos de corrección se recolectan utilizando un sistema de teleoperación líder-seguidor con retroalimentación de fuerza (FACTR). Los operadores humanos intervienen cuando ocurre un contacto anormal, y la diferencia entre el comando corregido y el comando de la política base sirve como el objetivo residual.

3. Contribuciones Clave

1. Marco FAWAM: Un modelo de acción de mundo consciente de la fuerza que aprovecha las señales de fuerza a través de los niveles de percepción, predicción y ejecución para permitir una manipulación robusta rica en contacto.
2. Corrección Residual Guiada por Fuerza: Un mecanismo novedoso que utiliza la discrepancia entre la fuerza predicha y la retroalimentación detectada para corregir las acciones durante la ejecución, pasando de un simple control reactivo a un ajuste proactivo guiado por la predicción.
3. Validación Empírica: Experimentos extensos en el mundo real que demuestran mejoras significativas en el rendimiento respecto a las líneas base del estado del arte.

4. Resultados Experimentales

Los experimentos se realizaron en un brazo robótico Franka Research 3 (FR3) en cuatro tareas: Borrar Pizarra, Pelar Pepino, Girar Caja y Limpiar Jarrón. Las tareas involucraron diversas condiciones de contacto inducidas por variaciones en las inclinaciones de las superficies, alturas de la mesa y posiciones de los objetos.

• Rendimiento: FAWAM alcanzó una tasa de éxito (SR) promedio del 85.00%.
  • Esto representa una mejora del 36.25% sobre las líneas base de solo visión (por ejemplo, $\pi0.5$ con 47.50%, GE-Act con 48.75%).
  • Muestra una mejora del 21.25% sobre las líneas base conscientes de la fuerza existentes (ForceVLA y TA-VLA, ambas con 63.75%).
• Análisis de Ablación:
  • La política base sin corrección residual (FAWAM w/o Res) logró una tasa de éxito del 73.75%, lo que indica que el modelo de acción con visión de fuerza proporciona una base sólida.
  • La adición del corrector residual proporcionó el impulso final al 85.00%, validando la efectividad de la corrección en línea.
  • El estudio de ablación confirmó que los tres componentes (Observación condicionada por fuerza, Predicción conjunta y Corrección residual) contribuyen positivamente al rendimiento.

5. Significado y Reivindicaciones

El artículo sostiene que la manipulación rica en contacto no es meramente un mapeo reactivo de observación-a-acción, sino un paradigma de predicción proactiva. Al modelar explícitamente la evolución de los futuros estados de contacto y utilizar estas predicciones como referencias en línea, FAWAM permite que los robots anticipen los resultados del contacto y corrijan las desviaciones antes de que ocurran los fallos. Los autores afirman que su integración sistemática de las señales de fuerza —yendo más allá de la simple fusión de observaciones hacia el modelado predictivo y la corrección residual— genera comportamientos robustos adaptables a variaciones dinámicas del entorno y perturbaciones externas. Los resultados sugieren que la predicción de contacto futura es un componente crítico que falta actualmente en las políticas visuomotoras para tareas que requieren una interacción física sostenida.