Fine-Tuning VLAs with Self-Demonstrated Generative Control for Multi-Task Manipulation
Este artículo propone un método de ajuste fino autosupervisado que aprovecha los despliegues de interacción en línea de modelos de Visión-Lenguaje-Acción (VLA) de cero disparos para permitir que nuevos embodiments robóticos aprendan nuevas habilidades a partir de datos de expertos mientras preservan sus capacidades originales de seguimiento de instrucciones y su conocimiento previo de tareas.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Los robots han luchado durante mucho tiempo por comprender la diferencia entre una orden y una realidad. Durante décadas, los ingenieros pudieron programar una máquina para mover su brazo con perfecta precisión, pero esa máquina no podía entender una frase sencilla como "recoge la taza roja". En años recientes, ha surgido un nuevo tipo de inteligencia artificial para cerrar esta brecha. Estos sistemas, conocidos como modelos de visión-lenguaje-acción, son entrenados con cantidades masivas de datos para comprender cómo se conectan las palabras, las imágenes y los movimientos físicos. Pueden observar una escena, leer una petición y decidir qué hacer, ofreciendo un vistazo a un futuro donde se le pueda decir a los robots qué hacer en inglés sencillo en lugar de mediante instrucciones codificadas. Sin embargo, persiste un problema obstinado: estos modelos suelen ser entrenados en un robot específico en un entorno controlado, y cuando los investigadores intentan usarlos en una máquina diferente, incluso en una ligeramente distinta, el robot suele fallar. Podría entender perfectamente las palabras pero torpearse en el acto físico de agarrar un objeto, o peor aún, podría olvidar cómo seguir instrucciones por completo al verse obligado a aprender una nueva tarea.
Un equipo de investigadores de la Universidad de Illinois en Urbana-Champaign ha encontrado una forma de solucionar esto sin necesidad de recolectar miles de horas de nuevas demostraciones humanas. Descubrieron que cuando un robot falla al realizar una tarea, sus intentos fallidos aún contienen información valiosa. Al dejar que el robot intente hacer cosas por su cuenta y aprender de esos intentos, pueden enseñarle nuevas habilidades manteniendo intacta su capacidad de comprender el lenguaje. Su enfoque implica un proceso de dos pasos. Primero, toman un "cerebro" robótico preentrenado y le muestran una pequeña cantidad de datos de expertos: solo catorce minutos de un humano guiando al robot a través de una tarea específica, como recoger un cubo. Esto le enseña al robot las habilidades motoras finas necesarias para esa máquina específica. Pero si se detienen ahí, el robot olvida todo lo demás que sabía, como por ejemplo dónde colocar un objeto o cómo manipular diferentes tipos de artículos. Para resolver esto, los investigadores dejan que el robot practique por su cuenta utilizando las instrucciones que ya comprende. Le pidieron al robot que intentara varias tareas que ya había visto antes, grabó lo que hacía y utilizó esas grabaciones como datos de entrenamiento adicionales. Este método, que llaman aprendizaje autosupervisado, permite que el robot ensaye sus viejas habilidades mientras aprende las nuevas, evitando eficazmente que olvide lo que ya sabía.
Los resultados de este experimento fueron impactantes. Cuando el equipo probó su método en un robot real con dos brazos, el robot aprendió a recoger objetos y colocarlos en cestas con altas tasas de éxito, incluso para tareas que nunca le habían sido enseñadas explícitamente por un humano. En un conjunto de pruebas, un robot entrenado únicamente con demostraciones humanas para recoger objetos olvidó por completo cómo colocarlos, fallando al mover el objeto a un contenedor el 100% de las veces. Cuando los investigadores añadieron los datos de práctica autogenerados por el propio robot al entrenamiento, la tasa de éxito para colocar objetos saltó al 55%, y la capacidad del robot para seguir instrucciones mejoró significamente. El robot no solo aprendió a agarrar cosas; aprendió a entender la frase completa, sabiendo cuándo detenerse tras recoger algo y cuándo moverse a un segundo lugar para dejarlo. Esto fue así incluso cuando los objetos eran nuevos o la disposición de los artículos en la habitación era diferente de lo que el robot había visto antes.
Los investigadores también probaron esta idea en un entorno simulado, un mundo digital donde los robots pueden aprender rápidamente sin el riesgo de romper el hardware. En estas simulaciones, descubrieron que entrenar en nuevas tareas utilizando solo datos humanos causaba que el robot perdiera su capacidad para realizar tareas anteriores, con tasas de éxito que caían de más del 90% a menos del 17%. Al mezclar los datos de práctica autogenerados por el propio robot, recuperaron la capacidad de realizar las tareas antiguas, elevando las tasas de éxito a más del 70%, mientras que también mejoraron el rendimiento en las nuevas tareas. Esto sugiere que los propios intentos del robot, incluso cuando fallan, portan una especie de memoria del mundo físico que le ayuda a mantenerse flexible. El equipo señaló que este enfoque es particularmente útil porque no requiere acceso a los conjuntos de datos masivos originales utilizados para entrenar al robot en primer lugar, que a menudo son mantenidos en secreto por las empresas que los crean. En su lugar, el robot genera su propio material de aprendizaje directamente en la planta de producción o en el hogar.
Uno de los hallazgos más sorprendentes fue lo bien que este método preservó la capacidad del robot para manejar tareas para las que no fue entrenado. Los investigadores probaron una habilidad llamada "empujar", que no formaba parte de los datos de entrenamiento ni de las demostraciones humanas ni de la práctica autogenerada. Un robot entrenado solo con datos humanos para recoger y colocar objetos tendía a ignorar la instrucción de empujar y, en su lugar, intentaba recoger el objeto, fallando la tarea. El robot entrenado con el método autosupervisado, sin embargo, comprendió correctamente la instrucción de empujar y ejecutó el movimiento el 70% de las veces. Esto indica que el enfoque autosupervisado ayuda al robot a mantener su comprensión más amplia de cómo moverse, en lugar de sobrescribirla con un conjunto estrecho de hábitos. Los investigadores observaron que el robot podía incluso manejar situaciones complejas, como girarse para mirar detrás de sí mismo cuando un objeto estaba fuera de vista, un comportamiento que el robot entrenado solo con datos humanos no exhibió.
El estudio destaca un cambio fundamental en cómo los robots pueden adaptarse a nuevos entornos. En lugar de ver los fallos de un robot como ruido inútil, los investigadores los trataron como un recurso. Al utilizar las propias acciones del robot como una forma de ensayo, crearon un sistema que es tanto adaptable como robusto. El equipo demostró que, con solo una mínima guía humana, combinada con la propia práctica del robot, una sola política puede aprender a realizar una gran variedad de tareas en una máquina nueva. Este enfoque resuelve el problema del "olvido catastrófico", donde aprender algo nuevo provoca que un sistema pierda todo lo que sabía antes. Los investigadores encontraron que este método funciona no solo para tareas simples como apilar bloques, sino también para tareas complejas con mucho contacto, como insertar engranajes en una tabla en movimiento, donde la tasa de éxito mejoró del 30% al 90%.
Si bien el método es poderoso, los investigadores reconocen que no es perfecto. El robot a veces hereda pequeñas peculiaridades de sus datos autogenerados, como quedarse atrapado en un bucle de recoger y soltar un objeto, o arrastrar el borde de una cesta mientras intenta colocar la ropa sucia dentro. Estos problemas surgen porque el robot está aprendiendo de sus propios intentos imperfectos. Para evitar comportamientos inseguros, los investigadores filtraron manualmente los peores ejemplos antes de utilizarlos para el entrenamiento, pero señalaron que automatizar este proceso sería un paso necesario para escalar la tecnología. A pesar de estas limitaciones, este trabajo ofrece un camino prometedor para hacer que los robots sean más prácticos y fáciles de implementar. Sugiere que la clave para un robot versátil no reside solo en la recolección de más datos humanos, sino en enseñar a la máquina a aprender de sus propias experiencias, permitiéndole llevar su conocimiento consigo a medida que pasa de una tarea a otra.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.