Resumen Técnico: ROSA – Un Sistema de Servicio de Modelos Fundacionales de Robótica para Fábricas de Robots

Declaración del Problema

El artículo identifica una brecha crítica en el despliegue de Modelos Fundacionales de Robótica (RFM, por sus siglas en inglés) para "fábricas de robots" industriales. Aunque los RFM (como los modelos de Visión-Lenguaje-Acción) prometen robots de propósito general capaces de realizar tareas complejas, los sistemas de servicio existentes no son adecuados para despliegues a escala de fábrica debido a dos conceptos erróneos generalizados:

1. Concepto Erróneo 1: Computación Únicamente en el Borde (Edge-Only): Los paradigmas actuales asumen que el servicio de RFM es estrictamente un problema de computación en el borde, vinculando cada robot con un Sistema en Chip (SoC) integrado o una GPU dedicada cercana. Este enfoque está limitado por los presupuestos de potencia y térmicos de los robots móviles, lo que conduce a un rendimiento de inferencia deficiente y a una vida útil de la batería reducida. Además, el servicio uno a uno infrautiliza las GPUs, ya que permanecen inactivas mientras los robots ejecutan acciones físicas o esperan la siguiente solicitud de inferencia.
2. Concepto Erróneo 2: Minimización de la Latencia de un Modelo Único: Los sistemas existentes optimizan únicamente la minimización de la latencia de un único modelo de acción. Sin embargo, la ejecución robótica fiable requiere pipelines de múltiples modelos (incluyendo planificación de alto nivel, verificación de seguridad y monitoreo de tareas). Adicionalmente, el objetivo principal en una fábrica no debe ser la latencia de la solicitud individual, sino maximizar la productividad total de la fábrica (rendimiento de acciones ponderadas) satisfaciendo los Objetivos de Nivel de Servicio (SLO) para todos los componentes del modelo.

Metodología: La Arquitectura ROSA

Los autores proponen ROSA (Arquitectura de Servicio Orientada a la Robótica), un sistema de servicio de escala de servidor basado en un pool de GPUs compartido, diseñado en torno a tres principios fundamentales.

1. Infraestructura Compartida a Escala de Servidor

ROSA desacopla la inferencia del robot, delegando las tareas de computación intensiva a un clúster centralizado de GPUs de clase de centro de datos (por ejemplo, NVIDIA H200).

• Beneficios: Esto permite el acceso a hardware significativamente más potente (por ejemplo, 29× más ancho de banda de memoria en comparación con un Jetson Thor integrado), extiende la duración de la batería de los robots móviles al reducir el consumo de energía a bordo y mejora la utilización del hardware mediante el procesamiento por lotes (batching) de solicitudes entre robots.
• Rol del Robot: Los robots conservan SoCs ligeros integrados para el control de actuadores de alta frecuencia (100 Hz+) y fallos de seguridad locales, mientras que el servidor gestiona la pesada inferencia de RFM.

2. Abstracción de Programación Consciente de la Robótica

ROSA introduce una interfaz de programación declarativa que captura las necesidades específicas de los pipelines robóticos, yendo más allá de las simples solicitudes de inferencia.

• Orquestación de Multi-Modelo: Las tareas se definen como pipelines que comprenden modelos heterogéneos:
  • Sistema 1: Generación de acciones de bajo nivel (rápido, reactivo).
  • Sistema 2: Planificación y razonamiento de alto nivel (lento, deliberativo).
  • Modelos de Seguridad: Verificaciones periódicas para la evitación de colisiones.
  • Modelos de Monitoreo: Verificación de la progresión de la tarea.
• Dependencias y Políticas: La interfaz especifica dependencias (por ejemplo, el Sistema 2 se invoca una vez por cada $N$ llamadas al Sistema 1), tasas de invocación, SLO de latencia y políticas de fallback explícitas para violaciones de seguridad o incumplimientos de SLO (por ejemplo, detener la ejecución, reintentar o escalar a intervención humana).

3. Programación Impulsada por Objetivos de Fábrica

En lugar de minimizar la latencia individual, el programador (scheduler) de ROSA optimiza el rendimiento de acciones robóticas ponderadas en toda la flota.

• Entradas: El programador toma una configuración de tarea declarativa (tamaño de la flota, composición del modelo, SLO) y datos de perfilado (distribuciones de latencia para diversos tamaños de lote y tasas de solicitud).
• Estrategia de Optimización:
  • Modelos de Obligación: Los modelos de seguridad y monitoreo se provisionan con la huella mínima factible en el servidor requerida para cumplir con sus tasas de invocación fijas y sus SLO.
  • Modelos Acoplados al Objetivo: Los modelos de Sistema 1 y Sistema 2, que determinan la tasa de acción, se les asignan los recursos restantes para maximizar la tasa de acción total.
  • Algoritmos: El sistema utiliza una combinación de heurísticas y Programación Lineal Entera (ILP). Para flotas homogéneas, realiza una búsqueda binaria para la máxima tasa de acción compartida. Para flotas heterogéneas, utiliza una búsqueda de frontera adaptativa para navegar por vectores de tasa multidimensionales.
• Adaptación en Tiempo Real: El sistema soporta el control de admisión que preserva la ubicación para nuevos robots y la recuperación ante fallos (failover) de reserva caliente para fallos de GPU, evitando la necesidad de una reprogramación completa del sistema durante interrupciones menores.

Contribuciones Clave

1. Identificación de Conceptos Erróneos: El artículo desafía las suposiciones predominantes de "solo borde" y "latencia única" en el servicio de RFM, abogando por un enfoque centralizado y multiobjetivo.
2. Diseño del Sistema ROSA: Los autores diseñan e implementan un sistema de servicio agnóstico al modelo que cuenta con una interfaz de tarea declarativa y un programador que maximiza la productividad de la fábrica.
3. Evaluación Exhaustiva: El sistema se evalúa tanto en hardware real (robot Franka Panda) como en cargas de trabajo sintéticas a gran escala (hasta 64 robots virtuales en 8 GPUs NVIDIA H200).

Resultados

La evaluación demuestra mejoras significativas en la productividad de la fábrica en comparación con las líneas base convencionales:

• vs. Servicio Dedicado: ROSA mejora la productividad de la fábrica hasta en 12.06× en comparación con sistemas que asignan una GPU por robot o una GPU por modelo por robot. Los sistemas dedicados no escalan; por ejemplo, una línea base de "una GPU por modelo" solo podía soportar 2 robots para un pipeline complejo de 4 componentes, mientras que ROSA soportó 32 robots.
• vs. Líneas Base de Servidor Compartido: Incluso comparado con sistemas de servidor compartido que carecen de la programación avanzada de ROSA (usando particionamiento estático o batching simple), ROSA mejora el rendimiento de acciones calificadas por SLO hasta en 2.44×.
• Cumplimiento de SLO: Bajo carga alta (64 robots), las líneas base de servidor compartido colapsaron al 0% de acciones calificadas por SLO debido a tasas de solicitud y colas no controladas. ROSA mantuvo una tasa de cumplimiento de SLO del 97.23% para las acciones del Sistema 1.
• Estudios de Ablación: Las ganancias de rendimiento se atribuyen a tres factores:
  1. Control de la Tasa de Solicitud: Prevención de la sobrecarga del servidor mediante la limitación de las frecuencias de solicitud basadas en restricciones de latencia de bucle cerrado.
  2. Asignación de Recursos: Asignación dinámica de recursos de GPU basada en las necesidades de los componentes del modelo en lugar de un particionamiento estático.
  3. Batching Guiado por Perfilado: Selección de tamaños de lote óptimos para los modelos de Sistema 1 basados en los compromisos (trade-offs) de latencia-rendimiento en tiempo real.

Significancia y Reivindicaciones

El artículo posiciona a ROSA como un esfuerzo fundacional temprano hacia el servicio eficiente de RFM para el despliegue industrial. Los autores afirman que, si bien las arquitecturas de modelos y los algoritmos específicos pueden evolucionar rápidamente, los tres principios de diseño (infraestructura compartida, abstracción consciente de la robótica y programación de objetivos de fábrica) son generales y duraderos.

El trabajo demuestra que mover la inferencia de RFM a un pool de servidores compartidos, gestionado por un programador que optimiza la productividad global de la fábrica en lugar de la latencia local, es un camino viable y altamente eficiente para desplegar flotas de robots de propósito general. El sistema logra cerrar la brecha entre las demandas computacionales de los grandes modelos fundacionales y los estrictos requisitos de fiabilidad y seguridad de la robótica industrial.