Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control

Este artículo presenta un marco de control probabilístico seguro para la interacción humano-robot que combina funciones de barrera de control con control de riesgo conforme para ofrecer garantías formales de seguridad, reducir las colisiones y mantener la eficiencia en tareas de navegación mediante el ajuste dinámico de los márgenes de seguridad según el contexto de interacción.

Lo esencial

Imagina que estás caminando por una calle muy concurrida y de repente ves a un robot intentando cruzar hacia ti. ¿Qué debería hacer el robot?

• Opción A (Demasiado tímido): Detenerse en seco y esperar a que todos pasen, incluso si hay espacio. Esto es seguro, pero muy lento e ineficiente.
• Opción B (Demasiado valiente): Asumir que sabe exactamente por dónde vas a caminar y cruzar rápido. Si te mueves de forma inesperada, ¡chocan!

El artículo que presentas propone una tercera opción: un robot que es "inteligente en el riesgo". Es como un conductor experto que sabe cuándo acelerar y cuándo frenar, no porque adivine tu futuro, sino porque entiende que no puede predecirlo con certeza.

Aquí te explico cómo funciona su "cerebro" usando analogías sencillas:

1. El Problema: El "Efecto Mariposa" Humano

Los humanos somos impredecibles. A veces pasamos a la izquierda, a veces a la derecha, o nos detenemos a mirar el móvil. Para un robot, esto es como intentar adivinar si lloverá mañana sin tener un pronóstico fiable.

Los métodos antiguos de seguridad (llamados CBF) son como un guardián rígido. Si el robot ve una posibilidad remota de choque, el guardián grita "¡ALTO!" y bloquea cualquier movimiento. Esto hace que el robot sea extremadamente cauteloso y lento, como un conductor que frena en rojo solo porque ve una sombra que podría ser un peatón.

2. La Solución: El "Paraguas Mágico" (Control de Riesgo Conformal)

Los autores combinan dos ideas geniales para crear un sistema nuevo:

• El Guardián (CBF): Sigue siendo el guardián que protege la seguridad.
• El Ajuste de Paraguas (Conformal Risk Control - CRC): Aquí está la magia. Imagina que el robot lleva un paraguas.
  • Si el clima es claro (el robot sabe exactamente qué harás), el robot abre el paraguas un poquito. Es ágil y rápido.
  • Si el clima es tormentoso (el robot no sabe si vas a girar o detenerte), el robot abre el paraguas muy grande. Se vuelve más cauteloso, se aleja un poco más de ti y espera.

La innovación de este papel es que el robot calcula matemáticamente qué tan grande debe ser ese paraguas en cada segundo. No usa suposiciones fijas; usa datos históricos para decir: "En este momento, hay un 99% de probabilidad de que si me alejo 1 metro, no chocaremos. Si hay más incertidumbre, me alejaré 2 metros".

3. ¿Cómo aprende el robot a ajustar su paraguas?

El robot no tiene un manual de instrucciones fijo. Sigue un proceso de entrenamiento similar a aprender a conducir:

1. Observación (Entrenamiento Offline): El robot ve miles de videos de gente caminando (datos reales de peatones). Aprende cómo se mueven los humanos en diferentes situaciones.
2. Simulación de Errores: Se pregunta: "Si predigo que vas a ir por aquí, pero en realidad vas por allá, ¿qué tan grande fue mi error?".
3. Creación de la Regla: Usa una herramienta estadística llamada Control de Riesgo Conformal para crear una regla dinámica. Esta regla le dice: "Cuando veas a alguien con un comportamiento confuso, aumenta tu margen de seguridad automáticamente".

4. El Resultado: Un Robot "Sensible"

En los experimentos descritos en el papel, probaron esto en dos escenarios:

• Callejón estrecho (Un solo humano): El robot se encontró con una persona que iba a cruzar.
  • El método antiguo (rígido) chocó o se detuvo demasiado.
  • El método nuevo (CRC) se detuvo un instante, esperó a que la persona pasara y luego continuó. Fue seguro pero no se quedó paralizado.
• Multitud (Muchos humanos): En una plaza llena de gente, el robot logró navegar entre la multitud sin chocar, ajustando su velocidad y distancia en tiempo real según lo impredecible que parecían los movimientos de la gente.

En Resumen

Este papel presenta un robot que deja de ser un "robot tonto" que solo sigue reglas fijas y se convierte en un compañero de baile.

• Si la música es lenta y predecible, baila cerca de ti.
• Si la música se vuelve caótica y tú te mueves de forma extraña, el robot da un paso atrás, te da espacio y espera a que la música se aclare.

La promesa: Garantiza matemáticamente que el robot no te chocará (con una probabilidad muy alta, como el 99%), pero al mismo tiempo, no se vuelve un "miedoso" que nunca se mueve. Es el equilibrio perfecto entre seguridad y eficiencia.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo en español, estructurado según los puntos solicitados:

Resumen Técnico: Planificación Probabilística Segura para la Interacción Humano-Robot usando Control de Riesgo Conformal

1. Problema Abordado

El despliegue seguro de robots autónomos en entornos humanos (como conducción autónoma o robots de servicio) enfrenta un desafío fundamental: la incertidumbre en el comportamiento humano. Esta incertidumbre es:

• Multimodal: Los humanos pueden elegir múltiples comportamientos distintos (ej. pasar por la izquierda o derecha).
• Dependiente de la historia: Las acciones futuras dependen de la interacción previa.

Los enfoques actuales de control seguro tienen limitaciones:

• Los métodos basados en suposiciones distribucionales (ej. Gaussianas) son a menudo simplificaciones poco realistas.
• Los métodos de muestreo carecen de garantías formales de seguridad y son computacionalmente costosos.
• Las funciones de barrera de control (CBF) tradicionales, aunque ofrecen garantías teóricas, luchan para manejar la estocasticidad no acotada de los humanos sin ser excesivamente conservadoras (lo que reduce la eficiencia) o arriesgadas.

El objetivo es desarrollar un algoritmo de planificación que maneje esta incertidumbre compleja, proporcione garantías formales de probabilidad de satisfacción de restricciones y ajuste dinámicamente la conservatividad del robot según el contexto.

2. Metodología

Los autores proponen un marco novedoso que combina Funciones de Barrera de Control (CBF) con Control de Riesgo Conformal (CRC).

• Fundamento Teórico (CBF y Discretización):

  • Se utiliza un sistema dinámico conjunto (robot + humanos) discretizado en el tiempo.
  • Se define un conjunto de controles seguros robustos que garantizan la invariancia del conjunto seguro $S$ durante intervalos de tiempo discretos, considerando el error de discretización.
  • Dado que la política del humano es desconocida y estocástica, no se puede optimizar directamente el control. En su lugar, el objetivo es garantizar que la condición de seguridad se cumpla con alta probabilidad ($1-\gamma$).

• Control de Riesgo Conformal (CRC):

  • Se introduce un margen de seguridad ($\lambda$) que actúa como un búfer para la incertidumbre de predicción.
  • Se define una función de pérdida $L(\lambda)$ que cuantifica el error entre el certificado de barrera verdadero y el predicho.
  • Se aplica CRC no intercambiable (que maneja dependencias temporales en series de tiempo) para calcular dinámicamente el valor óptimo de $\lambda$. Esto permite controlar el riesgo esperado de violación de la restricción sin asumir una distribución de datos específica.
  • El algoritmo ajusta $\lambda$ en línea: si la incertidumbre de predicción del comportamiento humano es alta, $\lambda$ aumenta (el robot se vuelve más conservador); si es baja, $\lambda$ disminuye (permitiendo un comportamiento más eficiente).

• Síntesis de la Política de Control:

  • Se formula un problema de optimización cuadrática (QP) donde el robot minimiza la desviación de su política nominal, sujeto a la restricción de que la probabilidad de que la acción esté dentro del conjunto seguro (ajustado por $\lambda$) sea $\ge 1-\gamma$.
  • Entrenamiento Offline: Se generan trayectorias de interacción simuladas para calibrar los márgenes de seguridad óptimos y entrenar un modelo predictivo (LSTM) que mapea el contexto actual al valor de $\lambda$.
  • Ejecución Online: El robot utiliza el modelo entrenado para actualizar $\lambda$ en tiempo real basándose en el estado actual y la incertidumbre de predicción.

3. Contribuciones Clave

1. Marco de Control Seguro Híbrido: Primera integración de CRC con CBFs para proporcionar garantías de seguridad de alta probabilidad en interacciones humano-robot.
2. Análisis Teórico Riguroso: Establece la conexión formal entre la cuantificación de incertidumbre basada en CRC y las garantías de seguridad probabilística, demostrando que el control de error de predicción se traduce en límites de probabilidad de seguridad.
3. Algoritmo de Adaptación Dinámica: Propone un algoritmo "liviano" (sin fuertes suposiciones distribucionales) que adapta los márgenes de seguridad dinámicamente según el contexto de interacción y la historia de la interacción.
4. Validación Empírica: Demuestra la viabilidad práctica mediante experimentos en escenarios de navegación con datos reales de peatones, superando a los métodos baselines.

4. Resultados Experimentales

Los autores evaluaron su método (Online CRC-SF) frente a tres baselines: CBF-QP (sin incertidumbre), Fixed CRC-SF (margen fijo) y MPPI (método de muestreo sin garantías formales).

• Escenario de Agente Único (Interacción frontal):

  • CBF-QP: Alta eficiencia pero inseguro (38.8% de colisiones en multi-agente, 16% en único).
  • Fixed CRC-SF: Muy seguro (0% colisiones) pero extremadamente ineficiente (solo 14% éxito en llegar a la meta en único, 31.6% en multi-agente) debido a la conservatividad excesiva.
  • Online CRC-SF: Logra el mejor equilibrio. En el escenario de agente único, redujo las colisiones al 2% manteniendo un 78% de éxito en la meta. En multi-agente, redujo las colisiones al 3% con un 84.8% de éxito.

• Escenario Multi-Agente (Multitud real):

  • Utilizando un modelo de difusión entrenado con datos reales de peatones, el método propuesto demostró ser superior en la compensación seguridad-eficiencia.
  • Mostró una consistencia superior en diferentes configuraciones de prueba en comparación con otros métodos que exhibieron alta varianza.
  • Qualitativamente, el robot con CRC-SF mostró comportamientos proactivos (ej. "esperar" o frenar) cuando la incertidumbre era alta, evitando colisiones que el CBF-QP no pudo evitar.

5. Significado e Impacto

Este trabajo representa un avance significativo en la seguridad de la interacción humano-robot al:

• Eliminar la necesidad de suposiciones distribucionales: A diferencia de los métodos gaussianos, CRC funciona con distribuciones arbitrarias y cambios de distribución (distribution shifts), lo cual es crucial para el comportamiento humano real.
• Garantías Formales en Tiempo Real: Proporciona garantías matemáticas de que la probabilidad de colisión se mantiene por debajo de un umbral especificado, algo que los métodos de muestreo (como MPPI) no pueden ofrecer.
• Eficiencia Adaptativa: Resuelve el dilema clásico entre seguridad y rendimiento. En lugar de ser siempre conservador (lento) o arriesgado, el robot se vuelve conservador solo cuando es necesario (alta incertidumbre) y eficiente cuando la predicción es confiable.
• Aplicabilidad: El enfoque es computacionalmente eficiente para control en tiempo real y está validado con datos del mundo real, lo que lo hace prometedor para aplicaciones en vehículos autónomos y robots de servicio en entornos dinámicos.