Ensuring Safe Physical AI in Urban Mobility via Hazard-Informed Synthesized Envelopes

Resumen Técnico: Garantizar la IA Física Segura en la Movilidad Urbana mediante Envolventes Sintetizadas Basadas en el Conocimiento de Peligros

Planteamiento del Problema
La integración de sistemas robóticos heterogéneos —que van desde robots de entrega en aceras hasta robotaxis autónomos y vehículos de mantenimiento de vías— en espacios urbanos públicos presenta un desafío crítico de seguridad. A diferencia de los entornos industriales controlados, la movilidad urbana implica interacciones complejas y dinámicas con agentes humanos. Los paradigmas de seguridad actuales suelen estar fragmentados: los robots de acera dependen de comportamientos de baja velocidad de "ceder el paso a todos", los robotaxis utilizan redundancias de sensores multicapa y envolventes deterministas, y los robots de mantenimiento dependen de geovallado (geofencing) y comunicación V2X.

El problema central identificado es que la seguridad se trata frecuentemente como una restricción estática aislada dentro de módulos de software individuales. Sin embargo, la seguridad es inherentemente una característica del sistema que evoluciona a medida que la información fluye a través de las diferentes capas del diseño del sistema (desde reglas simbólicas hasta el control físico). Existe una falta de un marco unificado que vincule el análisis sistemático de peligros con la ejecución en tiempo de ejecución, asegurando que los objetivos de seguridad se mantengan consistentes a través de los diversos niveles de abstracción.

Metodología
Los autores proponen un marco unificado centrado en Envolventes Sintetizadas Basadas en el Conocimiento de Peligros y un Arnés de IA Física. La metodología opera a través de tres componentes principales:

1. Envolventes de Seguridad Basadas en el Conocimiento de Peligros:
   En lugar de entrenar modelos únicamente con datos de conducción normales, el marco utiliza un flujo de trabajo para generar escenarios de entrenamiento sintéticos específicamente alrededor de situaciones críticas de seguridad. Estos escenarios se derivan de activos, modos de exposición y escenarios de peligro definidos explícitamente. Este enfoque permite que los modelos de aprendizaje automático aprendan la transición gradual de la operación normal a las condiciones peligrosas, en lugar de solo eventos de colisión poco comunes. Los modelos resultantes estiman continuamente la proximidad a las violaciones de las restricciones de seguridad, permitiendo una evaluación de seguridad predictiva.

2. Transformación de Seguridad entre Capas:
   El marco modela la seguridad a través de una jerarquía de tres modelos de mundo, donde la seguridad se representa de forma diferente en cada nivel pero mantiene un objetivo subyacente consistente:

   • Capa Simbólica: Representa el entorno utilizando entidades, relaciones y reglas (por ejemplo, leyes de tránsito, restricciones éticas). La seguridad se define por acciones permisibles (por ejemplo, ceder el paso a peatones).
   • Capa Espacial: Traduce las reglas simbólicas en planes de movimiento geométricos. La seguridad se expresa mediante probabilidades de colisión, distancias de despeje y ocupación prevista de obstáculos dinámicos.
   • Capa Dinámica: Gobierna las interacciones físicas, centrándose en los límites de los actuadores, la dinámica del vehículo y la estabilidad. La seguridad se define por la viabilidad física de los comandos de control.

   El marco facilita una transformación bidireccional: la transformación hacia adelante convierte las reglas de alto nivel en comandos físicos de bajo nivel, mientras que la transformación de retroalimentación actualiza las representaciones de alto nivel basadas en las desviaciones de la ejecución en el mundo real. La "Envolvente de Seguridad Urbana" surge de la intersección consistente de las restricciones en todas las tres capas.

3. Ejecución en Tiempo de Ejecución mediante un Arnés de IA Física:
   Para asegurar que las decisiones generadas por la IA permanezcan consistentes con las restricciones de seguridad durante la ejecución, el artículo introduce un Arnés de IA Física basado en el mecanismo de Proyección, Aislamiento y Transferencia (PIT):

   • Proyección: Restringe los resultados de los modelos de ML proyectando los comandos sobre una región predefinida de comportamiento aceptable (la envolvente de seguridad). Los comandos que violan esta región son modificados o rechazados antes de llegar al controlador.
   • Aislamiento: Asigna recursos computacionales dedicados para evitar que las cargas de trabajo de la IA degraden el rendimiento de las funciones críticas de seguridad, asegurando un comportamiento determinista.
   • Transferencia: Proporciona un mecanismo controlado para transferir la autoridad del modelo de IA a un controlador de respaldo verificado (por ejemplo, frenado de emergencia o control basado en reglas) cuando los márgenes de seguridad caen por debajo de los umbrales aceptables.

Contribuciones Clave

• Marco de Seguridad Unificado: El artículo presenta un enfoque de múltiples capas que vincula el análisis sistemático de peligros con la ejecución en tiempo de ejecución, yendo más allá de las restricciones de seguridad estáticas y específicas de cada módulo.
• Datos Sintéticos Basados en el Conocimiento de Peligros: Propone una metodología para generar datos de entrenamiento específicamente alrededor de casos límite críticos de seguridad para mejorar la interpretabilidad del modelo y la evaluación de seguridad predictiva.
• Representación Jerárquica de la Seguridad: Formaliza la transformación de los objetivos de seguridad desde las reglas simbólicas hacia los planes espaciales y, finalmente, hacia los comandos de control dinámico, asegurando la consistencia a través de los niveles de abstracción.
• Mecanismo de Seguridad en Tiempo de Ejecución: La introducción del Arnés de IA Física (PIT) proporciona un mecanismo concreto para imponer la semántica de seguridad durante el ciclo de vida operativo de los sistemas autónomos.

Resultos y Enfoque de Validación
El artículo no presenta resultados experimentales empíricos de una flota desplegada. En su lugar, describe una implementación de prueba de concepto actualmente en desarrollo. Los autores afirman que están validando el marco utilizando un flujo de trabajo de bucle cerrado que integra tres plataformas de NVIDIA:

• NVIDIA Isaac Sim e Isaac Lab: Para simulación de robótica físicamente precisa y aprendizaje.
• NVIDIA Cosmos: Para generar datos sintéticos de alta calidad y simular diversos escenarios urbanos, incluyendo casos límite críticos de seguridad.
• NVIDIA Omniverse: Para construir gemelos digitales de alta fidelidad de entornos urbanos.

El objetivo de esta implementación es evaluar sistemáticamente la envolvente de seguridad urbana a través de miles de variaciones de escenarios y validar los mecanismos de ejecución PIT bajo condiciones controladas pero realistas.

Significancia y Reivindicaciones
Los autores afirman que este marco ofrece una base rigurosa y escalable para una movilidad urbana segura. Al tratar la seguridad como una propiedad de múltiples capas que evoluciona con los niveles de abstracción, el sistema puede anticipar las condiciones límite antes de que ocurran las violaciones. La integración de la síntesis basada en el conocimiento de peligros con la ejecución en tiempo de ejecución asegura que la seguridad se preserve no solo durante el desarrollo del modelo, sino a lo largo de todo el ciclo de vida operativo. El artículo posiciona este enfoque como una evolución necesaria de las restricciones de seguridad estáticas hacia sistemas de seguridad dinámicos, predictivos y ejecutables, capaces de manejar la complejidad de los sistemas robóticos heterogéneos en espacios públicos.