Synergistic Simplex: Cooperative Runtime Assurance for Safety-Critical Autonomous Systems

Resumen Técnico: Simplex Sinérgico (SS)

Enunciado del Problema
Los sistemas autónomos, particularmente los vehículos autónomos (AV), dependen cada vez más del aprendizaje automático (ML) para tareas críticas de seguridad como la percepción y el control. Aunque el ML ofrece un alto rendimiento, es inherentemente no verificable y susceptible a fallos de cola larga (por ejemplo, perturbaciones adversarias o detecciones omitidas) que pueden provocar fallos catastróficos. Las arquitecturas de Garantía de Seguridad en Tiempo de Ejecución (RTA), como los diseños Simplex y Simplex de Percepción (PS), abordan esto emparejando una capa de ML no verificada y de alto rendimiento con una capa de seguridad verificable y conservadora. Sin embargo, los diseños RTA tradicionales sufren de un cuello de botella importante: la capa de seguridad opera de forma aislada, incapaz de utilizar las salidas del ML. Esto conduce a un conservadurismo excesivo, donde la capa de seguridad anula las acciones del ML incluso cuando la salida del ML es segura pero meramente no verificada, degradando el rendimiento y la eficiencia del sistema. Además, los estándares de certificación de seguridad prohíben típicamente que las capas de seguridad utilicen información no verificable del ML, creando una separación rígida que limita la optimización.

Metodología
El artículo propone la arquitectura Simplex Sinérgico (SS), una generalización del paradigma Simplex que habilita la comunicación bidireccional entre la capa de ML y la capa de seguridad, preservando al mismo tiempo las garantías formales de seguridad. La arquitectura consta de dos enlaces de comunicación principales:

1. Enlace Seguridad-a-ML (S2M): En lugar de anular inmediatamente una acción insegura del ML, la capa de seguridad comunica restricciones verificadas (por ejemplo, ubicaciones de obstáculos) de vuelta a la capa de ML. A continuación, se solicita a la capa de ML que recalcule una acción dentro de estos límites verificados. Si se encuentra un recálculo seguro, se ejecuta; de lo contrario, la capa de seguridad aplica una acción de respaldo segura. Esto transforma el mecanismo de anulación de un interruptor duro en un proceso cooperativo.
2. Enlace ML-a-Seguridad (M2S): Este enlace permite que la capa de seguridad incorpore salidas específicas y seleccionadas de la capa de ML para refinar la toma de decisiones. Crucialmente, el artículo formaliza las condiciones bajo las cuales esto es seguro. Utilizando un modelo de propagación de fallos probabilístico sobre un Grafo Acíclico Dirigido (DAG) de la pila de autonomía, los autores demuestran que la capa de seguridad puede utilizar de forma segura salidas del ML de funciones independientes (por ejemplo, detección de carril al monitorear la detección de obstáculos), pero debe prohibir estrictamente el uso de funciones aguas arriba (que podrían corromper el módulo monitoreado) o funciones aguas abajo (que crearían bucles de retroalimentación que violarían el modelo de fallos estático).

Los autores proporcionan un análisis formal de seguridad que demuestra que, bajo supuestos específicos (verificación sólida, espacio de estados maniobrable seguro e independencia de las funciones de ML utilizadas), SS preserva las garantías de seguridad deterministas del Simplex de Percepción original.

Contribuciones Clave

• Arquitectura Simplex Sinérgico: Un diseño novedoso que habilita la interacción bidireccional entre las capas de ML y seguridad para mejorar el rendimiento sin violar la seguridad.
• Análisis Formal de Seguridad: Una derivación rigurosa de las condiciones bajo las cuales la comunicación bidireccional preserva las garantías de seguridad de PS. Específicamente, el artículo demuestra que el uso de salidas de ML independientes (como la detección de carril) en la capa de seguridad no compromete las garantías de seguridad con respecto a la función monitoreada (detección de obstáculos).
• Diseño de Referencia para AV: Una instancia concreta de SS para vehículos autónomos, que utiliza un detector de seguridad geométrico basado en LiDAR y una pila de percepción basada en ML (TransFuser++).
• Evaluación Empírica: Evaluación extensa en los entornos de simulación CARLA y nuPlan que demuestra los compromisos entre seguridad y rendimiento.

Resultados
La evaluación se centró en fallos de detección de obstáculos en la capa de ML a través de dos escenarios:

1. Obstáculo en el Carril (Experimento 1): Cuando se omite un obstáculo en el carril propio, tanto PS como SS (variante M2S) previenen con éxito las colisiones (Tasa de Colisión = 0.0) al activar la frenada de emergencia. Sin embargo, en la configuración de CARLA, esto resulta en una parada completa y un fallo de ruta (Tasa de Finalización de Ruta = 0.0). Una evaluación auxiliar en nuPlan (que soporta la inyección de restricciones) mostró que el enlace S2M permite al planificador replanificar y evitar paradas innecesarias, logrando una tasa de finalización de ruta del 74% mientras mantiene la seguridad.
2. Obstáculo en Carril Adyacente (Experimento 2): Cuando se omite un obstáculo en un carril adyacente, la arquitectura PS estándar lo trata como una amenaza crítica, activando una frenada de emergencia conservadora y resultando en una baja finalización de ruta (10%). En contraste, la variante SS (M2S) utiliza información de carril derivada del ML para clasificar el obstáculo como no crítico (Zona 2). Esto permite que el sistema aplique una mitigación más ligera (liberación del acelerador) en lugar de frenada de emergencia, mejorando significativamente la tasa de finalización de ruta al 70% mientras mantiene cero colisiones.

Significado y Afirmaciones
El artículo afirma que Simplex Sinérgico desafía con éxito la separación estricta tradicional entre las capas de misión y seguridad. Al derivar formalmente las condiciones para la comunicación bidireccional, SS demuestra que los componentes de ML de alto rendimiento y las garantías de seguridad verificables no necesitan ser objetivos en competencia. La arquitectura permite que los sistemas críticos de seguridad aprovechen los beneficios de rendimiento del ML (como el contexto del carril) para reducir el conservadurismo innecesario y mejorar la finalización de tareas, todo mientras retiene las garantías de seguridad deterministas del marco Simplex subyacente. El trabajo postula que los estándares de certificación de seguridad pueden satisfacerse incluso cuando las capas de seguridad utilizan información del ML, siempre que se cumplan las condiciones de independencia estructural.