Resumen Técnico: Seguridad y Privacidad de los Robots Impulsados por Modelos Fundacionales

1. Planteamiento del Problema

Los modelos fundacionales (FM), que incluyen Modelos de Lenguaje Extensos (LLM), Modelos de Lenguaje-Visión (VLM) y Modelos de Lenguaje-Visión-Acción (VLA), están transformando la robótica al permitir que los agentes interpreten instrucciones de código abierto, razonen sobre contextos multimodales y operen en entornos complejos de mundo abierto. Sin embargo, esta integración introduce riesgos de seguridad y privacidad (S&P) que se extienden más allá de los propios modelos hacia los procesos de ejecución corporizada, los ecosistemas de soporte y los impactos de gobernanza más amplios.

Las revisiones de literatura existentes sobre este tema sufren de dos limitaciones primarias:

1. Cobertura Fragmentada: La mayoría de las revisiones se centran en tipos específicos de FM (por ejemplo, solo LLM o solo VLA) o en categorías de riesgo específicas, careciendo de un análisis integrado a través de diferentes tipos de modelos y capas del sistema.
2. Marco Estructural Insuficiente: Los análisis previos suelen depender de taxonomías planas y de límites de confianza únicos (por ejemplo, centrándose únicamente en el modelo o en la corporeidad del robot). Esto oscurece cómo los riesgos se originan, se propagan a través de las capas y se amplifican en daños sociales más amplios. En consecuencia, el campo carece de una estructura unificada para identificar brechas de mitigación y comprender el ciclo de vida completo de los riesgos de S&P en sistemas robóticos impulsados por FM.

2. Metodología

Para abordar estas brechas, los autores proponen un enfoque sistemático basado en un nuevo marco estructural y una taxonomía multinivel.

2.1 El Marco Estructural F-E-S-G

Los autores definen un marco de frontera de confianza progresivo de cuatro capas para organizar el espacio del problema:

• Capa del Modelo Fundacional (F): Captura los desafíos arraigados en el artefacto del modelo mismo (parámetros, puntos de control, adaptadores, incrustaciones, actualizaciones de entrenamiento).
• Capa del Sistema Corporizado (E): Cubre los problemas dentro del proceso de ejecución interna de un robot independiente, incluyendo el ciclo completo de percepción-planificación-ejecución (Percepción, Planificación, Política, Cinemática, Ejecución, Middleware).
• Capa del Ecosistema de Soporte (S): Incluye riesgos de componentes e infraestructuras externas que apoyan la operación (canales de comunicación, backends en la nube, cadenas de suministro, herramientas externas).
• Capa de Impacto de Gobernanza (G): Aborda cuestiones que se extienden más allá del sistema técnico, incluyendo regulación, rendición de cuentas, confianza pública y consecuencias humanas/sociales derivadas.

2.2 Taxonomía Multinivel y Codificación

Basándose en el marco, los autores desarrollaron una taxonomía para organizar los estudios previos a lo largo de tres niveles:

1. Frontera de Confianza: F, E, S o G.
2. Dominio: Seguridad (integridad, fiabilidad, comportamiento previsto) vs. Privacidad (protección de información sensible).
3. Perspectiva: Riesgos (vulnerabilidades, amenazas) vs. Mitigaciones (prevención, detección, recuperación).

Además, cada uno de los 96 artículos sistematizados fue anotado con atributos de codificación detallados:

• Objetivo: El componente específico afectado (por ejemplo, Módulo de Planificación, Middleware).
• Etapa: La etapa del ciclo de vida donde se introduce el riesgo o se aplica la mitigación.
• Mecanismo: El método técnico del riesgo o la defensa.
• Acceso al Sistema: La visibilidad del adversario (Ninguno, Caja negra, Caja gris, Caja blanca).
• Efecto: Eficacia, sigilo y costo de utilidad.

2.3 Proceso de Sistematización

Siguiendo las prácticas estándar de Sistematización del Conocimiento (SoK), los autores:

1. Definieron el alcance para incluir estudios de S&P que involucren LLMs, VLMs o VLAs en percepción, planificación o selección de acciones robóticas.
2. Recuperaron candidatos de las principales conferencias de seguridad, privacidad, robótica e IA corporizada (290 candidatos iniciales).
3. Filtraron los artículos por título, resumen y texto completo, reteniendo 118 para revisión completa.
4. Codificaron e clasificaron iterativamente 96 artículos en el corpus final utilizado para el análisis.

3. Hallazgos Clave y Resultados

3.1 Riesgos y Mitigaciones Específicos por Capa

• Capa del Modelo Fundacional (F):

  • Riesgos: Dominados por el Compromiso del Modelo (envenenamiento de datos, fine-tuning malicioso/backdoors), Manipulación Semántica (jailbreaking, instrucciones adversarias, inyección de prompts), Manipulación Visual (parches/texturas adversarias) y Desalineación (ataques de recompensa, generalización errónea de objetivos). Los riesgos de privacidad incluyen inferencia de membresía, filtración de personalización y huellas digitales.
  • Mitigaciones: Principalmente Endurecimiento del Modelo (entrenamiento adversario, fusión de modelos, arquitecturas interpretables) y Guardrails de Ejecución. Las mitigaciones de privacidad dependen de Salvaguardas Federadas y Control por Claves.
  • Brecha: Las defensas suelen adaptarse de LLMs de solo texto y carecen de validación frente a la ejecución física anclada.

• Capa del Sistema Corporizado (E):

  • Riesgos: Incluyen Manipulación Semántica (secuestro de planes), Manipulación Visual (ataques a objetos físicos), Manipulación de Señales (spoofing de sensores) y Compromiso de Middleware (vulnerabilidades en ROS2/DDS). Los riesgos de privacidad surgen de la escucha de señales acústicas o de comunicación.
  • Mitigaciones: Dependen fuertemente de Guardrails en Tiempo de Ejecución (diagnóstico de fallos, evasión, recuperación) y un endurecimiento limitado del middleware.
  • Brecha: Las mitigaciones son reactivas y locales a la capa, interviniendo después de que se toman las decisiones, lo cual es problemático para acciones físicas irreversibles.

• Capa del Ecosistema de Soporte (S):

  • Riesgos: Ataques a la cadena de suministro (adaptadores/paquetes envenenados), ataques de Hombre en el Medio (MITM), Abuso de software-servicio y Ataques a sistemas multi-robot. Los riesgos de privacidad involucran la filtración por análisis de tráfico y la externalización de datos.
  • Mitigaciones: Verificación de la cadena de suministro, resiliencia multi-robot y detección de MITM en tiempo de ejecución.
  • Brecha: Comprensión limitada de los riesgos compositivos donde componentes individualmente confiables introducen riesgos emergentes al integrarse.

• Capa de Impacto de Gobernanza (G):

  • Riesgos: Se manifiestan como daños a nivel de despliegue (acciones inseguras, disputas de responsabilidad, pérdida de confianza) y problemas de privacidad derivados de la detección rutinaria sin consentimiento.
  • Mitigaciones: Salvaguardas de gobernanza (certificación, auditoría, transparencia, asignación de responsabilidad).
  • Brecha: "Retraso de gobernanza" donde los mecanismos de rendición de cuentas carecen de la evidencia técnica (procedencia, trazas) necesaria para abordar daños trans-capa.

3.2 Brechas Sistémicas y Limitaciones

El análisis revela cuatro brechas sistémicas críticas:

1. Suposición vs. Realidad: Los modelos de amenazas suelen asumir acceso de caja blanca o componentes confiables, lo cual no se sostiene en despliegues reales dinámicos y heterogéneos.
2. Propagación vs. Mitigación Local: Los riesgos suelen originarse en una capa (ej. F) pero se manifiestan en otra (ej. E), sin embargo, las mitigaciones se despliegan frecuentemente solo donde se observa el daño, fallando en eliminar las vulnerabilidades ascendentes.
3. Fragmentación vs. Defensa Sistémica: Las soluciones actuales son específicas de módulos, careciendo de un marco unificado para la defensa de extremo a extremo en todo el proceso.
4. Evidencia de Rendición de Cuentas: Los mecanismos de gobernanza luchan debido a la falta de evidencia técnica unificada y verificable (procedencia, historiales de actualización) a través de las capas.

3.3 Limitaciones de la Evaluación

El artículo identifica deficiencias significativas en los protocolos de evaluación actuales:

• Falta de benchmarks compartidos y métricas estandarizadas.
• Reporte insuficiente de costos de utilidad (compromisos entre seguridad y rendimiento).
• Validación Sim-to-Real limitada, lo que plantea dudas sobre la generalizabilidad de los hallazgos.

4. Contribuciones

El artículo realiza tres contribuciones principales:

1. Marco Novedoso: Propone el marco estructural progresivo F-E-S-G, proporcionando una lente unificada para organizar la investigación fragmentada y rastrear la propagación del riesgo a través de todo el ciclo de vida del sistema robótico.
2. Taxonomía Multinivel: Desarrolla una taxonomía exhaustiva que organiza 96 artículos por frontera de confianza, dimensión de seguridad-privacidad y perspectiva de riesgo-mitigación, suplementada con atributos de codificación detallados.
3. Agenda de Investigación: Identifica desafíos abiertos y direcciones futuras, incluyendo la operacionalización de S&P corporizada, el abordaje de riesgos sistémicos en sistemas multi-robot, la garantía de fiabilidad de largo horizonte, la seguridad de los emergentes Modelos Fundacionales de Mundo (WFM) y el establecimiento de protocolos de evaluación unificados.

5. Significación y Reivindicaciones

Los autores afirman que este trabajo proporciona la primera visión integral y estructural del panorama de S&P a través de todo el ciclo de vida y la arquitectura del sistema de los sistemas robóticos impulsados por FM. Al ir más allá de las perspectivas de frontera única, el marco permite a los investigadores:

• Identificar brechas de mitigación que son invisibles cuando se ven las capas de forma aislada.
• Comprender cómo los riesgos se originan, se propagan y se amplifican a través de diferentes componentes.
• Sistematizar el campo para guiar el desarrollo de sistemas robóticos seguros, que preserven la privacidad y sean gobernados responsablemente.

El artículo enfatiza que, sin tal estructura unificada, el campo no puede abordar eficazmente la naturaleza compleja y trans-capa de las amenazas modernas de la robótica. Se posiciona como una referencia fundamental para la investigación futura, destacando que las evaluaciones actuales son insuficientes y que el trabajo futuro debe cerrar la brecha entre las defensas técnicas y los requisitos de gobernanza.