💻 computer science

Trust Through Transparency: Explainable Social Navigation for Autonomous Mobile Robots via Vision-Language Models

Este artículo presenta un módulo multimodal que integra modelos de visión-idioma y mapas de calor para dotar a los robots móviles autónomos de capacidades de explicación en lenguaje natural durante la navegación social, lo que, según estudios con usuarios, aumenta la confianza y la comprensión de sus acciones.

Autores originales: Oluwadamilola Sotomi, Devika Kodi, Aliasghar Arab

Publicado 2026-04-09

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Oluwadamilola Sotomi, Devika Kodi, Aliasghar Arab

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un robot de servicio en tu oficina o en un hospital. De repente, el robot se detiene en medio del pasillo, da media vuelta y se va por otro camino. Si no te dice nada, probablemente te sientas confundido, molesto o incluso asustado: "¿Qué le pasa? ¿Está averiado? ¿Va a chocar conmigo?".

Este artículo de investigación trata sobre cómo hacer que los robots sean más transparentes y confiables, actuando como si tuvieran una "voz interior" que nos explica qué están pensando.

Aquí tienes la explicación de la investigación, traducida a un lenguaje sencillo y con algunas analogías creativas:

1. El Problema: El Robot "Mudo"

Antes, los robots autónomos eran como conductores de taxi que no hablan. Saben a dónde ir y cómo evitar obstáculos, pero nunca te dicen por qué tomaron una decisión. Si frenan de golpe, tú no sabes si es porque vieron a un niño, porque el suelo estaba mojado o porque se les acabó la batería. Esta falta de comunicación genera desconfianza.

2. La Solución: El Robot "Chismoso" (pero útil)

Los autores crearon un sistema que le da al robot tres superpoderes para hablar con los humanos:

Ojos que ven y describen (Modelos Visuales-Linguísticos): El robot no solo "ve" una imagen; la "lee". Usa una tecnología avanzada (como un traductor de imágenes a palabras) para decir: "Veo a un grupo de personas hablando".
Un mapa de calor mental (Heatmaps): Imagina que el robot tiene unas gafas especiales que le muestran en rojo brillante las zonas donde hay peligro o gente. El sistema muestra esta "mancha roja" en una pantalla para que tú veas exactamente qué está mirando el robot.
Un narrador en tiempo real (Inteligencia Artificial): El robot combina lo que ve y el mapa de calor para generar una frase natural. En lugar de un código binario, te dice: "Veo a un grupo de personas conversando, así que voy a dar un rodeo para no interrumpirlos".

3. La Analogía del "Chofer Explicativo"

Piensa en la diferencia entre dos choferes:

El chofer antiguo (sin explicación): Frena bruscamente. Tú te agarras del asiento y piensas: "¡Qué mal conductor!".
El chofer nuevo (con este sistema): Frena y te dice: "Disculpe, hay un niño jugando con una pelota justo enfrente, así que me detengo para evitar un accidente".

¡De repente, el frenado deja de ser un error y se convierte en una decisión inteligente y segura! Eso es lo que hace este sistema: transforma el miedo en confianza.

4. ¿Cómo lo probaron?

Los investigadores pusieron a prueba este robot en un entorno real con 30 personas (estudiantes y profesores).

El experimento: El robot tenía que navegar por pasillos. A veces lo hacía en silencio, y otras veces hablaba y mostraba sus "gafas de calor".
El resultado: Cuando el robot hablaba, la gente:
- Se sintió más segura.
- Entendió mejor por qué el robot hacía lo que hacía.
- Confió más en la máquina.
- El robot incluso cometió menos errores bruscos (como frenadas de golpe) porque el sistema le ayudaba a planear mejor.

5. El Reto: La Velocidad de la Respuesta

Hay un pequeño problema, como cuando te conectas a una videollamada con mala señal. A veces, el robot tarda unos segundos en "pensar" y decir su frase. Si tarda demasiado, la explicación llega tarde y pierde sentido (es como decir "¡Cuidado!" cuando el accidente ya pasó).
Los autores reconocen que necesitan hacer el sistema más rápido (como cambiar de un ordenador viejo a uno nuevo) para que la explicación sea instantánea.

En Resumen

Esta investigación nos enseña que para que los robots sean aceptados en nuestra sociedad, no basta con que sean inteligentes; tienen que ser comprensibles.

Al igual que confiamos más en un amigo que nos explica sus motivos que en uno que actúa sin decir nada, los robots que nos cuentan sus pensamientos (usando cámaras, mapas de calor y lenguaje natural) logran que los humanos se sientan más seguros y en control. Es el paso de tener una "caja negra" misteriosa a tener un compañero de viaje transparente.

Resumen Técnico: Navegación Social Explicable para AMRs

1. Planteamiento del Problema

La integración de Robots Móviles Autónomos (AMR) en entornos sociales y de servicio enfrenta un desafío crítico: la falta de transparencia en la toma de decisiones.

Falta de Confianza: Los robots tradicionales a menudo actúan como "cajas negras", lo que genera desconfianza y reduce la usabilidad en la colaboración humano-robot (HRI).
Limitaciones Actuales: Las investigaciones previas en IA Explicable (XAI) se han centrado principalmente en la lógica interna o en modelos sustitutos (como valores de Shapley), pero carecen de explicaciones en lenguaje natural en tiempo real que combinen percepción visual y justificación semántica.
Necesidad: Se requiere un sistema que no solo navegue de forma segura, sino que también articule sus observaciones y decisiones mediante lenguaje natural y visualización, alineándose con las normas sociales humanas para mejorar la aceptación y la predictibilidad.

2. Metodología Propuesta

Los autores proponen un módulo de explicabilidad multimodal que integra Modelos de Lenguaje y Visión (VLM), mapas de calor y generación de lenguaje natural. El sistema se basa en una arquitectura de cuatro nodos ROS2:

Nodo de Cámara: Captura el entorno visual.
Nodo BLIP (Bootstrapping Language-Image Pretraining): Genera descripciones de texto (captions) basadas en la imagen capturada.
Nodo de Mapa de Calor (Grad-CAM): Identifica y resalta las regiones salientes de la imagen que influyen en la decisión del robot, proporcionando justificación visual.
Nodo LLM (Gran Modelo de Lenguaje): Sintetiza la información visual (captions) y los mapas de calor para generar una explicación natural, concisa y en tiempo real.

Formulación del Problema:
La tarea de navegación explicable se define como una tupla $T_{nav} = (S, G, P, E, \varepsilon)$ , donde:

$S$ : Estado del robot y humanos observados.
$P$ : Trayectoria planificada.
$E$ : Conjunto de explicaciones multimodales (texto + calor).
$\varepsilon$ : Puntuación de explicabilidad (0 a 1), medida mediante retroalimentación humana.

El sistema impone restricciones de normas sociales ( $\Omega_{norm}$ ) en tres categorías:

Seguridad y Normas Sociales: Mantener distancias seguras y socialmente aceptables.
Movimiento Socialmente Aceptable: Evitar paradas bruscas o aceleraciones agresivas innecesarias.
Restricciones de Navegación Social: Respetar espacios grupales y no interrumpir interacciones humanas.

Optimización de Latencia:
Se aborda el problema de la latencia ( $T_{total}$ ) como una suma de tiempos de adquisición, procesamiento visual, generación de calor y inferencia del LLM. Se reconoce que la latencia es inversamente proporcional a la potencia de cómputo, siendo un desafío crítico para la percepción de confianza en tiempo real.

3. Contribuciones Clave

Módulo Multimodal Integrado: Desarrollo de un sistema que fusiona percepción visual, mapas de calor (Grad-CAM) y generación de lenguaje natural (LLM) para explicar decisiones de navegación en tiempo real.
Marco de Navegación Social: Formalización de restricciones de normas sociales dentro del stack de navegación del robot para evitar conflictos y generar comportamientos predecibles.
Validación Empírica y de Usuario: Implementación en un robot real (MYAGV con Raspberry Pi 4) y realización de estudios con usuarios ( $n=30$ ) para cuantificar la mejora en la confianza y la comprensión.
Análisis de Desempeño: Evaluación cuantitativa mediante matrices de confusión y métricas de navegación (paradas bruscas, conflictos sociales) comparando modos con y sin explicabilidad.

4. Resultados Experimentales

Los experimentos se realizaron en dos escenarios: Navegación Manual y Navegación Autónoma, con y sin el módulo de explicabilidad activo.

Métricas de Navegación:
- Reducción de Paradas Bruscas: En navegación autónoma, las paradas bruscas disminuyeron de 21 a 18. En navegación manual, de 19 a 15.
- Detección de Conflictos: El sistema con explicabilidad detectó y gestionó conflictos sociales (2 en manual, 3 en autónomo) que de otro modo podrían haber sido ignorados o mal interpretados.
- Tiempo de Trayectoria: Se observó una ligera mejora en el tiempo total de ejecución cuando la explicabilidad estaba activa (ej. de 25.3s a 22.6s en modo autónomo), sugiriendo una toma de decisiones más fluida.
Encuesta de Usuarios ( $n=30$ ):
- Preferencia: El 76.7% de los participantes prefirieron las explicaciones en tiempo real.
- Confianza y Comprensión:
  - La comprensión de las decisiones del robot aumentó un 23.3%.
  - La confianza en el robot aumentó un 16.7%.
  - El 73.3% de los usuarios sintió que las explicaciones les ayudaron a entender las decisiones.
  - El 70% reportó sentirse más en control cuando se proporcionaban explicaciones.
Precisión del Modelo:
- La matriz de confusión sobre 196 imágenes mostró una precisión (Accuracy) del 82.14% en la alineación de las explicaciones del robot con las expectativas humanas (Verdaderos Positivos: 82, Falsos Positivos: 20).
Latencia:
- El tiempo promedio de generación de explicaciones fue de ~20 segundos (rango 5.9s - 50.6s), limitado por el hardware (Raspberry Pi 4) y la inferencia remota del LLM. Se identificó que una latencia excesiva reduce la puntuación de explicabilidad ( $\varepsilon$ ).

5. Significado e Impacto

Este trabajo demuestra que la integración de modelos de visión-lenguaje en la navegación de robots no es solo una característica estética, sino un componente fundamental para la seguridad y la aceptación social.

Superación de la "Caja Negra": El sistema transforma decisiones algorítmicas complejas en narrativas comprensibles para humanos, reduciendo la incertidumbre.
Mejora de la Interacción HRI: Al alinear el comportamiento del robot con las expectativas humanas y proporcionar justificaciones visuales y verbales, se fomenta un entorno de colaboración más seguro y eficiente.
Dirección Futura: Aunque la latencia actual es un obstáculo para aplicaciones de tiempo real estricto, los resultados validan la viabilidad del enfoque. Se sugiere que futuras optimizaciones en hardware (edge computing) y arquitecturas distribuidas permitirán reducir la latencia a niveles sub-5 segundos, haciendo la tecnología viable para entornos dinámicos complejos.

En conclusión, la transparencia a través de la explicabilidad multimodal es un catalizador esencial para la confianza en la próxima generación de robots de servicio autónomos.