Trust Through Transparency: Explainable Social Navigation for Autonomous Mobile Robots via Vision-Language Models

Resumo Técnico: Confiança através da Transparência

1. Problema e Motivação

A integração de Robôs Móveis Autônomos (AMRs) em ambientes sociais e de serviço enfrenta um desafio crítico: a falta de transparência e explicabilidade nas decisões de navegação.

• Desafio Principal: AMRs tradicionais frequentemente operam como "caixas pretas", incapazes de comunicar seus processos de tomada de decisão aos humanos. Isso gera desconfiança, hesitação e ineficiência na colaboração humano-robô (HRI).
• Limitações Atuais: Abordagens existentes de IA Explicável (XAI) focam muitas vezes na lógica interna ou carecem de contexto visual em tempo real. Sistemas atuais raramente combinam percepção visual com justificativas baseadas em linguagem natural de forma intuitiva.
• Objetivo: Desenvolver um módulo de explicabilidade multimodal que permita ao robô perceber, analisar e articular suas observações e decisões de navegação em linguagem natural, aumentando a confiança e a previsibilidade do comportamento do robô.

2. Metodologia

O trabalho propõe um módulo de explicabilidade integrado ao stack de navegação do robô, utilizando Modelos de Visão e Linguagem (VLMs) e mapas de calor (heatmaps).

• Arquitetura do Sistema (Baseada em ROS2):
  O sistema é composto por quatro nós interconectados que processam dados em tempo real:

  1. Nó de Câmera: Captura o fluxo de imagens do ambiente.
  2. Nó BLIP (Bootstrapping Language-Image Pretraining): Gera legendas de imagem (descrições textuais do cenário visual).
  3. Nó de Mapa de Calor (Grad-CAM): Identifica e destaca as regiões salientes da imagem que influenciaram a decisão do robô, fornecendo justificativa visual.
  4. Nó LLM (Large Language Model): Utiliza um prompt guiado para sintetizar a legenda da imagem e o resumo do mapa de calor em uma explicação natural e concisa (ex: "Vejo um grupo de pessoas conversando, então vou contorná-los").

• Formulação do Problema:
  A tarefa de navegação é definida como um tuple $T_{nav} = (S, G, P, E, \varepsilon)$, onde $E$ representa o conjunto de explicações multimodais geradas. O sistema impõe restrições sociais ($\Omega_{norm}$) para garantir:

  • Segurança humana e normas sociais (manter distância adequada).
  • Movimento socialmente aceitável (evitar paradas bruscas ou comportamentos intrusivos).
  • Respeito ao espaço humano e interações em grupo.

• Otimização de Latência:
  Reconhecendo que a latência é crítica para a percepção de tempo real, o tempo total de explicação ($T_{total}$) é modelado como a soma dos tempos de aquisição de imagem, processamento BLIP, geração de heatmap e inferência do LLM. O estudo busca minimizar esse tempo para manter a relevância da explicação.

3. Contribuições Principais

• Módulo Multimodal em Tempo Real: Integração pioneira de VLMs, mapas de calor e LLMs para gerar explicações contextuais durante a navegação dinâmica.
• Validação Experimental Robusta: Implementação em um robô AMR real (MYAGV com Raspberry Pi 4B) rodando ROS, testado em cenários manuais e autônomos.
• Análise Quantitativa e Qualitativa:
  • Uso de matrizes de confusão para validar a precisão das explicações em relação às expectativas humanas.
  • Estudos com usuários ($n=30$) para medir confiança, clareza e preferência.
• Framework de Navegação Social: Um sistema que não apenas evita colisões, mas adapta o comportamento com base em normas sociais e explica o "porquê" dessas adaptações.

4. Resultados Experimentais

Os experimentos foram realizados em um corredor e espaço maker, comparando a navegação com explicabilidade (WE) e sem explicabilidade (WoE).

• Desempenho de Navegação:

  • A navegação com explicabilidade resultou em menos paradas bruscas (ex: redução de 21 para 18 paradas no modo autônomo) e uma trajetória ligeiramente mais eficiente em termos de tempo.
  • O sistema detectou conflitos sociais e reconfigurou o caminho em tempo real.

• Feedback dos Usuários (Estudo com 30 participantes):

  • Preferência: 76,7% dos participantes preferiram a navegação com explicações.
  • Confiança: Houve um aumento de 16,7% na confiança no robô quando as explicações estavam ativas.
  • Compreensão: A compreensão das decisões do robô aumentou 23,3%.
  • Clareza: 76,7% consideraram as informações claras e úteis.

• Métricas Técnicas:

  • Precisão da Explicação: A matriz de confusão (196 imagens testadas) mostrou uma acurácia de 82,14% (TP=82, TN=79, FP=20, FN=15) na correspondência entre a saída do modelo e as expectativas humanas.
  • Latência: A latência média foi de ~20 segundos (limitada pelo hardware Raspberry Pi e processamento em nuvem do LLM), variando de 5,9s a 50,7s. O estudo identifica a latência como um fator crítico para a manutenção da confiança ($\varepsilon$).

5. Significado e Conclusão

Este trabalho demonstra que a transparência ativa através de explicações multimodais é fundamental para a aceitação social de robôs autônomos.

• Impacto na Confiança: Ao alinhar o comportamento do robô com as expectativas humanas e reduzir a incerteza ("caixa preta"), o sistema aumenta significativamente a confiança e a sensação de controle do usuário.
• Futuro: Embora a latência atual seja um gargalo (devido ao hardware e dependência de nuvem), os resultados provam o conceito de que a integração de VLMs em stacks de navegação é viável e eficaz. Futuras otimizações, como processamento na borda (edge computing), podem reduzir a latência para níveis sub-5s, tornando a interação ainda mais fluida.

Em suma, o artigo valida que a explicabilidade não é apenas um recurso adicional, mas um componente essencial para a segurança, usabilidade e aceitação social de robôs em ambientes humanos.