An LLM-Explainable DRL Framework for Passenger-Directed Autonomous Driving

Resumo Técnico: Um Framework de DRL Explicável por LLM para Condução Autônoma Direcionada pelo Passageiro

Declaração do Problema
Apesar dos avanços na percepção e controle de veículos autônomos (AV), a confiança do público permanece limitada devido à natureza de "caixa preta" dos sistemas de tomada de decisão. Os passageiros muitas vezes carecem de transparência sobre o porquê de um AV realizar ações específicas, particularmente em situações críticas. As abordagens atuais de IA Explicável (XAI) são predominantemente orientadas ao desenvolvedor, baseando-se em representações visuais ou rastros técnicos de regras que não são acessíveis a usuários não especialistas. Além disso, os frameworks atuais raramente integram comandos de voz do passageiro em tempo real diretamente no loop de controle e, simultaneamente, fornecem justificativas em linguagem natural quando restrições de segurança exigem a anulação desses comandos.

Metodologia
Os autores propõem um framework híbrido operando dentro de um simulador de tráfego microscópico SUMO que integra Aprendizado por Reforço Profundo (DRL) para controle adaptativo com Grandes Modelos de Linguagem (LLMs) para interação com o passageiro e explicabilidade. A arquitetura do sistema compreende quatro subsistemas principais:

1. Ambiente de Simulação: Um cenário de estrada urbana de via dupla apresentando interseções semaforizadas, passagens de pedestres não semaforizadas e fluxos de tráfego variáveis. A intenção do passageiro é abstraída em três comandos discretos: rápido (fast), conforto (comfort) e parar (stop).
2. Interpretação de Comando (LLM-1): Utilizando o GPT-4.1-mini, este módulo transcreve solicitações faladas do passageiro (diretas ou indiretas) e as reformula em uma instrução de condução confirmada e inequívoca (dirigir mais rápido, dirigir com mais cuidado ou parar). Ele gera uma classe numérica (0, 1 ou 2) para o agente de controle.
3. Núcleo de Condução Autônoma (DRL): A política de controle é modelada como um Processo de Decisão de Markov (MDP) usando uma Dueling Double Deep Q-Network (D3QN).
   • Espaço de Estados: Um vetor de 8 dimensões incluindo comando do passageiro, velocidade do veículo ego, limite de velocidade, distância de seguimento (headway), velocidade relativa, distância/estado do semáforo e distância da passagem de pedestres.
   • Espaço de Ações: Ajustes discretos de velocidade longitudinal variando de -3 a +3 m/s.
   • Funções de Recompensa: Três estruturas de recompensa distintas são definidas para os modos de condução:
     • Rápido (Fast): Prioriza a eficiência e a adesão ao limite de velocidade enquanto mantém a segurança (Tempo de Colisão/TTC > 2s).
     • Conforto (Comfort): Prioriza a suavidade, penalizando o alto jerk (variação da aceleração) e favorecendo distâncias de seguimento mais conservadoras.
     • Parar (Stop): Impõe frenagem imediata com altas penalidades para a manutenção da velocidade.
   • Mecanismo de Segurança: Uma abordagem de líder virtual é utilizada para garantir a parada em semáforos vermelhos e passagens de pedestres, substituindo limiares rígidos de distância por uma lógica de seguimento de veículo que garante a conformidade com as regras.
4. Pipeline de Explicabilidade (LLM-2 & LLM-3):
   • Módulo de Decisão (LLM-2): Avalia a ação atual do veículo em relação ao pedido do passageiro e ao estado do ambiente. Ele aciona uma explicação apenas se houver um conflito (ex: desacelerar apesar de um pedido de "rápido" devido a um sinal vermelho).
   • Gerador de Explicação (LLM-3): Gera justificativas concisas e tranquilizadoras de uma a duas frases em linguagem natural quando um conflito é detectado, focando no fator mais relevante para a segurança (ex: "aproximando-se de um semáforo").

Principais Contribuições

1. Pipeline de XAI Orientado ao Passageiro: Uma integração inovadora de LLMs com DRL que traduz solicitações de linguagem natural do passageiro em políticas de controle e gera explicações contextualizadas para usuários não especialistas.
2. Agente D3QN Multi-Modo: Um agente treinado capaz de alternar perfeitamente entre os modos rápido, conforto e parar dentro de uma única viagem, aderindo às regras de trânsito e restrições de segurança.
3. Mecanismo de Detecção de Conflito: Um módulo baseado em LLM que determina dinamicamente quando uma explicação é necessária, acionando-a especificamente quando restrições de segurança anulam a intenção do passageiro, equilibrando assim adaptabilidade com transparência.

Resultados
O framework foi avaliado ao longo de 11.000 episódios de treinamento e 25 episódios de teste através de variadas densidades de tráfego (0,5x a 1,5x o fluxo base).

• Desempenho do DRL: Tanto os agentes rápido quanto o de conforto demonstraram aprendizado estável e operação livre de colisões.
  • O agente rápido alcançou uma velocidade média de 4,508 m/s com um Tempo de Seguimento (TH) médio de 2,998s e um Tempo de Colisão (TTC) de 5,603s.
  • O agente de conforto alcançou uma velocidade média ligeiramente inferior (4,396 m/s), mas manteve um TH significativamente maior (6,373s) e um jerk menor (0,205 m/s³), confirmando um comportamento de condução mais suave.
  • Ambos os agentes executaram com sucesso comandos de parada de emergência, sobrepondo-se aos seus respectivos modos de condução sem instabilidade.
• Desempenho do LLM:
  • Interpretação de Comando (LLM-1): Alcançou 96,9% de precisão em um conjunto de dados de 33 solicitações, com precisão perfeita para a classe rápido. Um erro envolveu a classificação errônea de um pedido de parar como conforto.
  • Decisão e Explicação (LLM-2/3): A avaliação qualitativa mostrou que o sistema acionou corretamente as explicações para desvios motivados pela segurança (ex: reduzir a velocidade para um sinal vermelho) e gerou justificativas apropriadas e tranquilizadoras. O sistema evitou efetivamente explicações redundantes para ajustes menores e esperados.

Significância e Alegações
O artigo apresenta este trabalho como uma prova de conceito demonstrando a viabilidade de integrar o controle de condução baseado em DRL com a interação com o passageiro via LLM. Os autores afirmam que este framework consegue preencher a lacuna entre o desempenho de AVs e a confiança do público ao fornecer um sistema que é seguro, adaptável às preferências do usuário e explicável.

O estudo destaca que o framework é mais eficaz quando deve explicar por que o pedido de um passageiro (ex: "dirigir mais rápido") é atrasado ou anulado devido a restrições de segurança. Os autores explicitamente mencionam limitações, incluindo a dependência de simulação (SUMO), a falta de métricas padronizadas para avaliação de explicação em tempo real e o potencial de alucinações de LLM. Consequentemente, eles enquadram o trabalho como um passo fundamental para futuras extensões envolvendo controle lateral (mudança de faixa) e implantação no mundo real, em vez de uma solução totalmente madura pronta para uso comercial imediato.