Probing Visual Concepts in Lightweight Vision-Language Models for Automated Driving

Este estudo investiga as falhas de Modelos Visuais-Linguísticos (VLMs) em cenários de condução autónoma, identificando que, embora alguns conceitos visuais sejam linearmente codificados, outros dependem de estruturas espaciais implícitas, e que as falhas podem ser classificadas como perceptivas (ausência de codificação linear) ou cognitivas (falha no alinhamento semântico), sendo a capacidade de distinção linear degradada rapidamente com o aumento da distância do objeto.

O essencial

Imagine que você tem um carro autônomo que precisa ser inteligente o suficiente para dirigir sozinho. Para isso, os engenheiros estão usando uma tecnologia chamada Modelos Visão-Linguagem (VLM). Pense nesses modelos como um "cérebro" superpoderoso que tem dois olhos (a câmera) e uma boca (o texto). Eles olham para a estrada e conversam sobre o que veem: "Tem um pedestre?", "Quantos carros ali?", "Para onde ele está olhando?".

O problema é que, às vezes, esse "cérebro" comete erros bobos. Ele pode não ver um pedestre que está bem na frente ou confundir a direção de um carro. A pergunta que os autores deste estudo fizeram foi: "Onde exatamente esse cérebro está falhando? É nos olhos, no processamento da imagem ou na parte que fala?"

Para descobrir, eles usaram uma técnica chamada "Sondas Lineares" (ou Linear Probes). Vamos usar uma analogia para entender isso:

A Analogia do Detetive e das "Caixas de Ferramentas"

Imagine que o modelo de IA é uma linha de montagem com três etapas:

1. Os Olhos (Codificador de Visão): A câmera tira a foto e transforma em pixels.
2. O Tradutor (Projetor): Converte os pixels em uma linguagem que o cérebro entende.
3. O Cérebro (LLM): Pensa, raciocina e dá a resposta final.

Os pesquisadores criaram um laboratório de "Efeito Borboleta". Eles geraram milhares de imagens de trânsito onde tudo era idêntico, exceto uma única coisa.

• Cenário A: Uma rua vazia.
• Cenário B: A mesma rua, mas com um pedestre aparecendo.
• Cenário C: O pedestre virado para a esquerda.
• Cenário D: O pedestre virado para a direita.

Depois, eles colocaram "detectives" (as sondas) em cada etapa da linha de montagem para ver se o conceito (ex: "pedestre existe" ou "pedestre está virado para a esquerda") estava escrito claramente na memória da máquina naquele momento.

O Que Eles Descobriram? (Os Dois Tipos de Erro)

Os pesquisadores descobriram que os modelos falham de duas maneiras muito diferentes, e é crucial saber a diferença para consertá-los:

1. Falha Perceptiva (O "Cego")

Imagine que o carro está dirigindo à noite e a câmera não consegue ver um pedestre porque está muito longe ou escuro.

• O que acontece: A informação visual nunca chega ao cérebro. O "olho" da máquina não capturou o conceito de forma clara.
• A prova: O "detetive" (sonda) olha para a memória da máquina e diz: "Não consigo encontrar o conceito de 'pedestre' aqui".
• Solução: Precisamos melhorar a câmera ou a parte visual do modelo.

2. Falha Cognitiva (O "Distraído")

Agora, imagine que o carro vê o pedestre perfeitamente. A informação está lá, clara e brilhante na memória. Mas, quando o carro precisa responder "Tem um pedestre?", ele diz "Não".

• O que acontece: A informação está lá (o detetive encontra o conceito com facilidade), mas o "cérebro" (a parte de linguagem) falha em conectar essa visão à resposta correta. É como se você visse um gato, soubesse que é um gato, mas, quando alguém perguntasse, você respondesse "cachorro" por engano.
• A prova: O "detetive" diz: "O conceito de 'pedestre' está aqui, bem escrito!". Mas o modelo erra a resposta.
• Solução: Precisamos treinar melhor a parte que fala e raciocina, para que ela preste atenção ao que os olhos viram.

Outras Descobertas Interessantes

• O Problema da Distância: Quando os objetos estão perto (5 metros), a máquina funciona bem. Mas, conforme o objeto se afasta (30 ou 50 metros), a "leitura" da máquina fica borrada. É como tentar ler um letreiro de trânsito de longe: se você estiver muito longe, nem os olhos humanos conseguem, e a máquina perde a capacidade de entender se o objeto existe ou não.
• O que é Fácil vs. Difícil:
  • Fácil: Saber se algo existe (Presença). A máquina é muito boa nisso.
  • Difícil: Saber a orientação (para onde o pedestre está olhando) ou relações espaciais (quem está à esquerda de quem). A máquina muitas vezes não consegue "ver" essas nuances, mesmo que a imagem esteja clara.
• O "Gargalo" do Tradutor: Às vezes, a câmera vê tudo perfeitamente, mas o "tradutor" (que converte imagem em texto) perde detalhes importantes antes de passar para o cérebro.

Por que isso importa?

Para carros autônomos, não podemos ter um cérebro que é "distraído" (falha cognitiva). Se o carro vê uma criança correndo na rua, ele precisa não só "ver" a criança, mas também agir com base nessa visão.

Este estudo nos diz que não basta apenas fazer modelos maiores. Precisamos entender onde o sistema falha:

• Se for perceptivo, precisamos de melhores câmeras e visão.
• Se for cognitivo, precisamos treinar o cérebro para prestar mais atenção ao que ele vê.

Em resumo, os autores estão mapeando o "sistema nervoso" dos carros autônomos para garantir que, quando eles olharem para a estrada, não apenas vejam, mas realmente compreendam o que está acontecendo, evitando acidentes causados por "alucinações" ou distrações da máquina.

Resumo técnico

Título: Sondagem de Conceitos Visuais em Modelos Visão-Linguagem Leves para Condução Automática

1. Problema e Motivação

Os Modelos Visão-Linguagem (VLMs) estão a tornar-se comuns na condução autónoma devido à sua capacidade de raciocínio e generalização em cenários de "cauda longa" (eventos raros e imprevistos). No entanto, estes modelos frequentemente falham em questões visuais simples, mas críticas para a segurança no trânsito (ex: orientação de um peão, contagem de objetos).
O problema central é a falta de compreensão sobre onde e porquê ocorrem essas falhas. Não se sabe se a informação visual é perdida na codificação inicial (encoder), degradada no projetor, ou se o Modelo de Linguagem (LLM) não consegue alinhar a informação visual com a semântica linguística. A arquitetura atual de VLMs (Encoder → Projetor → LLM) torna difícil isolar a causa raiz de uma falha.

2. Metodologia

Os autores propõem uma abordagem de interpretabilidade baseada em sondas lineares (linear probes) para rastrear o fluxo de informação visual através da arquitetura completa do VLM.

• Conjuntos de Dados Contrafactuais:

  • Utilizaram o simulador CARLA para gerar pares de imagens contrafactuais.
  • As imagens são idênticas em todos os aspetos, exceto num conceito visual específico.
  • Conceitos estudados:
    1. Presença: Existência ou não de um objeto (ex: peão, barril de trânsito).
    2. Contagem: Número de instâncias de um objeto (0 a 4).
    3. Relação Espacial: Posição relativa (ex: lado esquerdo/direito da estrada, seta do camião acesa).
    4. Orientação: Direção do movimento (ex: peão ou bicicleta a mover-se para a esquerda ou direita).
  • As imagens foram geradas a várias distâncias (5m a 50m) para avaliar o impacto da distância.

• Modelos Analisados:

  • Quatro VLMs de última geração (SOTA) com menos de 4 bilhões de parâmetros (adequados para hardware veicular como NVIDIA Jetson): Ovis2.5, InternVL3.5, VST-3B (versões SFT e RL).

• Técnica de Sondagem (Probing):

  • Extraíram ativações intermediárias de todas as camadas do Vision Encoder, do Projetor e do LLM.
  • Estratégias de Compressão:
    • Average Pooling: Para conceitos gerais (Presença, Contagem).
    • Region Pooling: Para conceitos espaciais (Relação, Orientação), dividindo a imagem em regiões esquerda/direita para preservar estrutura espacial mínima.
  • Treinaram classificadores lineares simples nas ativações extraídas para verificar se o conceito visual é linearmente codificado em cada camada.

• Definição de Falhas:

  • Compararam a precisão da sonda (se a informação está codificada) com a precisão do modelo (se o modelo responde corretamente).

3. Contribuições Principais

1. Análise de Fluxo de Informação: Mapearam onde ocorrem os "gargalos" visuais em VLMs leves para conceitos críticos de condução.
2. Identificação de Dois Modos de Falha:
   • Falha Perceptiva: A informação visual necessária não está codificada linearmente nas ativações do modelo (a sonda falha).
   • Falha Cognitiva: A informação está codificada (a sonda acerta), mas o modelo falha em alinhar essa informação com a semântica linguística para gerar a resposta correta.
3. Impacto da Distância: Demonstraram que o aumento da distância degrada rapidamente a separabilidade linear dos conceitos visuais.
4. Validação Causal: Usaram activation steering (direcionamento de ativação) para provar que as direções aprendidas pelas sondas são causalmente usadas pelo modelo na geração de texto.

4. Resultados Chave

• Codificação de Conceitos:

  • Presença: É explicitamente e linearmente codificada desde as camadas médias do Vision Encoder até ao LLM, especialmente a curtas distâncias.
  • Contagem: Bem codificada, mas com um pequeno gargalo no projetor em alguns modelos; melhora nas camadas médias do LLM.
  • Relação Espacial e Orientação:
    • Não são explicitamente codificadas de forma linear no espaço de ativação do Vision Encoder (a sonda falha ao usar average pooling).
    • No entanto, estão implicitamente codificadas através da estrutura espacial preservada nas ativações (detectável com region pooling).
    • O LLM consegue, em muitos casos, recuperar essa informação e codificá-la linearmente nas camadas finais (picos de precisão nas camadas médias do LLM).

• Modos de Falha Observados:

  • Falha Perceptiva: Ocorre frequentemente em distâncias longas (>30m) ou para objetos pequenos (barris de trânsito), onde o Vision Encoder não consegue codificar a presença ou orientação.
  • Falha Cognitiva: Ocorre quando a informação está presente (alta precisão da sonda), mas o modelo dá a resposta errada. Isso é comum em tarefas de orientação e contagem complexas. O InternVL3.5 mostrou-se mais suscetível a falhas cognitivas, enquanto o Ovis2.5 foi mais robusto.

• Impacto da Distância:

  • A qualidade da representação degrada-se rapidamente com a distância. A separabilidade linear de conceitos simples (como a presença de um objeto) cai drasticamente a 50 metros, criando um risco significativo para aplicações de condução autónoma onde objetos críticos estão longe.

• Arquitetura:

  • Os modelos funcionam como um sistema unificado; é difícil distinguir falhas apenas olhando para componentes isolados. O LLM desempenha um papel crucial na recuperação de informações espaciais que o Encoder não codificou explicitamente.

5. Significado e Conclusão

Este trabalho é fundamental para a adoção de VLMs na condução autónoma porque:

1. Diagnóstico Preciso: Permite distinguir se um erro de percepção é devido a uma falha na visão (necessita de melhor encoder) ou a uma falha de raciocínio/alinhamento (necessita de melhor treino do LLM).
2. Limitações de Hardware: Mostra que os modelos leves atuais, embora promissores, têm limitações severas na compreensão de detalhes espaciais e de orientação a longas distâncias.
3. Direção Futura: Sugere que estratégias de mitigação devem ser específicas para o tipo de falha (ex: melhorar a resolução ou o encoder para falhas perceptivas; ajustar o alinhamento multimodal para falhas cognitivas).

Em suma, o estudo revela que, embora os VLMs sejam poderosos, eles ainda sofrem de lacunas críticas na codificação explícita de conceitos espaciais finos e na sua utilização consistente para tarefas de segurança viária, especialmente em cenários de longa distância.