Resumo Técnico: Sondas de Miragem: Como Modelos de Visão Falsificam a Compreensão Visual

Declaração do Problema

Modelos de visão-linguagem (VLMs) estão sendo cada vez mais implantados em domínios de alto risco, como imagens médicas, análise de documentos e raciocínio científico, onde as respostas devem ser fundamentadas em entradas visuais. No entanto, observações recentes de "comportamento de miragem" desafiam a suposição de que o sucesso em benchmarks equivale ao raciocínio visual fiel. O comportamento de miragem ocorre quando os VLMs respondem com confiança a perguntas baseadas em imagens mesmo quando a imagem está ausente. Isso sugere que o desempenho em benchmarks multimodais (ex: MMMU, VQA-RAD) pode refletir vieses textuais, regularidades de conjuntos de dados ou atalhos, em vez de um uso genuíno de evidências visuais.

Trabalhos anteriores tratam o comportamento de miragem majoritariamente como um único modo de falha. Os autores argumentam que isso é uma simplificação excessiva, propondo que o mesmo comportamento de saída pode advir de dois mecanismos internos distintos:

1. Vieses Textuais: O modelo responde diretamente a partir de priors de linguagem sem engajar representações visuais.
2. Imagens Espúrias: O modelo constrói conteúdo visual falso em seu espaço latente e responde como se estivesse fundamentado, efetivamente "alucinando" uma imagem para apoiar a resposta.

Distinguir entre esses mecanismos é crítico porque as estratégias de mitigação diferem: a limpeza da distribuição de texto aborda o primeiro, mas não consegue alcançar o segundo, que reside nas representações visuais do modelo.

Metodologia

Estrutura das Sondas de Miragem (Mirage Probes)

Os autores introduzem as Sondas de Miragem, uma estrutura de sondagem contrastiva projetada para detectar e analisar o comportamento de miragem no nível da representação.

1. Construção do Conjunto de Dados:

   • Os autores geram conjuntos de dados comparando as respostas do modelo com uma imagem ($r_{img}$) e sem uma imagem ($r_{\emptyset}$).
   • Heurística de Rotulagem: Uma resposta com imagem é rotulada como "semelhante à miragem" ($y=1$) se a geração sem imagem produzir a mesma resposta com alta similaridade semântica (similaridade de cosseno bag-of-words > 0,7). É rotulada como "não semelhante à miragem" ($y=0$) se a geração sem imagem expressar explicitamente incerteza ou declarar que a tarefa é impossível sem a imagem.
   • Pares Contrastivos: Para reduzir confundimentos textuais de superfície (ex: palavras de tópico, estilo de pergunta), os autores utilizam o GPT-4o-mini para gerar quatro variantes parafraseadas de cada pergunta base. Eles constroem pares contrastivos onde a imagem e a intenção subjacente permanecem fixas, mas a fraseologia da pergunta varia, resultando em diferentes rótulos de miragem. Isso garante que as sondas aprendam o mecanismo de miragem em vez de características lexicais superficiais.

2. Extração de Ativações:

   • O estudo sonda três VLMs de código aberto: Ovis2.5-2B, GLM-4.6-flash e Qwen3-32B-VL-Instruct.
   • As ativações são extraídas de quatro locais dentro da arquitetura transformer:
     • Estados do fluxo residual (residual stream)
     • Saídas de MLP
     • Saídas pós-atenção
     • Saídas de cabeças de atenção individuais
   • As ativações são agregadas usando três estratégias de pooling: text-nonspecial-mean, vision-tail e vision-text-mean.

3. Treinamento da Sonda:

   • Quatro famílias de sondas são treinadas para prever o rótulo de miragem a partir de ativações internas:
     • Regressão Logística (Linear): Testa se a miragem é codificada como uma única direção linear.
     • MLP de Duas Camadas: Testa para codificação não linear.
     • Sondas Concatenadas: Treina em ativações de todas as camadas simultaneamente.
     • Sondas de Diferença: Treina na diferença elemento a elemento entre as ativações com imagem e sem imagem ($\Delta h = h_{img} - h_{\emptyset}$).
   • Baseline: Um classificador Naive Bayes treinado no texto da resposta é usado para descartar confundimentos lexicais superficiais.
   • Métrica: Um novo Índice de Aproveitamento de Prior (PHI) é introduzido para medir quanta informação um modelo pode extrair de uma resposta correta apenas através do texto ($PHI = \log p(a^*|Q) - \log p(a^*|Q_{\emptyset})$).

Principais Resultados

1. Decodificabilidade Linear do Comportamento de Miragem

O estudo demonstra que o comportamento de miragem é linearmente decodificável das ativações internas de VLMs com presença de imagem em todos os quatro locais de ativação (fluxo residual, MLP, pós-atenção, cabeças de atenção).

• Acurácia: Em configurações contrastivas, as sondas lineares alcançaram acurácias de até 75% (Ovis) e 72% (Qwen) nos fluxos residuais, e até 85% nas cabeças de atenção.
• Linearidade: As sondas MLP de duas camadas não superaram significativamente as sondas lineares, sugerindo que a informação de miragem é codificada ao longo de direções lineres recuperáveis, em vez de exigir extração não linear complexa.
• Superioridade Contrastiva: As sondas de diferença (treinadas nas diferenças de ativação) alcançaram a maior acurácia (até 98% em algumas configurações), indicando que o deslocamento representacional causado pela adição de uma imagem separa claramente a miragem da resposta não-miragem.

2. Redução de Confundimentos de Superfície

A comparação com o baseline de texto Naive Bayes confirma que as sondas não estão apenas detectando características lexicais superficiais.

• Em configurações contrastivas, a acurácia da sonda excedeu significativamente o baseline Naive Bayes (ex: 61,88% vs. 57,67% para Ovis no VQA-RAD).
• Em configurações de "todos os exemplos" (sem pareamento contrastivo), a acurácia da sonda foi maior, mas correlacionou-se com um aumento na separabilidade de superfície, sugerindo que essas sondas provavelmente estavam captando pistas textuais em vez de mecanismos profundos. Isso valida a necessidade da estrutura contrastiva.

3. Dois Regimes Distintos de Miragem

Os padrões de separabilidade entre benchmarks revelam que o comportamento de miragem não é um fenôio monolítico, mas provavelmente consiste de dois regimes distintos:

• Imagens Espúrias: Dominante no VQA-RAD, onde as perguntas são altamente dependentes da imagem (humanos não conseguem responder sem a imagem) e os priors textuais são fracos (baixo PHI). Aqui, o modelo constrói conteúdo visual falso.
• Vieses Textuais: Mais prevalente no MMMU-Pro e MedXpertQA, onde as perguntas frequentemente contêm contexto textual suficiente para responder sem a imagem (alto PHI).
• Evidência: O VQA-RAD apresentou a maior separabilidade de sonda. Ao treinar sondas apenas em exemplos "percebidos pelo humano como dependentes de imagem" de outros benchmarks, a separabilidade não melhorou. No entanto, o uso da métrica PHI revelou que as perguntas do VQA-RAD aumentam unicamente a incerteza do modelo sem as imagens, correlacionando-se fortemente com o comportamento de miragem. Isso sugere que, quando os priors textuais são insuficientes, o modelo recorre à construção de imagens espúrias; quando são suficientes, ele depende do viés textual.

Significância e Alegações

O artigo afirma que a fundamentação visual fiel requer intervenções no nível representacional, não apenas no nível do texto.

• Insight Mecanístico: Os autores fornecem a primeira evidência no nível da representação de que o comportamento de miragem é linearmente codificado e decomponível em dois mecanismos.
• Implicações de Mitigação: A distinção tem consequências diretas para segurança e alinhamento. Limpar distribuições de texto (ex: remover atalhos de datasets) pode reduzir miragens de viés textual, mas provavelmente falhará em abordar miragens de imagens espúrias, pois estas últimas estão enraizadas nas representações visuais internas do modelo.
• Avaliação: A estrutura de Sondas de Miragem oferece uma ferramenta de diagnóstico para avaliar se um VLM está realmente fundamentando suas respostas em evidências visuais ou se está falsificando via alucinações no espaço latente ou atalhos textuais.

Os autores mantêm uma postura modesta, observando que sua hipótese de dois mecanismos é empiricamente motivada por padrões de separabilidade e requer validação causal (ex: via steering ou ablação) em trabalhos futuros. Eles enfatizam que seus rótulos dependem de heurísticas e que a alegação central permanece correlacional, embora a exclusão de confundimentos de superfície via sondagem contrastiva fortaleça a validade dos achados.