💻 computer science

Tell Model Where to Look: Mitigating Hallucinations in MLLMs by Vision-Guided Attention

O artigo apresenta o VGA (Vision-Guided Attention), um método sem treinamento que mitiga alucinações em Modelos de Linguagem Multimodais (MLLMs) ao utilizar o conteúdo semântico dos tokens visuais para guiar dinamicamente a atenção do modelo para regiões relevantes, alcançando desempenho superior em benchmarks de desalucinação com sobrecarga de latência insignificante.

Autores originais: Jianfei Zhao, Feng Zhang, Xin Sun, Chong Feng, Zhixing Tan

Publicado 2026-03-25

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Jianfei Zhao, Feng Zhang, Xin Sun, Chong Feng, Zhixing Tan

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um amigo muito inteligente, que leu milhões de livros e sabe falar sobre quase tudo. Esse é o MLLM (o Modelo de Linguagem Multimodal). Agora, imagine que você mostra uma foto para esse amigo e pede para ele descrever o que vê.

O problema é que, às vezes, esse amigo é tão confiante e criativo que começa a inventar coisas. Ele pode dizer: "Nesta foto, vejo um cachorro correndo", mesmo que na foto só tenha um gato. Isso é o que os cientistas chamam de alucinação. O modelo "alucina" detalhes que não existem.

A pesquisa que você enviou, chamada VGA (Atenção Guiada pela Visão), é como um novo "manual de instruções" para esse amigo, ajudando-o a olhar para a foto da maneira certa, sem inventar nada.

Aqui está a explicação simples, usando analogias do dia a dia:

1. O Problema: O Olhar Desfocado

Até agora, quando o modelo olhava para a foto, era como se ele estivesse tentando focar em algo com óculos embaçados. Ele conseguia ver as cores e formas, mas não sabia exatamente onde olhar para responder à pergunta. Ele tentava adivinhar, e muitas vezes errava.

2. A Descoberta: O "Instinto" do Modelo

Os pesquisadores descobriram algo curioso: o modelo já sabia o que estava na foto, mas não estava usando esse conhecimento corretamente.

A Analogia: Imagine que o modelo é um detetive que já encontrou a pista (o objeto na foto), mas está ignorando-a porque está distraído.
O que é o VSC (Confiança Semântica Visual): É como se o modelo tivesse um "sentido de cheiro" interno. Quando ele processa a imagem, ele sabe, sem precisar olhar de novo, qual parte da foto tem um "cheiro" forte de "cachorro" ou de "carro". O VGA usa esse "cheiro" interno para criar um mapa preciso do que está na imagem.

3. A Solução: O GPS Visual (VGA)

O método VGA funciona como um GPS para os olhos do modelo.

Como funciona: Antes de o modelo começar a escrever a resposta, o VGA usa esse "mapa de cheiro" (VSC) para dizer: "Ei, olhe aqui! Tem um cachorro nesta parte da imagem. Olhe ali! Tem um carro naquela parte."
O Truque Mágico: O modelo não precisa "reler" a foto ou fazer cálculos extras demorados. Ele apenas ajusta o foco da sua atenção, como se alguém apontasse o dedo para o objeto certo na foto. Isso é feito de forma tão rápida que não atrasa a conversa.

4. Para Descrições de Fotos (Captioning): O "Roteiro Dinâmico"

Quando o modelo precisa descrever uma foto inteira (em vez de apenas responder a uma pergunta), ele precisa contar uma história completa.

O Problema: Se o modelo olhar sempre para o mesmo lugar, ele vai ficar repetindo: "Vejo um gato. Vejo um gato. Vejo um gato."
A Solução (PVG - Guia de Visão Programado): O VGA funciona como um roteirista inteligente.
- Assim que o modelo diz "Vejo um gato", o roteiro muda automaticamente.
- O sistema diz: "Ok, já falamos do gato. Agora, ignore o gato e olhe para o fundo da sala, para a janela, para a mesa."
- Isso força o modelo a explorar partes da foto que ainda não foram descritas, criando uma descrição rica e completa, sem repetições ou invenções.

5. Por que isso é especial?

Sem Treinamento: Você não precisa ensinar o modelo do zero (o que custa milhões de dólares e meses de tempo). É como dar um "ajuste de óculos" instantâneo.
Compatível com Tecnologia Rápida: Funciona perfeitamente com as tecnologias mais rápidas de hoje (como FlashAttention), sem deixar o computador lento.
Funciona em Tudo: Funciona tanto para responder perguntas ("Tem um copo na imagem?") quanto para descrever cenas complexas.

Resumo em uma frase

O VGA é como colocar um guia turístico dentro da cabeça do modelo de IA: em vez de deixar o modelo vaguear e inventar coisas, o guia aponta exatamente para onde ele deve olhar na foto, garantindo que a resposta seja sempre fiel à realidade.

Isso torna a IA muito mais confiável, útil e segura para usarmos no nosso dia a dia!

Resumo Técnico: Mitigando Alucinações em MLLMs com Atenção Guiada por Visão (VGA)

1. O Problema

Os Modelos de Linguagem Multimodal (MLLMs) têm demonstrado capacidades notáveis em tarefas como resposta a perguntas visuais (VQA) e legendagem de imagens. No entanto, eles sofrem frequentemente de alucinações, gerando descrições que contradizem o conteúdo visual real da imagem.

Causa Raiz: A alucinação ocorre porque, embora os MLLMs consigam extrair semântica visual precisa dos tokens visuais, eles falham em aproveitar plenamente essa vantagem durante a inferência. O mecanismo de atenção visual intrínseco do modelo tem uma capacidade limitada de localização precisa, muitas vezes focando em regiões irrelevantes ou ignorando detalhes críticos.
Limitações das Soluções Atuais:
- Métodos baseados em treinamento (novos datasets ou funções de perda) são custosos e perdem eficácia com a rápida iteração de arquiteturas.
- Métodos livres de treinamento (training-free) que usam ferramentas externas aumentam o custo computacional.
- Técnicas que otimizam diretamente os pesos de atenção muitas vezes são incompatíveis com implementações eficientes como o FlashAttention (que não expõe pesos explícitos) e exigem passagens forward adicionais, aumentando a latência.

2. Metodologia Proposta

Os autores propõem o Vision-Guided Attention (VGA), um método livre de treinamento que guia a atenção do modelo para regiões visuais relevantes sem exigir cálculos de pesos de atenção explícitos ou passagens adicionais.

O método baseia-se em duas descobertas e mecanismos principais:

A. Confiança Semântica Visual (Visual Semantic Confidence - VSC)

Conceito: Os autores observam que os logits visuais (a distribuição de probabilidade sobre o vocabulário gerada a partir de um token visual) contêm informações semânticas robustas. A pontuação de um token de palavra nos logits visuais reflete a correlação semântica entre essa palavra e o contexto visual correspondente.
Funcionamento: Ao agregar as pontuações de confiança semântica de todos os tokens visuais para uma palavra específica, é possível realizar um grounding (ancoragem) visual em nível de token.
- Em tarefas de VQA (com objetos específicos), o VSC identifica quais tokens visuais correspondem ao objeto perguntado.
- Em legendagem (sem objetos específicos), usa-se a Saliência Semântica Visual (VSS), baseada na incerteza de saída, para identificar tokens ricos em informação visual.

B. Mecanismo de Atenção Guiada por Visão (VGA)

Guia de Atenção: O VGA utiliza o grounding derivado do VSC para modificar os pesos de atenção do modelo. Em vez de calcular novos pesos do zero, ele adiciona um vetor de guia ( $\bm{G}$ ) aos pesos de atenção originais ( $\bm{\alpha}$ ):
$\hat{\bm{\alpha}} = \bm{\alpha} + \beta \cdot \bm{G}$
Compatibilidade com FlashAttention: Como o método não requer a computação explícita dos pesos de atenção intermediários (apenas a adição do vetor de guia aos valores de saída), ele é totalmente compatível com o FlashAttention, mantendo a eficiência computacional.
Equilíbrio de Cabeças de Atenção: Para não perturbar cabeças de atenção que já possuem funcionalidades visuais especializadas, o método aplica um coeficiente de balanceamento ( $\gamma$ ), enfraquecendo o guia nessas cabeças e fortalecendo-o nas cabeças não visuais.
Guia Visual Programado (PVG) para Legendagem: Em tarefas de geração de texto (como legendagem), as necessidades visuais mudam dinamicamente. O PVG ajusta o grounding durante a geração, suprimindo regiões que já foram descritas e redirecionando a atenção para novas áreas, evitando repetições e garantindo cobertura completa.

3. Principais Contribuições

Introdução do VSC: Um mecanismo que utiliza as características semânticas dos tokens visuais para alcançar um grounding visual preciso e em nível de token, sem ferramentas externas.
Proposta do VGA: Um método livre de treinamento e compatível com FlashAttention que usa o grounding do VSC para direcionar a atenção visual para os tokens mais informativos.
Desempenho SOTA: Demonstração experimental de que o VGA mitiga alucinações em diversos MLLMs e benchmarks, superando métodos anteriores.
Análise de Latência: Confirmação de que o método introduz uma sobrecarga de latência negligenciável (apenas uma única passagem forward por token).

4. Resultados Experimentais

O método foi avaliado em três benchmarks principais de alucinação: POPE (VQA), CHAIR (Legendagem) e AMBER (Híbrido), utilizando modelos como LLaVA-1.5, LLaVA-Next e Qwen2.5-VL.

POPE (VQA): O VGA alcançou os melhores resultados em precisão e F1-score em todos os modelos testados, superando significativamente o modelo base (Vanilla) e outros métodos de estado da arte (PAI, VAF, TARAC). Por exemplo, no LLaVA-7B, a precisão aumentou de 87.12% para 89.28% no conjunto "Random".
CHAIR (Legendagem): O VGA obteve as menores taxas de alucinação ( $C_s$ e $C_i$ ) entre todos os modelos avaliados, mantendo um F1-score competitivo. Isso indica que o modelo descreve a imagem com mais precisão e menos invenções.
AMBER: O VGA obteve a melhor pontuação geral, validando sua eficácia em tarefas híbridas.
Análise de Latência: O método aumentou o Time to First Token (TTFT) em apenas 4.36% e o Time Per Output Token (TPOT) em 6.01%, demonstrando alta eficiência.

5. Significado e Conclusão

O trabalho destaca que a alucinação em MLLMs não é apenas uma falha de geração de texto, mas uma falha de foco visual.

Descoberta Chave: O modelo possui uma compreensão visual interna (capturada pelo VSC) que é subutilizada durante a geração. O VGA atua como um "ponteiro" que força o modelo a olhar para onde ele já sabe que a informação está.
Impacto: O VGA oferece uma solução prática e escalável para mitigar alucinações, sendo compatível com arquiteturas modernas e eficientes (FlashAttention). Ele demonstra que a orientação explícita da atenção visual é crucial para melhorar a percepção visual dos MLLMs, permitindo que eles distingam melhor entre objetos presentes e ausentes e gerem descrições mais completas e precisas.

Em resumo, o VGA é um avanço significativo na direção de MLLMs mais confiáveis e robustos, resolvendo o problema de alucinação através de uma otimização inteligente e leve da atenção interna do modelo.