Resumo Técnico: MHSA – Um Framework Leve para Mitigar Alucinações via Atenção Direcionada em LVLMs

1. Declaração do Problema

Os Modelos Grandes de Visão e Linguagem (LVLMs) demonstraram capacidades excepcionais em tarefas multimodais, como resposta a perguntas visuais (VQA) e legendagem de imagens. No entanto, eles sofrem de alucinações, gerando conteúdo inconsistente ou ausente na entrada visual. Essas manifestam-se como alucinações de objeto, atributo ou relação, minando severamente a confiabilidade do modelo.

Estratégias existentes de mitigação enfrentam limitações significativas:

• Métodos baseados em treinamento (e.g., RLHF, ajuste de instruções) exigem recursos computacionais substanciais e dados anotados de alta qualidade, e as melhorias estão frequentemente limitadas a distribuições de treinamento específicas.
• Métodos em tempo de inferência frequentemente dependem de regras heurísticas fixas e criadas manualmente (e.g., funções de penalidade, reponderação estática) que falham em adaptar-se às assinaturas específicas de alucinação de amostras de entrada individuais.
• Abordagens de decodificação contrastiva (e.g., VCD, ICD) tipicamente duplicam os custos de inferência ao exigir múltiplas passagens para frente.

Trabalho recente, DHCP (Detecting Hallucinations by Cross-modal Attention Pattern), estabeleceu que amostras alucinadas e não alucinadas exibem padrões de atenção cross-modal distinguíveis. No entanto, o DHCP é limitado apenas à detecção e opera principalmente no nível da frase, não oferecendo nenhum mecanismo para mitigação.

2. Metodologia: Framework MHSA

Os autores propõem MHSA (Mitigating Hallucinations via Steered Attention), um framework leve, sem treinamento, que preenche a lacuna entre detecção e mitigação ao aprender a corrigir padrões de atenção cross-modal.

Arquitetura Central

O MHSA opera por meio de um pipeline de duas etapas "detectar-então-corrigir" sem modificar os parâmetros da base do LVLM:

1. Discriminador ($D$): Um MLP leve de duas camadas pré-treinado (originalmente do DHCP) que atua como um detector no nível do token. Ele analisa pesos de atenção cross-modal para identificar padrões alucinatórios.
2. Gerador ($G$): Um MLP leve de três camadas que recebe o tensor de atenção cross-modal original ($A$) como entrada e produz um termo de correção ($\Delta A$).
3. Mecanismo de Direcionamento: A atenção corrigida é calculada como $A' = A + \Delta A$. Durante a inferência, se $D$ detectar uma alucinação, $G$ gera $\Delta A$, e o LVLM usa $A'$ em vez de $A$ para produzir a saída final.

Objetivos de Treinamento

O gerador $G$ é treinado usando um objetivo de três componentes para garantir correção eficaz e estável:

1. Perda Guiada pelo Discriminador ($\mathcal{L}_{dg}$): Uma perda adversarial que incentiva o gerador a transformar padrões de atenção alucinatórios em não alucinatórios, conforme julgado pelo discriminador $D$.
2. Perda de Regularização ($\mathcal{L}_{reg}$): Uma restrição na magnitude de $\Delta A$ ($\|\Delta A\|_2^2$) para garantir que as correções sejam mínimas e localizadas, preservando a semântica original da atenção e prevenindo artefatos.
3. Perda de Qualidade de Saída do LVLM ($\mathcal{L}_{LVLM}$): Uma perda de entropia cruzada garantindo que a atenção corrigida mantenha ou melhore a qualidade da saída gerada pelo LVLM em relação à verdade fundamental.

Adaptação a Tarefas Generativas

Enquanto o DHCP operava originalmente no nível da frase, o MHSA estende isso para correção no nível do token para tarefas generativas (e.g., legendagem de imagens).

• O discriminador e o gerador são treinados em tensores de atenção cross-modal por token extraídos durante a legendagem de imagens.
• Durante a inferência, o sistema avalia a atenção em cada etapa de decodificação. Se o padrão de atenção de um token específico for sinalizado como alucinatório, o gerador aplica uma correção antes de amostrar esse token.

3. Contribuições Principais

1. Primeiro Framework de Mitigação Baseado em Dados: O MHSA é o primeiro framework a mitigar alucinações de LVLM aprendendo correções adaptativas à amostra de padrões de atenção cross-modal, indo além de regras heurísticas fixas.
2. Extensão para Nível de Token: Os autores estendem a detecção baseada em atenção do nível da frase para o nível do token, habilitando mitigação em tarefas tanto discriminativas (VQA) quanto generativas (legendagem).
3. Leve e Eficiente: O framework não modifica os parâmetros da base do LVLM. Ele treina apenas um pequeno gerador MLP e utiliza um discriminador pré-treinado, introduzindo sobrecarga computacional marginal em comparação ao custo de inferência do LVLM.
4. Avaliação Abrangente: O método é validado em múltiplos LVLMs de última geração (Qwen2.5-VL, InternVL2, LLaVA-v1.5) e conjuntos de dados diversos (MSCOCO, Objects365, OpenImages, Flickr30k).

4. Resultados Experimentais

Tarefas Discriminativas (Benchmark POPE)

• Desempenho: O MHSA alcança melhorias consistentes e significativas nos escores F1 em todos os modelos e conjuntos de dados testados. Por exemplo, no Qwen2.5-VL-7B com MSCOCO, o MHSA melhorou o escore F1 em +7,42 pontos (de 85,55 para 92,97) e o Recall em +15,78 pontos.
• Generalização: O método demonstra forte generalização entre diferentes arquiteturas de modelo e conjuntos de dados. Crucialmente, mostra desempenho robusto fora da distribuição (OOD); modelos treinados em um conjunto de dados (e.g., Objects365) mitigam efetivamente alucinações quando testados em outro (e.g., COCO), sugerindo que as correções aprendidas capturam assinaturas fundamentais de alucinação em vez de artefatos específicos do conjunto de dados.

Tarefas Generativas (Legendagem de Imagens)

• Redução de Alucinações: No conjunto de dados Flickr30k, o MHSA reduziu as taxas de alucinação tanto no nível da frase ($CHAIR_s$) quanto no nível de instância ($CHAIR_i$) em 44%, com apenas uma queda menor no Recall (3,9%).
• Compromisso: O método equilibra com sucesso a supressão de alucinações com a preservação de conteúdo, evitando as quedas severas de Recall vistas em métodos agressivos baseados em heurísticas.

Eficiência

• Latência: O MHSA introduz um aumento de latência amortizada de apenas 0,43× no benchmark POPE-COCO. Isso ocorre porque o discriminador leve filtra todas as amostras, e o gerador é invocado apenas para a minoria das amostras sinalizadas como alucinadas (aproximadamente 12,3% no cenário adversarial POPE). Isso é significativamente mais eficiente do que métodos de decodificação contrastiva que exigem uma sobrecarga fixa de ~1,0× para cada amostra.

5. Significado e Alegações

O artigo afirma que o MHSA oferece uma perspectiva nova sobre a pesquisa de alucinações, estendendo mecanismos de atenção cross-modal de mera detecção para mitigação ativa.

• Insight Mecanístico: Visualizações confirmam que o MHSA funciona como um mecanismo de correção direcionado. Ele concentra a atenção em regiões relevantes para a tarefa e reduz a entropia espacial, efetivamente "direcionando" o modelo para longe de padrões alucinatórios sem perturbação ampla da estrutura de atenção.
• Praticidade: Ao evitar o ajuste fino completo do modelo e minimizar a sobrecarga de inferência, o MHSA apresenta uma solução prática e implantável para aumentar a confiabilidade de LVLMs em aplicações do mundo real.
• Limitações: Os autores notam que, embora o MHSA melhore significativamente as métricas, não é uma panaceia; trabalho futuro é necessário para explorar arquiteturas de gerador mais expressivas e cobertura de modelo mais ampla.

Em resumo, o MHSA aproveita a correlação entre padrões de atenção e alucinações para criar um framework leve e baseado em dados que reduz efetivamente alucinações em tarefas de LVLM tanto discriminativas quanto generativas, superando abordagens heurísticas e baseadas em treinamento existentes em termos de eficiência e generalizabilidade.