Scalpel: Fine-Grained Alignment of Attention Activation Manifolds via Mixture Gaussian Bridges to Mitigate Multimodal Hallucination

Resumo Técnico: Scalpel

O artigo apresenta o Scalpel, um método inovador e livre de treinamento (training-free) projetado para mitigar o problema de alucinação multimodal em Grandes Modelos de Linguagem e Visão (LVLMs).

1. O Problema: Alucinação em LVLMs

As alucinações em LVLMs ocorrem quando o modelo gera texto que é plausível, mas inconsistente com o conteúdo visual (ex: inventar objetos ou atributos). O artigo identifica duas causas principais:

• Fortes vieses de linguagem (Language Priors): O modelo confia excessivamente no conhecimento prévio do LLM em vez de observar a imagem.
• Desalinhamento de Atenção: O modelo foca em tokens visuais irrelevantes ou tokens de sistema, falhando em associar corretamente a imagem à instrução.

Métodos atuais tentam resolver isso via treinamento (caro e lento) ou decodificação contrastiva (que pode aumentar a latência).

2. Metodologia: Alinhamento de Manifolds via Pontes Gaussianas

A inovação do Scalpel reside em intervir diretamente nas ativações de atenção durante a inferência, de forma granular e personalizada para cada token. A metodologia segue quatro etapas principais:

• Modelagem de Manifolds (GMMs): Os autores utilizam Modelos de Mistura Gaussiana (GMMs) para representar dois estados de ativação da atenção: o manifold de confiança (ativações de dados corretos) e o manifold de alucinação (ativações de dados com imagens perturbadas ou objetos alterados).
• Problema da Ponte de Schrödinger (SBP): Para mapear as ativações alucinadas de volta para as de confiança com o mínimo de distorção possível, o Scalpel utiliza o Transporte Ótimo Entrópico. Isso é formulado como um problema de Ponte de Schrödinger, que encontra o caminho de "menor energia" (menor intervenção) para transformar a distribuição de alucinação na distribuição de confiança.
• Mapeamento de Componentes: O método não aplica uma correção fixa. Em vez disso, ele identifica a qual componente Gaussiano uma ativação atual pertence e aplica uma política de mistura (mixture policy) para direcionar essa ativação para o seu correspondente de confiança mais próximo.
• Intervenção Dinâmica e Granular:
  • Seleção de Heads: Utiliza um classificador (regressão logística) para identificar quais cabeças de atenção (attention heads) são mais propensas a causar alucinações.
  • Ajuste de Intensidade: A força da intervenção ($\alpha_{dynamic}$) é ajustada com base na confiança da atribuição do token ao componente de alucinação. Se o modelo tem certeza de que está alucinando, a correção é mais forte.

3. Principais Contribuições

• Intervenção de Precisão: Diferente de métodos anteriores que usam direções de correção fixas para toda a cabeça de atenção, o Scalpel personaliza a direção da correção para cada ativação de token.
• Plug-and-Play e Eficiente: Não requer retreinamento do modelo e não adiciona custo computacional significativo, exigindo apenas um passo de decodificação adicional.
• Abordagem de Dois Níveis: O método opera tanto no nível da imagem quanto no nível do objeto, permitindo correções específicas para áreas da imagem que estão causando o erro.

4. Resultados Experimentais

O Scalpel foi testado em modelos como LLaVA-1.5 e Qwen2.5-VL usando os benchmarks POPE e MME.

• Desempenho SOTA: O método superou significativamente os métodos de estado da arte anteriores (como VCD, OPERA e ICT).
• Robustez: Demonstrou ganhos notáveis em casos "adversariais" (objetos difíceis ou situações de confusão), onde os modelos costumam falhar mais.
• Versatilidade: Os resultados mostraram melhorias consistentes em diversas subtarefas, como contagem de objetos, percepção de cores, localização espacial e raciocínio de senso comum.

5. Significância

O trabalho é significativo por mudar o foco da mitigação de alucinações do nível de logits (saída final) para o nível de ativações internas de atenção. Ao tratar a alucinação como um problema de desalinhamento de distribuições em manifolds de alta dimensão, o Scalpel oferece uma solução matematicamente elegante e mecanisticamente fundamentada, permitindo que os modelos mantenham seu conhecimento original enquanto são "guiados" para respostas visualmente fundamentadas.