VCE: A zero-cost hallucination mitigation method of LVLMs via visual contrastive editing

1. O Problema: Alucinação de Objetos em LVLMs

Os Grandes Modelos Visuais-Linguísticos (LVLMs) são fundamentais para aplicações como assistentes de IA interativos e sistemas de compreensão de cenas. No entanto, eles sofrem frequentemente de Alucinação de Objetos (Object Hallucination - OH). Isso ocorre quando o modelo gera descrições que incluem objetos que não estão presentes na imagem de entrada.

• Causa Raiz: O artigo sugere que esse fenômeno deriva de priors linguísticos (vieses aprendidos durante o pré-treinamento). O modelo tende a gerar palavras baseadas em co-ocorrências estatísticas (ex: associar "prato" a "garfo") independentemente do contexto visual real.
• Impacto: Em domínios críticos como diagnóstico médico ou direção autônoma, alucinar a presença de um objeto (ex: um pedestre inexistente ou uma lesão não presente) pode levar a consequências catastróficas.
• Limitações das Soluções Atuais: Métodos existentes frequentemente exigem:
  • Dados rotulados específicos para alucinação.
  • Fine-tuning (ajuste fino) pesado, o que é custoso.
  • Múltiplas passagens de inferência ou módulos de validação, aumentando o custo computacional e o tempo de resposta.

2. Metodologia: Visual Contrastive Editing (VCE)

O VCE é proposto como um método pós-hoc (após o treinamento), sem rótulos (label-free) e com custo zero durante a inferência. A abordagem consiste em três etapas principais:

A. Construção de Pares Contrastivos

Em vez de usar dados anotados manualmente, o método gera automaticamente pares de imagens contrastivas:

1. Imagem Original ($I$): A entrada padrão.
2. Imagem Perturbada ($I'$): Uma versão da imagem original onde características visuais localizadas são alteradas (usando um processo de difusão reversa), mas a semântica global é preservada.

• Objetivo: A perturbação visual amplifica a dependência do modelo em priors linguísticos. Se o modelo descreve um objeto na imagem original que desaparece na perturbada (ou vice-versa), isso indica uma forte tendência de alucinação baseada em texto, não em visão.

B. Identificação do Espaço de Alucinação (HalluSpace)

O método analisa as mudanças nas ativações do modelo entre a imagem original e a perturbada:

1. Desvio de Logit ($\Delta_t$): Calcula-se a diferença nos logits (probabilidades) dos tokens entre as duas imagens. Tokens com grandes desvios são considerados candidatos a alucinações.
2. Vetores de Edição: Para cada token, calcula-se a diferença entre os estados ocultos ($H^-$ da imagem perturbada e $H^+$ da original). Esses vetores são ponderados pela magnitude do desvio de logit.
3. Decomposição SVD: Os vetores de diferença agregados são decompostos via Decomposição em Valores Singulares (SVD). Isso isola um subespaço de baixa dimensão (o HalluSpace) que captura as direções dominantes onde o modelo tende a alucinar.

C. Edição de Parâmetros Offline

Uma vez identificado o subespaço de alucinação ($S_k$), o método aplica uma edição direta nos pesos do modelo:

• Os pesos da camada ($W_l$) são projetados no espaço nulo do subespaço de alucinação.
• Fórmula: $W^{edited}_l = W_l (I - S_k S_k^\top)$.
• Resultado: Isso suprime as componentes dos pesos responsáveis pelas ativações espúrias (alucinações) sem retrainar o modelo. Como a edição é feita offline, não há custo adicional durante a inferência.

3. Contribuições Principais

1. Framework Livre de Rótulos: Demonstra que perturbações visuais controladas podem expor as assinaturas de alucinação sem necessidade de dados de treinamento anotados.
2. Edição de Subespaço Leve: Desenvolve um método baseado em SVD para editar parâmetros do modelo, reduzindo alucinações sem a necessidade de post-training ou fine-tuning.
3. Eficiência Prática: O método mantém a velocidade original de inferência (zero custo computacional adicional no momento do uso) e supera métodos existentes em benchmarks padrão.

4. Resultados Experimentais

Os experimentos foram realizados em três modelos LVLMs populares: LLaVA-1.5, MiniGPT-4 e mPLUG-Owl2, utilizando os benchmarks CHAIR (avaliação de alucinação) e POPE (avaliação de presença de objetos).

• Desempenho no CHAIR: O VCE obteve os melhores resultados em todas as métricas (CHAIRs, CHAIRI e BLEU) para os três modelos, superando métodos de referência como DoLa, OPERA, VCD e Woodpecker. Isso indica uma supressão superior de alucinações mantendo a qualidade da geração de texto.
• Desempenho no POPE: O VCE alcançou a maior precisão, recall e pontuação F1 na detecção de presença de objetos, confirmando que a redução de alucinações não compromete a capacidade do modelo de identificar objetos reais.
• Eficiência Computacional:
  • A complexidade temporal do VCE é $O(n^2)$, idêntica à busca gulosa padrão.
  • Métodos concorrentes como VCD exigem duas passagens de inferência ($O(2n^2)$), tornando-os mais lentos. O VCE não adiciona latência.
• Estudo de Ablação:
  • Camadas: A edição nas camadas intermediárias a profundas (ex: camadas 16-32 em LLaVA-1.5) mostrou o melhor equilíbrio.
  • Rank (k): Um rank baixo (ex: $k=4$) foi suficiente para capturar as direções de alucinação, evitando a perda de semântica verdadeira.

5. Significado e Conclusão

O VCE representa um avanço significativo na segurança de IA multimodal. Ao abordar a causa raiz das alucinações (vieses linguísticos internalizados) através de uma edição direta e matematicamente fundamentada (SVD), o método oferece uma solução escalável e prática.

Sua principal vantagem é a viabilidade de implantação em ambientes com recursos limitados, pois não exige:

• Grandes conjuntos de dados rotulados.
• Poder computacional para fine-tuning.
• Tempo extra de inferência.

Isso torna o VCE uma ferramenta promissora para melhorar a confiabilidade de LVLMs em aplicações do mundo real onde a precisão é crítica.