Resumo Técnico: VIHD - Detecção de Alucinação Baseada em Intervenção Visual

Declaração do Problema

Modelos de Linguagem Multimodal Grandes (MLLMs) médicos demonstraram potencial significativo no auxílio ao diagnóstico clínico por meio de Resposta a Perguntas Visuais (VQA) e geração automatizada de relatórios. No entanto, permanece uma limitação crítica: esses modelos frequentemente geram respostas alucinadas—outputs que são linguisticamente coerentes, mas contradizem a evidência visual fornecida. Tais erros representam riscos substanciais para a tomada de decisão clínica.

Os métodos existentes de detecção de alucinação geralmente se enquadram em três categorias:

1. Detecção Supervisionada: Requer conjuntos de dados anotados intensivos em mão de obra e luta para generalizar para novos domínios ou arquiteturas.
2. Verificação Externa: Depende de modelos auxiliares ou bases de conhecimento, introduzindo sobrecarga computacional significativa e dependência de ferramentas externas.
3. Detecção Introspectiva: Métodos autocontidos que estimam incerteza ou consistência lógica sem treinamento adicional. Embora eficientes, as abordagens introspectivas atuais frequentemente dependem de perturbações externas heurísticas e agnósticas ao contexto. Eles tratam os MLLMs como caixas pretas, falhando em sondar as dependências causais internas entre os tokens gerados e a evidência visual específica durante o processo de decodificação.

Metodologia: Framework VIHD

Os autores propõem o VIHD (Detecção de Alucinação Baseada em Intervenção Visual), um framework sem treinamento projetado para sondar a fidelidade do raciocínio multimodal por meio de intervenções visuais direcionadas e de granularidade fina. O método opera em três estágios distintos:

1. Sondagem de Dependência Visual (VDP)

Para identificar onde o modelo depende mais pesadamente da evidência visual, o VIHD analisa os mecanismos de atenção dentro do decodificador do LLM.

• Mecanismo: Calcula os pesos de atenção entre os tokens gerados e os tokens visuais de entrada em todas as camadas do decodificador e cabeças de atenção.
• Localização: Agrega esses pesos para quantificar a dependência visual por camada ($s^{(l)}$). O método então identifica uma janela contígua de $w$ camadas $[l^*, l^*+w-1]$ exibindo a dependência visual cumulativa mais forte. Isso garante que as intervenções sejam aplicadas onde a atenção multimodal é mais proeminente.

2. Decodificação por Intervenção Visual (VID)

Uma vez identificadas as camadas visualmente dominantes, o VIHD realiza uma intervenção direcionada para observar como a saída do modelo muda quando evidência visual específica é suprimida.

• Mecanismo: Durante o processo de decodificação dentro da janela identificada, o algoritmo mascara a fração superior-$\rho$ dos tokens visuais que possuem os pesos de atenção mais altos em relação ao token gerado atual.
• Resultado: Isso produz uma "resposta intervenida" ($r'$) condicionada a uma representação visual perturbada. Ao comparar a resposta original ($r$) com a resposta intervenida ($r'$), o método revela a dependência do modelo em tokens visuais específicos.

3. Entropia Semântica Calibrada (CSE)

Para quantificar a gravidade da alucinação, o VIHD calcula uma métrica baseada na distribuição semântica das respostas.

• Amostragem: O modelo realiza $M$ execuções de amostragem independentes para gerar dois conjuntos de respostas: respostas normais $\{r^{(i)}\}$ e respostas intervenidas visualmente $\{r'^{(i)}\}$.
• Agrupamento: Essas respostas são agrupadas em classes de equivalência semântica usando um modelo pré-treinado (DeBERTa-Large-MNLI), gerando uma distribuição semântica normal $P(s)$ e uma distribuição intervenida $P(s')$.
• Fusão Adaptativa: Reconhecendo que os impactos da intervenção variam conforme a granularidade da consulta, o VIHD emprega uma estratégia de fusão adaptativa:
  • Se as distribuições estiverem alinhadas de perto (similaridade de cosseno $\ge \tau$), utiliza fusão complementar para reforçar semânticas compartilhadas.
  • Se divergirem, utiliza fusão contrastiva para suprimir alucinações induzidas por mascaramento.
• Métrica: A Entropia Semântica Calibrada (CSE) final é calculada a partir dessa distribuição fundida. Uma CSE mais alta indica dispersão semântica significativa entre as saídas original e intervenida, servindo como um sinal robusto para alucinação.

Contribuições Principais

1. Framework VIHD: Introdução de um método sem treinamento que utiliza intervenções visuais de granularidade fina para sondar dependências causais internas, indo além de perturbações heurísticas de caixa preta.
2. Pipeline Adaptativo: Projeto de um pipeline de três estágios composto por Sondagem de Dependência Visual (para localizar camadas críticas), Decodificação por Intervenção Visual (para mascarar tokens de alta atenção) e Entropia Semântica Calibrada (para quantificar a gravidade via fusão adaptativa de distribuições).
3. Superioridade Empírica: Validação extensiva demonstrando que o VIHD supera consistentemente os métodos introspectivos mais avançados em diversos benchmarks de VQA médica e arquiteturas de modelos.

Resultados Experimentais

Os autores avaliaram o VIHD em três benchmarks de VQA médica (VQA-RAD, SLAKE e VQA-Med-2019) usando dois MLLMs médicos (Hulu-4B e Lingshu-7B). Rótulos de alucinação foram gerados usando o modelo GREEN, e o desempenho foi medido via AUC (Área sob a Curva ROC) e AUG (Área sob a Curva GREEN).

• Ganhos de Desempenho: O VIHD superou consistentemente sete métodos concorrentes (incluindo incerteza de token, bases de consistência e linhas de base de incerteza semântica).
  • No Hulu-4B, o VIHD melhorou o AUC médio em 8,57% em todas as perguntas e alcançou um aumento substancial de 12% no AUC no conjunto de dados VQA-RAD.
  • No Lingshu-7B, manteve uma vantagem com uma melhoria média de AUC de 3,22% no geral.
• Eficiência: O tempo de inferência para o VIHD foi de aproximadamente 11,59 segundos por amostra, comparável à linha de base líder VASE (11,55s/amostra), indicando que os ganhos de desempenho foram alcançados sem custo computacional adicional.
• Estudos de Ablação:
  • A remoção de qualquer componente (VDP, VID ou CSE) resultou em degradação de desempenho, validando a necessidade do pipeline completo.
  • O mascaramento de alta atenção foi encontrado como superior ao mascaramento aleatório ou de baixa atenção, confirmando que direcionar tokens visuais salientes é crucial para uma calibração eficaz.
  • Uma largura de janela deslizante de $w = L/2$ e uma taxa de mascaramento de $\rho = 10\%$ foram identificadas como hiperparâmetros ótimos.

Significado e Alegações

O artigo afirma que o VIHD sublinha a importância da dependência visual de granularidade fina para a detecção de alucinação. Ao mudar de perturbações heurísticas externas para intervenções internas e direcionadas baseadas nos próprios mecanismos de atenção do modelo, o VIHD fornece um sinal mais confiável para detectar quando um modelo está alucinando.

Os autores posicionam o VIHD como uma solução amigável para implantação, sem treinamento, que não requer conjuntos de dados de alucinação anotados ou ferramentas de verificação externas. As melhorias consistentes em diferentes capacidades de modelos e características de conjuntos de dados sugerem que o método aborda efetivamente a questão central de MLLMs gerarem alegações médicas linguisticamente plausíveis, mas visualmente não suportadas. O código é disponibilizado para facilitar pesquisas adicionais neste domínio.