Resumo Técnico: Mitigação de Alucinações Visuais em Sistemas Multimodais através de Inferência de Confiabilidade Aumentada por Recuperação

1. Declaração do Problema

Os Modelos de Linguagem de Grande Escala Multimodais (MLLMs) avançaram na compreensão de visão-linguagem, mas sofrem de um problema crítico de confiabilidade: a alucinação visual. Esses sistemas frequentemente geram respostas em linguagem natural fluentes e confiantes, mesmo quando a evidência visual subjacente é fraca, ambígua ou semanticamente inconsistente. As abordagens atuais focam primariamente na melhoria do alinhamento de representação ou na geração aumentada por recuperação, mas carecem de mecanismos para quantificar a confiabilidade da predição ao nível da instância.

Existe uma lacuna significativa na inferência multimodal confiável: os sistemas são frequentemente forçados a fornecer uma resposta para cada entrada, independentemente da qualidade da evidência. Pontuações de confiança padrão (ex: probabilidades softmax) são frequentemente mal calibradas e não refletem a correção real, levando a erros "superconfiantes" onde os usuários são enganados por saídas incorretas, porém confiantes. O artigo postula que um sistema confiável deve não apenas prever uma resposta, mas também avaliar se essa resposta deve ser confiada, distinguindo entre evidências fortes e dados insuficientes ou conflitantes.

2. Metodologia

Os autores propõem um Framework de Inferência de Confiabilidade Aumentada por Recuperação. Este é um nível post-hoc inserido entre a predição visual e a geração da resposta final, projetado para validar predições usando evidência visual externa sem o retreinamento dos modelos multimodais de grande escala subjacentes.

2.1 Arquitetura do Framework

O pipeline consiste em quatro estágios principais:

1. Codificação de Entrada e Recuperação de Evidência:

   • As imagens de entrada são processadas usando um extrator de características ResNet-50 pré-treinado (com a camada de classificação removida) para gerar embeddings de 2048 dimensões.
   • Os embeddings são normalizados via L2 para garantir a busca baseada em similaridade de cosseno.
   • Um banco de dados de evidência de referência é construído a partir do conjunto de treinamento ImageNet-100 (~130.000 imagens).
   • Para uma imagem de consulta, o sistema recupera os $k$ vizinhos mais próximos (onde $k=5$) do banco de dados usando FAISS.

2. Estimativa de Suporte de Classe:

   • Em vez de depender de um único vizinho mais próximo, o framework agrega evidências através do conjunto recuperado.
   • Uma função softmax ponderada pela similaridade atribui pesos aos vizinhos recuperados com base em seus escores de similaridade ($s_j$).
   • Pontuações de suporte de classe ($S(c)$) são computadas somando os pesos dos vizinhos pertencentes a cada classe. A classe predita é aquela com o maior suporte agregado.

3. Computação de Sinal de Confiabilidade:
   O sistema computa múltiplos indicadores para estimar a confiabilidade:

   • Força de Similaridade: Similaridade máxima ($s_{top}$) e similaridade média ($s_{mean}$) do conjunto recuperado.
   • Acordo de Suporte de Classe: Suporte primário ($E_1$) para a classe predita vs. suporte secundário ($E_2$) para a classe concorrente mais forte.
   • Margem de Evidência ($M$): A diferença $E_1 - E_2$, indicando a separação entre classes.
   • Entropia ($H$): Mede a incerteza na distribuição da evidência recuperada entre as classes.
   • Pontuação de Confiabilidade Agregada ($R$): Uma combinação ponderada do suporte primário e da força de similaridade normalizada ($R = 0.6E_1 + 0.4Q$).

4. Portão de Decisão Seletiva:
   Com base nos sinais computados, um portão de decisão atribui a entrada a um de três estados:

   • ACEITAR (ACCEPT): Se a evidência for forte, consistente e de baixa incerteza (ex: $R \ge 0.85$, $H \le 0.30$, $M \ge 0.50$). O sistema fornece uma resposta confiante.
   • RESPONDER COM CAUTELA (ANSWER WITH CAUTION): Se a evidência for parcialmente de suporte, mas incerta (ex: $R \ge 0.70$, $M \ge 0.25$). A resposta é suavizada com linguagem cautelosa.
   • ABSTER-SE/FALLBACK (ABSTAIN/FALLBACK): Se a evidência for fraca, conflitante ou abaixo dos limiares de similaridade ($s_{top} < \tau_{sim}$ ou $s_{mean} < \tau_{mean}$). O sistema evita fazer uma afirmação definitiva.

2.1 Geração de Resposta

Uma camada de resposta multimodal (usando LLaVA nos experimentos) gera a saída final. Crucialmente, a geração de linguagem é condicionada à decisão de confiabilidade. Se o portão selecionar "ABSTER-SE", o sistema explica que a evidência é insuficiente em vez de forçar um rótulo potencialmente alucinado.

3. Principais Contribuições

1. Framework de Confiabilidade Aumentada por Recuperação: Um pipeline de inferência novel que valida predições visuais contra um banco de dados de evidência externo antes de gerar respostas finais, separando a geração da predição da aceitação da predição.
2. Estimativa de Confiabilidade de Múltiplos Sinais: Uma estratégia que combina força de similaridade, consistência de suporte de classe, margem de evidência e incerteza baseada em entropia para criar uma estimativa de confiança mais robusta do que apenas escores de confiança brutos.
3. Mecanismo de Decisão Seletiva: Implementação de um portão de decisão de três vias (Aceitar, Cautela, Abster-se) que permite ao sistema trocar cobertura por confiabilidade, reduzindo efetivamente erros superconfiantes.
4. Aplicabilidade Post-Hoc: Demonstração de que essas melhorias podem ser alcançadas sem o retreinamento de grandes modelos multimodais, servindo como um complemento prático para sistemas existentes.

4. Resultados Experimentais

O framework foi avaliado no conjunto de dados ImageNet-100 (130k imagens de treinamento para o banco de dados, 5k imagens de validação para teste).

• Melhoria de Acurácia: O sistema de recuperação baseline (sempre respondendo) alcançou 85.84% de acurácia. O framework de confiabilidade proposto melhorou a acurácia da predição aceita para 88.88% com 89.04% de cobertura.
• Redução de Alucinação: A "taxa de resposta errada aceita semelhante a alucinação" (predições incorretas que são aceitas e retornadas ao usuário) diminuiu de 14.16% (baseline) para 11.12% (proposto), uma redução relativa de 21.48%.
• Calibração: O Erro de Calibração Esperada (ECE) melhorou de 7.40% para 5.87%, indicando melhor alinhamento entre a confiabilidade prevista e a correção real.
• Erros Confiantes: O número de "casos errados confiantes" (predições incorretas com confiabilidade $\ge 0.85$) caiu de 263 para 226.
• Análise de Qualidade da Evidência: As amostras aceitas mostraram significativamente maiores pontuações de confiabilidade, margens de similaridade e menor entropia em comparação com as amostras de abstenção, confirmando que o portão filtra efetivamente casos de evidência ambígua ou fraca.

5. Significância e Alegações

O artigo alega que integrar evidência de recuperação, estimativa de confiabilidade e portão de decisão seletivo oferece um mecanismo post-hoc prático para melhorar a confiabilidade da inferência visual multimodal.

• Mitigação de Superconfiança: O framework reduz com sucesso o risco de sistemas produzirem saídas incorretas e confiantes ao identificar casos onde a evidência visual é insuficiente.
• Sem Necessidade de Retreinamento: Ao contrário de métodos que exigem mudanças arquitetônicas ou treinamento adicional, esta abordagem funciona com encoders pré-treinados e MLLMs existentes.
• Interpretabilidade: Ao depender de vizinhos mais próximos recuperados, o sistema fornece evidência interpretável (exemplos visuais) para apoiar ou rejeitar uma predição, aumentando a transparência.
• Gestão de Trade-off: O sistema gerencia explicitamente o trade-off entre cobertura (responder a todas as perguntas) e confiabilidade (responder apenas quando confiante), priorizando a confiança do usuário em aplicações de alto risco.

Os autores concluem que, embora a implementação atual seja limitada a configurações de classificação controladas (ImageNet-100) e encoders específicos (ResNet-50), a abordagem demonstra um caminho viável para sistemas de IA multimodais mais seguros e confiáveis, capazes de se abster de responder quando a evidência não justifica uma resposta definitiva.