Explaining Sources of Uncertainty in Automated Fact-Checking

1. Declaração do Problema

A verificação de fatos automatizada usando Modelos de Linguagem de Grande Escala (LLMs) frequentemente envolve raciocínio sobre múltiplos documentos onde as evidências podem conflitar ou concordar. Embora os LLMs possam prever veredictos (Suporta, Refuta, Neutro), os métodos atuais de Inteligência Artificial Explicável (XAI) falham em comunicar adequadamente a incerteza do modelo aos usuários humanos.

• Limitações dos Métodos Atuais: As abordagens existentes fornecem apenas pontuações numéricas de confiança (difíceis de contextualizar) ou hedges vagos em linguagem natural (por exemplo, "não tenho certeza") que não refletem fielmente o estado interno do modelo.
• A Lacuna: Crucialmente, os sistemas existentes não explicam por que um modelo está incerto. Eles falham em trazer à tona os conflitos e acordos específicos entre a alegação e as evidências, ou entre diferentes peças de evidência, que são os principais impulsionadores da incerteza em tarefas de verificação de fatos. Isso impede que verificadores de fatos humanos resolvam efetivamente desacordos ou verifiquem pontos específicos de controvérsia.

2. Metodologia: O Framework CLUE

Os autores propõem o CLUE (Conflict-&Agreement-aware Language-model Uncertainty Explanations), um framework plug-and-play e caixa-branca que gera explicações em linguagem natural (NLEs) fundamentadas em interações específicas de evidências. O CLUE opera inteiramente no momento da inferência, sem exigir ajuste fino ou explicações com rótulos dourados.

O framework consiste em três etapas:

A. Pontuação de Incerteza

O sistema quantifica a incerteza do modelo usando entropia preditiva derivada dos logits de saída do modelo.

• Para uma entrada $X$ dada (Alegação + Evidência), a entropia $u(X)$ é calculada sobre a distribuição softmax dos rótulos candidatos $\{SUPPORTS, REFUTES, NEUTRAL\}$.
• Isso fornece uma pontuação escalar de incerteza que é agnóstica ao modelo e não requer múltiplas execuções de amostragem.

B. Identificação de Interação de Intervalos de Conflito e Acordo

Para identificar as fontes de incerteza, o CLUE extrai interações salientes de intervalos de texto entre a Alegação ($C$) e as peças de Evidência ($E_1, E_2$), bem como entre as próprias peças de evidência.

1. Extração: Usando mecanismos de atenção da camada final do modelo, o sistema identifica interações importantes de tokens entre partes da entrada. Aplica o algoritmo de Louvain para agrupar esses tokens em comunidades, extraindo pares específicos de intervalos (por exemplo, uma frase na alegação e uma frase na evidência).
2. Rotulagem de Relação: Um modelo auxiliar ($L_{rel}$) rotula cada par de intervalos extraído como Concorda, Discorda ou Não Relacionado com base no contexto completo.
3. Seleção: Os $k$ principais (por exemplo, 3) pares de interações de intervalos mais importantes são selecionados com base em suas pontuações de atenção.

C. Geração de Explicação de Incerteza

O CLUE converte essas interações extraídas em explicações em linguagem natural usando duas variantes distintas:

1. CLUE-Span (Orientado por Instrução): Os pares de intervalos extraídos e seus rótulos de relação são inseridos diretamente em um prompt de poucos exemplos. O modelo é instruído a explicar como esses acordos ou conflitos específicos influenciam sua confiança.
2. CLUE-Span+Steering (Direcionamento de Atenção Intrínseco): Além do prompt, o sistema modifica os pesos de atenção do modelo durante a geração. Ele reduz o peso dos tokens não-alvo e aumenta o peso dos tokens dentro das interações de intervalos selecionados, forçando o modelo a focar seu raciocínio nos conflitos/acordos identificados.

3. Contribuições Principais

• Primeiro Framework para Explicações Orientadas à Incerteza: O CLUE é o primeiro sistema a gerar NLEs que rastreiam explicitamente a incerteza do modelo para intervalos de evidência conflitantes ou concordantes específicos.
• Caixa-Branca e Plug-and-Play: Opera sem ajuste fino, utilizando sinais internos do modelo (logits e atenção) para garantir que as explicações sejam fiéis ao processo de raciocínio real do modelo.
• Mecanismo Duplo: Introduz uma comparação entre prompting orientado por instrução e direcionamento de atenção para otimizar a geração de explicações de incerteza.
• Design Centrado no Humano: O framework aborda as necessidades práticas dos verificadores de fatos ao "mostrar o trabalho" por trás de uma decisão, destacando especificamente onde existem tensões de evidência.

4. Resultados Experimentais

O framework foi avaliado em três LLMs (Qwen2.5-14B, Gemma-2-9B, OLMo-2-13B) e dois conjuntos de dados (HealthVer e DRUID).

Avaliação Automática

• Fidelidade (Entropy-CCT): Os autores introduziram o Entropy-CCT, uma métrica que mede a correlação entre a presença de um token perturbado na explicação e a mudança resultante na entropia preditiva do modelo.
  • Resultado: Os métodos de prompting de base mostraram fidelidade negativa (mencionaram tokens não importantes). Ambas as variantes do CLUE inverteram isso, com o CLUE-Span+Steering alcançando a maior correlação positiva (até $r_{pb} = 0.102$), indicando que as explicações refletem fielmente as fontes de incerteza do modelo.
• Cobertura de Intervalos e Extraneidade: As variantes do CLUE cobriram mais dos intervalos críticos extraídos e introduziram menos intervalos irrelevantes em comparação com as bases.
• Entailment Rótulo-Explicação: As explicações do CLUE foram mais logicamente consistentes com os veredictos previstos.

Avaliação Humana

• Participantes: 12 avaliadores humanos avaliaram 120 explicações.
• Preferência: As explicações geradas pelo CLUE foram classificadas como a primeira preferência em 67–78% das vezes, comparado a 24–34% para a base.
• Métricas Qualitativas: As explicações do CLUE foram classificadas significativamente mais altas em Utilidade, Cobertura, Não Redundância e Consistência.
• Compromisso: Um ligeiro compromisso foi observado entre as duas variantes do CLUE: o CLUE-Span+Steering alcançou maior fidelidade (aderindo estritamente aos intervalos extraídos), enquanto o CLUE-Span foi às vezes classificado ligeiramente mais alto em qualidade/plausibilidade geral, provavelmente devido a melhor fluidez quando os intervalos extraídos eram fragmentados.

5. Significado e Impacto

• Ponte entre o Gap Humano-AI: Ao vincular explicitamente a incerteza a conflitos de evidência, o CLUE permite que verificadores de fatos humanos entendam por que uma IA está insegura, permitindo que eles direcionem seus esforços de verificação de forma mais eficaz.
• Confiabilidade em Tarefas de Alto Risco: O método vai além da simples previsão de veredictos para fornecer insights acionáveis, o que é crítico para domínios como saúde e notícias, onde a desinformação pode causar danos.
• Generalizabilidade: O framework é aplicável a qualquer tarefa de raciocínio com múltiplos documentos envolvendo informações conflitantes, como resposta a perguntas ou geração aumentada por recuperação (RAG).
• Direções Futuras: O artigo destaca a necessidade de melhor extração de intervalos (para evitar intervalos fragmentados) e mais pesquisas sobre o equilíbrio entre fidelidade e plausibilidade na geração de explicações.

Em conclusão, o CLUE representa um passo significativo para frente na Inteligência Artificial Explicável (XAI) para verificação de fatos, deslocando o foco de apenas justificar um veredicto para explicar as fontes de incerteza por meio de raciocínio fundamentado e baseado em evidências.