ICE: Intervention-Consistent Explanation Evaluation with Statistical Grounding for LLMs

Título: ICE: Avaliação de Explicação Consistente com Intervenção e Fundamentação Estatística para LLMs

1. O Problema

A avaliação da fidelidade (faithfulness) de explicações em Modelos de Linguagem de Grande Escala (LLMs) permanece um problema aberto. As abordagens atuais, como o benchmark ERASER, apresentam limitações críticas:

• Falta de Rigor Estatístico: Utilizam pontuações brutas (suficiência e compreensibilidade) sem testes estatísticos, tornando impossível distinguir entre fidelidade genuína e desempenho ao acaso.
• Viés do Operador Único: Dependem de uma única intervenção (geralmente deleção de tokens). Isso cria entradas fora da distribuição (OOD), onde a degradação do modelo pode ser confundida com falta de fidelidade da explicação.
• Incapacidade de Detectar "Anti-Fidelidade": Sem baselines aleatórias, não é possível identificar quando uma explicação é pior do que uma seleção aleatória de tokens (ou seja, quando ela ativamente engana o usuário).
• Visão Unidimensional: Tratam a fidelidade como um único número, ignorando que diferentes métodos de intervenção podem levar a conclusões diametralmente opostas.

2. Metodologia: O Framework ICE

O ICE (Intervention-Consistent Explanation) é um novo framework projetado para superar essas lacunas através de testes de randomização e múltiplos operadores de intervenção.

• Definição de Fidelidade: A pergunta central é: os tokens identificados pelo método de explicação superam tokens selecionados aleatoriamente na preservação da previsão do modelo?
• Métrica Principal (NSR): Utiliza a Retenção de Pontuação Normalizada (NSR), que mede quanto da pontuação original da previsão é mantida quando apenas os tokens da explicação (rationale) permanecem.
  • $NSR(r) = \frac{s(x_r^o) - s(\emptyset)}{s(x) - s(\emptyset)}$
• Teste de Randomização:
  • Gera $M$ baselines aleatórias (subconjuntos de tokens do mesmo tamanho que a explicação).
  • Calcula a Taxa de Vitória (Win Rate): a porcentagem de vezes que a explicação real supera as baselines aleatórias.
  • Fornece Intervalos de Confiança (Bootstrap 95%) e Efeitos de Tamanho (Cohen's d).
• Múltiplos Operadores de Intervenção:
  1. Deleção: Remove os tokens não explicados. Rápido, mas cria texto truncado e não natural (alto risco de OOD).
  2. Preenchimento por Recuperação (Retrieval Infill): Substitui os tokens não explicados por trechos recuperados de outros exemplos do corpus. Preserva a forma superficial e o comprimento do texto, criando um cenário mais realista e menos propenso a artefatos OOD.
• Abordagem Comparativa: O ICE não busca um "score único", mas compara a consistência entre diferentes operadores. Se os operadores concordam, a evidência de fidelidade é forte; se discordam, o gap quantifica a incerteza metodológica.

3. Contribuições Chave

1. Fidelidade Dependente do Operador: Demonstrou que a escolha do operador de intervenção altera materialmente as conclusões. As diferenças (gaps) entre operadores podem chegar a 44 pontos percentuais. A direção dessa diferença depende do comprimento do texto (deleção tende a inflar estimativas em textos curtos, enquanto o retrieval infill é superior em textos longos).
2. Fundamentação Estatística e Detecção de Anti-Fidelidade: A introdução de baselines aleatórias revelou que, em cerca de um terço das configurações, as explicações são "anti-fiel" (performam pior que o acaso). Isso é invisível em métricas tradicionais.
3. Generalização Multilíngue e Cross-Arquitetura: Avaliou 7 LLMs em 4 tarefas em inglês e 6 idiomas não-ingleses (francês, alemão, hindi, chinês, turco, árabe). Mostrou que as interações modelo-idioma são complexas e não explicadas apenas pela tokenização.
4. Ortogonalidade entre Fidelidade e Plausibilidade: Evidência quantitativa de que a fidelidade computacional não correlaciona com a plausibilidade humana (alinhamento de raciocínio), com correlação próxima de zero ($|r| < 0.04$).

4. Resultados Principais

• Impacto do Comprimento do Texto:
  • Em textos curtos (ex: SST-2), a deleção frequentemente superestima a fidelidade (ex: Llama-3.2 em e-SNLI: 86.4% com deleção vs. 42.6% com retrieval infill — um gap de 44 pp).
  • Em textos longos (ex: IMDB), o padrão se inverte: a deleção degrada severamente a entrada, enquanto o retrieval infill preserva o contexto, resultando em taxas de vitória mais altas para o retrieval.
• Anti-Fidelidade:
  • Modelos como o GPT-2 em tarefas de sentimento em francês e turco mostraram taxas de vitória abaixo de 30% (anti-fiel), atribuindo importância a palavras de função (ex: "a") em vez de adjetivos de sentimento.
  • Gradientes (gradient attribution) foram mais propensos a exibir anti-fidelidade do que a atenção (attention).
• Multilinguismo:
  • Não há um modelo dominante universal. O desempenho varia drasticamente por idioma.
  • A tokenização não explica sozinha a fidelidade. Por exemplo, o GPT-2 teve desempenho surpreendentemente bom em Hindi (65-68%) apesar de uma expansão de tokens massiva (8.1x), enquanto modelos maiores falharam em certos idiomas sob o operador de retrieval.
• Correlação com Humanos:
  • Não houve correlação significativa entre a taxa de vitória do ICE e o alinhamento humano (IoU), confirmando que uma explicação pode parecer plausível para humanos, mas não refletir o mecanismo real do modelo.

5. Significado e Implicações

• Mudança de Paradigma: O ICE argumenta que a fidelidade não deve ser reduzida a um único score de benchmark. Ela deve ser interpretada comparativamente através de regimes de intervenção diferentes.
• Recomendações Práticas:
  • Para textos curtos e tarefas de NLI, a Atenção tende a ser mais fiel.
  • Para textos longos, métodos de Gradiente ou Atenção convergem, mas o operador de intervenção é crucial.
  • Praticantes devem verificar a fidelidade em suas configurações específicas, pois modelos "instruídos" (instruct-tuned) geralmente mostram maior fidelidade do que modelos base.
• Recurso Aberto: Os autores lançaram o ICEBench (com versões fixas de datasets) e o framework de código, permitindo reprodutibilidade e testes estatísticos rigorosos na comunidade de IA.

Conclusão: O trabalho estabelece que a avaliação de explicações em LLMs exige rigor estatístico e múltiplas intervenções para evitar ilusões de fidelidade causadas por artefatos de OOD ou viés de operador. A fidelidade é uma propriedade complexa, dependente do modelo, da tarefa, do idioma e do método de intervenção utilizado.