Support-Contra Asymmetry in LLM Explanations

Resumo Técnico: Assimetria Suporte-Contra em Explicações de LLMs

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) geram cada vez mais explicações em linguagem natural (rationales) junto com suas previsões. No entanto, surge uma questão fundamental: essas explicações realmente referenciam as pistas preditivas presentes no texto de entrada?
Diferente de modelos tradicionais onde a importância das características é mensurável, as explicações de LLMs são texto livre. Elas podem parecer plausíveis e fluentes, mas podem não ter uma conexão real com os sinais que realmente impulsionaram a decisão do modelo. O desafio é distinguir entre explicações que são "fiéis" (refletem a lógica de decisão baseada em evidências) e aquelas que são apenas narrativas post-hoc convincentes, mas desconectadas da evidência preditiva.

2. Metodologia

Os autores propõem um quadro empírico para medir o alinhamento entre o conteúdo da explicação gerada pelo LLM e evidências lexicais preditivas extraídas de classificadores lineares transparentes (modelos de referência).

• Abordagem de Referência: Em vez de tentar acessar a "caixa preta" interna do LLM, o estudo utiliza modelos lineares interpretáveis (Regressão Logística e SVM Linear) treinados nos mesmos dados. Como esses modelos são lineares, é possível inspecionar diretamente os pesos dos coeficientes das características (palavras/n-gramas) para determinar quais aumentam ou diminuem a probabilidade de uma classe.
• Particionamento de Evidência: Para cada instância, as características preditivas extraídas do modelo de referência são divididas em duas categorias:
  • Evidência de Suporte (Supporting): Características com pesos positivos que aumentam a probabilidade da classe prevista.
  • Evidência Contraditória (Contradicting): Características com pesos negativos que fornecem evidência contra a classe prevista.
• Métricas de Cobertura: O estudo mede a frequência com que as explicações do LLM contêm essas características de suporte ou contradição. São calculadas métricas de cobertura para:
  • Previsões corretas (Match: $\hat{y}_i = y_i$).
  • Previsões incorretas (Mismatch: $\hat{y}_i \neq y_i$).
• Métrica de Assimetria ($\Delta^*$): Define-se uma métrica de assimetria como a diferença entre a variação na cobertura de suporte e a variação na cobertura de contradição entre previsões corretas e incorretas.
• Validação: O método foi testado com diferentes profundidades de extração de características ($k=3, 5, 7$) e estratégias de correspondência (correspondência exata e token-aware com lematização).

3. Contribuições Principais

1. Identificação da Assimetria Suporte-Contra: O trabalho caracteriza empiricamente um padrão consistente onde explicações de previsões corretas tendem a enfatizar evidências de suporte e evitar evidências contraditórias, enquanto previsões incorretas referenciam significativamente mais evidências contraditórias.
2. Framework Quantitativo Simples: Introdução de uma metodologia para medir o alinhamento explicação-evidência comparando texto de explicação com sinais lexicais preditivos externos.
3. Robustez Transversal: Demonstração de que esse padrão se repete em múltiplos conjuntos de dados, famílias de modelos de referência e profundidades de características.
4. Perspectiva Comportamental: Evidência de que as explicações dos LLMs não são apenas narrativas aleatórias, mas refletem sistematicamente os sinais lexicais preditivos presentes na entrada, mudando de comportamento quando a previsão falha.

4. Resultados Experimentais

O estudo foi conduzido em três conjuntos de dados de benchmark: WIKIONTOLOGY (classificação de entidades), AG NEWS (classificação de tópicos de notícias) e IMDB (análise de sentimentos).

• Padrão Consistente: Em todos os datasets, as explicações associadas a previsões corretas apresentaram maior cobertura de características de suporte e menor cobertura de características contraditórias em comparação com previsões incorretas.
• Assimetria Estatística: A métrica de assimetria ($\Delta^*$) foi consistentemente positiva e estatisticamente significativa (intervalos de confiança de 95% não contendo zero), indicando que o modelo "foca" no suporte quando acerta e "menciona" contradições quando erra.
• Variação por Tarefa:
  • A assimetria foi mais pronunciada em tarefas de classificação de tópicos e ontologias (WikiOntology, AG News), onde sinais lexicais são altamente discriminativos.
  • O efeito foi moderado no IMDB (sentimento), onde os sinais preditivos são mais difusos e contextuais, mas o padrão qualitativo permaneceu o mesmo.
• Robustez: O padrão manteve-se estável tanto para modelos de referência de Regressão Logística quanto para SVM, e através de diferentes valores de $k$ (profundidade de características).
• Validação por Ablação: Um estudo de ablação no AG News mostrou que remover características de suporte reduz a precisão do LLM, enquanto remover características contraditórias a melhora, confirmando que essas pistas lexicais são comportamentalmente relevantes para o modelo.

5. Significado e Implicações

• Fiabilidade das Explicações: O estudo sugere que as explicações de LLMs podem ser fiéis aos sinais preditivos do texto de entrada quando a previsão está correta. No entanto, quando o modelo erra, as explicações frequentemente destacam pistas enganosas que contradizem a verdade, criando uma ilusão de plausibilidade.
• Nova Perspectiva de Avaliação: A "Assimetria Suporte-Contra" oferece uma lente empírica simples para avaliar a qualidade das explicações sem depender de anotações humanas ou de simulações complexas.
• Limitações e Futuro: O método depende de modelos lineares externos e correspondência lexical, o que pode não capturar padrões semânticos complexos ou composicionais que os LLMs utilizam. Futuras pesquisas devem integrar métodos de atribuição mais ricos e similaridade semântica.

Conclusão Geral:
O artigo demonstra que as explicações geradas por LLMs não são meras narrativas desconectadas; elas exibem uma assimetria robusta e mensurável. Elas tendem a alinhar-se com evidências preditivas externas quando o modelo acerta e a alinhar-se com evidências contraditórias quando falha. Isso fornece uma base para entender melhor o comportamento explicativo dos LLMs e desenvolver métodos mais rigorosos para avaliar a confiabilidade de suas justificativas.