A Systematic Comparison between Extractive Self-Explanations and Human Rationales in Text Classification

Resumo Técnico: Uma Comparação Sistemática entre Autoexplicações Extrativas e Racionais Humanos em Classificação de Texto

Declaração do Problema
Modelos de Linguagem de Grande Escala (LLMs) instruídos podem gerar autoexplicações (racionais) para suas saídas sem exigir técnicas externas complexas de interpretabilidade. No entanto, a confiabilidade, plausibilidade e fidelidade dessas autoexplicações geradas permanecem pouco exploradas. Pesquisas existentes frequentemente focam em textos curtos ou tarefas baseadas em palavras-chave, carecendo de comparações sistemáticas em domínios diversos e realistas com variados comprimentos e complexidades de texto. Além disso, há necessidade de compreender como essas autoexplicações se comparam a racionais anotados por humanos e a métodos de atribuição pós-hoc em termos de sua capacidade de refletir o processo real de tomada de decisão do modelo.

Metodologia
Os autores realizam um estudo controlado avaliando quatro LLMs instruídos de pesos abertos (Gemma3, Llama3, Mistral e Qwen3) em três tarefas distintas de classificação de texto:

1. Classificação de Sentimento (SST/mSST): Classificação binária de resenhas de filmes em inglês, dinamarquês e italiano.
2. Detecção de Trabalho Forçado (RaFoLa): Classificação multirrótulo de artigos de notícias identificando indicadores específicos de risco de trabalho forçado.
3. Verificação de Alegações (Climate-Fever): Verificação de alegações sobre mudanças climáticas contra fragmentos de evidências da Wikipedia.

Para as duas primeiras tarefas, o estudo utiliza anotações de racionais humanos existentes. Para o Climate-Fever, os autores coletaram novas anotações de racionais humanos para um subconjunto de 104 alegações (520 evidências) usando três anotadores instruídos pessoalmente.

O quadro de avaliação avalia duas dimensões primárias:

• Plausibilidade: Medida pelo acordo (Kappa de Cohen) entre racionais gerados pelo modelo e anotações humanas.
• Fidelidade: Medida via sondagem baseada em intervenção. Os autores mascaram tokens identificados por racionais humanos, autoexplicações do modelo e métodos de atribuição pós-hoc (Propagação de Relevância por Camadas [LRP] e Gradiente×Entrada) para observar a queda resultante na probabilidade de previsão do modelo.

O estudo também inclui uma análise estatística de estratégias em nível de token, comparando diversidade lexical, frações de palavras de parada e distribuições de entidades entre racionais humanos, do modelo e pós-hoc.

Principais Contribuições

1. Novas Anotações de Conjunto de Dados: A coleta e liberação de anotações de racionais humanos para um subconjunto do conjunto de dados Climate-Fever, abordando uma lacuna na verdade fundamental disponível para tarefas de verificação de alegações.
2. Estudo Comparativo Controlado: Uma comparação sistemática de anotações humanas, autoexplicações de LLM e métodos de atribuição pós-hoc em três domínios com variados comprimentos de texto e complexidades de tarefa.
3. Análise de Fidelidade: Uma avaliação demonstrando que as autoexplicações produzem subconjuntos fiéis de racionais em nível de token, enquanto métodos de atribuição pós-hoc frequentemente priorizam tokens estruturais e de formatação sobre evidências semânticas.
4. Caracterização de Estratégias: Uma análise detalhada revelando que racionais humanos enfatizam conteúdo narrativo e experiências vividas, racionais do modelo fornecem detalhes factuais e analíticos, e racionais pós-hoc focam em tokens de evidência isolados e artefatos estruturais.

Principais Resultados

• Plausibilidade: O acordo entre racionais humanos e do modelo varia significativamente com base no comprimento do texto e na complexidade da tarefa.
  • SST: Acordo moderado (Kappa 0,4–0,6) para subconjuntos em inglês; menor para dinamarquês e italiano.
  • RaFoLa: Alta variância entre artigos; o acordo varia de baixo (0,12) a moderado (0,48), correlacionando-se com a dificuldade da tarefa e a distintividade das palavras-chave.
  • Climate-Fever: Geralmente baixo acordo (0,12–0,24), atribuído à complexidade intrínseca e ambiguidade da tarefa de verificação de alegações, em vez de propriedades superficiais do texto.
• Fidelidade:
  • Autoexplicações do modelo (especificamente quando classificadas pela maximização gananciosa da diferença de probabilidade) demonstram alta fidelidade, frequentemente causando uma queda mais acentuada na probabilidade de previsão ao serem mascaradas do que racionais humanos, particularmente nos primeiros 10% dos tokens.
  • Métodos pós-hoc (LRP, Gradiente×Entrada) mostram menor fidelidade na identificação dos tokens iniciais mais relevantes em comparação com autoexplicações. Eles frequentemente atribuem alta importância a tokens estruturais (por exemplo, <s>, <|begin_of_text|>) necessários para delimitação de sequência, em vez de conteúdo semântico.
• Estratégias em Nível de Token:
  • Racionais Humanos: Maior diversidade lexical e uso de palavras de parada; foco em narrativa e contexto humano (por exemplo, "vítimas", "pobreza").
  • Racionais do Modelo: Diversidade lexical semelhante à humana, mas com fraseado mais denso e técnico, focando em mecanismos e evidências quantitativas (por exemplo, "tráfico", "OIT").
  • Racionais Pós-hoc: Menor diversidade lexical e uso de palavras de parada; maior concentração de entidades nomeadas e tokens de formatação (por exemplo, "Reuters", "https://").

Significado e Alegações
O artigo postula que as autoexplicações oferecem uma via promissora para interpretabilidade, pois podem produzir racionais fiéis em nível de token que efetivamente interrompem previsões do modelo quando mascarados. No entanto, o estudo destaca uma divergência fundamental nas estratégias de explicação: enquanto as autoexplicações comunicam evidências coerentes por meio de linguagem natural, métodos de atribuição pós-hoc frequentemente destacam pistas estruturais.

Os autores concluem que seu trabalho constitui um "primeiro passo" rumo à caracterização da confiabilidade das autoexplicações em configurações realistas de classificação de texto. Eles enfatizam que, embora as autoexplicações sejam fiéis, elas podem nem sempre ser plausíveis para humanos, e vice-versa. O estudo apoia a necessidade de avaliação rigorosa das autoexplicações e sugere que pesquisas futuras devem explorar como essas descobertas se transferem para explicações de texto livre abstrativas e análises orientadas a processos de integração complexa de evidências. Os autores evitam explicitamente alegar que as autoexplicações são universalmente superiores ou que resolvem completamente o problema da interpretabilidade, enquadrando seus resultados como uma fundação para investigação adicional sobre confiabilidade e transparência do modelo.