Estimation and Inference for Causal Explainability

Resumo Técnico: Estimação e Inferência para Explicabilidade Causal

1. Problema e Motivação

O artigo aborda a questão fundamental de quantificar quanto cada variável (fator) e suas interações contribuem para a variabilidade de um resultado ($Y$). Embora medidas baseadas em associação sejam comuns, os autores argumentam que uma visão causal da explicabilidade é superior para revelar mecanismos subjacentes e garantir generalização para novos contextos.

O desafio central identificado é que a maioria dos métodos existentes de "Causal ANOVA" (uma generalização de índices de Sobol e ANOVA funcional para o mundo contrafactual) assume a disponibilidade de um "oráculo" (um modelo de aprendizado de máquina preto-e-preto capaz de gerar resultados para qualquer entrada). No entanto, em domínios como ciências sociais e genética, os pesquisadores frequentemente possuem apenas dados observacionais ou experimentais coletados, sem acesso a tal oráculo.

O objetivo do trabalho é desenvolver métodos de estimação e inferência semiparamétrica para quantidades de ANOVA causal baseados em dados amostrais, com o mínimo de suposições de modelagem, permitindo:

1. Estimar a importância causal de fatores individuais e suas interações.
2. Realizar inferência estatística (intervalos de confiança e testes de hipótese), incluindo casos onde o parâmetro de interesse está na fronteira do espaço de parâmetros (hipótese nula degenerada, ou seja, explicabilidade zero).

2. Metodologia

Os autores propõem uma abordagem baseada na teoria de eficiência semiparamétrica e testes de randomização.

A. Definição de Explicabilidade Causal
Utilizando o framework de resultados potenciais, definem:

• Explicabilidade Total ($\xi$): A variância da diferença entre o resultado factual e um resultado contrafactual onde um subconjunto de fatores $W_S$ é substituído por uma cópia independente $W'_S$.
• Explicabilidade de Interação: Definida através de contrastes de diferenças-em-diferenças (análogo a índices de Sobol de interação).
• Suposições: Assumem tratamentos independentes ($W_k \perp\!\!\!\perp W_{k'}$) e um modelo estrutural não paramétrico com erros aditivos independentes (NPSEM-IE), o que garante a identificabilidade das quantidades.

B. Estimação via Função de Influência Eficiente
Para estimar esses funcionais, os autores derivam a Função de Influência Eficiente (EIF).

• Base: Começam com a função de influência não paramétrica ($\phi_{IF}$) para o modelo geral.
• Otimização: Projetam essa função no espaço tangente do modelo restrito de independência ($\dot{P}_{ind}$) para obter a função de influência eficiente ($\phi_{EIF}$).
• Vantagem: Ao explorar explicitamente a estrutura de independência entre os fatores $W_k$, o estimador baseado em $\phi_{EIF}$ atinge uma variância assintótica menor do que o estimador que ignora essa estrutura ($\phi_{IF}$).
• Implementação: Utilizam um estimador de correção de um passo (one-step correction) com cross-fitting (divisão da amostra em folds) para corrigir o viés introduzido pela estimação de componentes de incômodo (nuisance parameters), como médias condicionais $E[Y|W]$.

C. Inferência e o Problema da Nula Degenerada
Um desafio estatístico crítico é o caso onde a verdadeira explicabilidade é zero ($\xi = 0$). Neste cenário, o termo principal da expansão de Taylor do erro de estimação desaparece, e a distribuição assintótica padrão (Normal) não é válida (a distribuição torna-se degenerada).

• Solução Proposta: Os autores mostram que, sob a hipótese nula de explicabilidade zero, a condição é equivalente à Hipótese Nula Aguda de Fisher (onde os resultados potenciais não dependem do tratamento $W_S$).
• Procedimento Sequencial:
  1. Teste de Randomização: Realizam um teste de randomização baseado na permutação dos fatores de interesse $W_S$ (mantendo $W_{-S}$ fixo), aproveitando a independência dos tratamentos para gerar a distribuição de referência sem precisar de oráculos.
  2. Decisão: Se o teste não rejeitar a nulidade, o intervalo de confiança é $\{0\}$. Se rejeitar, utiliza-se o intervalo assintótico baseado na distribuição Normal do estimador de correção de um passo.
  3. Validade: Este procedimento garante cobertura válida tanto para nulas degeneradas quanto não degeneradas, sem necessidade de divisão de amostra (sample splitting) ou injeção de ruído.

3. Contribuições Principais

1. Derivação da Função de Influência Eficiente: Derivaram a EIF que explora explicitamente a estrutura de independência dos fatores, resultando em estimadores com variância assintótica reduzida em comparação com métodos que ignoram essa estrutura.
2. Procedimento de Inferência Robusto para Nulas Degeneradas: Desenvolveram um método sequencial que combina testes de randomização (válidos em amostras finitas) com inferência assintótica. Isso resolve o problema de cobertura incorreta quando a importância causal é zero, evitando as perdas de potência associadas a métodos concorrentes.
3. Aplicação a Dados Reais: Demonstraram a eficácia do método em um conjunto de dados de experimento de conjoint analysis sobre imigração, identificando fatores e interações que moldam a opinião pública.

4. Resultados

Simulações:

• Eficiência: Em cenários com funções de incômodo conhecidas, o estimador baseado em $\phi_{EIF}$ (que usa a estrutura de independência) apresentou variância significativamente menor e intervalos de confiança mais estreitos do que o estimador $\phi_{IF}$ (não paramétrico).
• Desempenho com Estimação de Nuisance: Quando as funções de incômodo são estimadas (usando Super Learner ou LASSO adaptativo), o ganho de eficiência do $\phi_{EIF}$ persiste, embora seja atenuado pela variabilidade adicional da estimação. Os autores observam que, em amostras finitas com estimação complexa de nuisance, o estimador $\phi_{IF}$ (mais simples) pode ser mais robusto em termos de cobertura, enquanto o $\phi_{EIF}$ é preferível quando os nuisance são bem estimados.
• Cobertura: O procedimento sequencial manteve a taxa de cobertura nominal (95%) tanto para nulas não degeneradas quanto para nulas degeneradas (zero).

Análise de Dados Reais (Experimento de Imigração):

• Aplicaram o método a dados de 1.396 respondentes avaliando perfis de imigrantes.
• Fatores Significativos: Identificaram que "Plano de Emprego" (Job Plan), "Educação & Profissão" e "Experiência Profissional" têm explicabilidade causal positiva significativa para a decisão de admissão. "Gênero" não mostrou explicabilidade significativa.
• Interações: O teste de randomização identificou uma interação significativa entre "Plano de Emprego" e "Experiência Profissional", sugerindo que a avaliação de um imigrante depende da combinação dessas características, algo que métodos puramente aditivos poderiam perder.

5. Significado e Impacto

Este trabalho preenche uma lacuna importante na interseção entre causalidade, explicabilidade de modelos e estatística semiparamétrica.

• Viabilidade Prática: Ao remover a necessidade de um "oráculo" (modelo de ML perfeito), torna as métricas de explicabilidade causal acessíveis para pesquisadores que trabalham apenas com dados coletados.
• Rigor Estatístico: A abordagem para lidar com nulas degeneradas é uma contribuição teórica e prática significativa, oferecendo um procedimento de inferência válido que não sacrifica a potência estatística.
• Generalização: A metodologia é aplicável a diversos campos, desde testes A/B fatoriais em tecnologia até estudos genéticos e sociais, onde a compreensão de interações e importância causal é crucial.

Em suma, o artigo fornece um quadro teórico e prático robusto para quantificar "quanto" e "como" variáveis explicam resultados em cenários complexos e dependentes de dados, com garantias estatísticas rigorosas.