cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context

O artigo propõe o método cc-Shapley, uma modificação intervencionista dos valores de Shapley que incorpora conhecimento causal para corrigir atribuições de importância de características enganosas causadas por viés de colisor e supressão, garantindo assim uma análise mais precisa e confiável em modelos de inteligência artificial explicável.

O essencial

Imagine que você é um detetive tentando descobrir quem cometeu um crime (o "alvo" ou target). Você tem várias testemunhas (os "recursos" ou features) e quer saber quem delas é realmente importante para resolver o caso.

A Inteligência Artificial Explicável (XAI) é como um assistente que diz: "Olhe, o recurso X é muito importante!" ou "O recurso Y não tem nada a ver com isso". O método mais famoso para fazer isso é chamado de Shapley. Ele funciona basicamente assim: ele testa o recurso X sozinho, depois com o recurso A, depois com o B, e assim por diante, para ver quanto cada um "ajuda" a prever o crime.

O problema é que, às vezes, esse assistente tradicional (Shapley) se confunde e aponta o dedo para a pessoa errada. Ele pode culpar um inocente ou absolver o culpado.

O Problema: O Efeito "Culpado por Associação"

Vamos usar uma analogia simples do dia a dia, baseada no exemplo do artigo: O Café da Manhã e o Diabetes.

Imagine que você quer prever se uma pessoa tem diabetes (o crime). Você mede o nível de açúcar no sangue dela (G).

• Fato 1: Se a pessoa tem diabetes, o açúcar sobe.
• Fato 2: Se a pessoa comeu muito carboidrato no café da manhã (C), o açúcar também sobe.

Agora, imagine que o médico pediu para o paciente não comer nada antes do exame, mas ele desobedeceu e comeu um bolo enorme.

O método tradicional (Shapley) olha para os dados e diz:

"Olha, quando o nível de açúcar (G) está alto, a chance de diabetes é alta. Mas, se o nível de açúcar está alto E sabemos que a pessoa comeu muito carboidrato (C), a chance de diabetes cai! Portanto, carboidrato parece ser 'bom' ou 'neutro' para o diabetes."

Isso é absurdo! Comer carboidrato não cura diabetes. O que aconteceu?

O método tradicional ficou confuso porque ele olhou para o açúcar (G) como se fosse uma "caixa preta" que já aconteceu. Ele pensou: "Ah, o açúcar está alto. Mas como sabemos que foi por causa do bolo, então o diabetes não precisa ser a causa."

Isso é chamado de Viés do Colisor (ou Collider Bias).

• A Analogia do Colisor: Imagine que o nível de açúcar (G) é um "colisor" (um ponto onde duas setas se encontram). Uma seta vem do Diabetes e outra vem do Bolo.
• Quando você "olha" para o colisor (o nível de açúcar) e tenta entender o que causou o bolo, você cria uma relação falsa entre o Bolo e o Diabetes. É como se, ao ver um carro parado na rua (o colisor), você achasse que o motorista estava com sono (causa A) ou que choveu (causa B). Se você sabe que choveu, você acha que o motorista não estava com sono, mesmo que ele estivesse.

O método tradicional (Shapley) faz essa confusão. Ele diz que o carboidrato é "negativo" para o diabetes, o que é uma ilusão estatística.

A Solução: O "cc-Shapley" (Com Contexto Causal)

Os autores do artigo propõem uma nova ferramenta chamada cc-Shapley. A diferença fundamental é que ela não apenas "olha" para os dados, mas entende a história causal (quem causou quem).

A Metáfora do "Botão Mágico" (Intervenção):

Em vez de apenas observar o que aconteceu (ex: "O paciente comeu bolo e teve açúcar alto"), o cc-Shapley usa um "botão mágico" da causalidade.

1. O Método Antigo (Observacional): Ele olha para o paciente que comeu bolo e pergunta: "Se eu soubesse que ele comeu bolo, o açúcar alto ainda indicaria diabetes?" (Isso gera a confusão).
2. O Novo Método (Intervenção Causal): Ele diz: "Vamos imaginar um universo paralelo onde forçamos o paciente a comer o bolo, independentemente de qualquer outra coisa. Agora, olhando para o açúcar dele, o que isso nos diz sobre o diabetes?"

Ao "forçar" o contexto (o bolo), o método quebra a conexão falsa. Ele percebe que, mesmo comendo o bolo, o açúcar alto ainda é um sinal forte de diabetes se a pessoa não tiver diabetes.

O Resultado na Prática

No exemplo do diabetes:

• Shapley Tradicional: Diz que carboidratos (C) são "ruins" para prever diabetes (porque eles "explicam" o açúcar alto, tirando a culpa do diabetes).
• cc-Shapley: Diz: "Espere! O carboidrato não causa diabetes. Ele só causa o açúcar alto. Se isolarmos o efeito do carboidrato, ele não tem importância nenhuma para prever a doença." E o método corrige o erro, mostrando que o carboidrato é irrelevante para o diagnóstico, e o açúcar alto continua sendo o verdadeiro culpado.

Por que isso importa?

1. Ciência e Descoberta: Se um cientista usar o método antigo, ele pode concluir que "comer carboidrato previne diabetes" e publicar um artigo errado. O cc-Shapley evita esse desastre.
2. Justiça e Modelos: Em IA, se um modelo de empréstimo bancário usa dados de forma confusa, ele pode negar crédito a pessoas inocentes ou aprová-lo para pessoas erradas. Entender a causa real evita discriminação injusta.
3. A Lição: Não basta olhar para os números e ver o que "anda junto". Você precisa entender a história por trás dos números. Quem causou quem?

Resumo em uma frase:
O cc-Shapley é como um detetive que não apenas olha para as pistas, mas entende a história completa do crime, evitando culpar inocentes que apenas estavam no lugar errado na hora errada. Ele usa o conhecimento de "causa e efeito" para limpar a sujeira das estatísticas enganosas.

Resumo técnico

Título: cc-Shapley: Medir a Importância de Recursos Multivariados Requer Contexto Causal

1. O Problema: Viés de Colisor e Supressão em XAI

O artigo identifica uma falha fundamental nas abordagens atuais de Inteligência Artificial Explicável (XAI), especificamente no uso de Valores de Shapley convencionais para atribuição de importância de recursos (features).

• Limitação Observacional: Os métodos tradicionais de XAI operam puramente em dados observacionais. Eles calculam a importância de um recurso $X_j$ condicionando-o a outros recursos observados ($S$).
• O Fenômeno do Viés de Colisor (Collider Bias): O problema central surge quando se condiciona em uma variável que é um "colisor" (um nó com duas setas apontando para ele, ex: $X \rightarrow C \leftarrow Y$). Ao condicionar em um colisor, abre-se um caminho espúrio entre os pais, criando uma associação estatística falsa que não existe causalmente.
• Variáveis Supressoras: Isso leva ao fenômeno conhecido como supressão, onde um recurso irrelevante (ou até mesmo um ruído) é atribuído importância negativa ou positiva incorreta porque "explica" a variância de outro recurso relevante.
• Consequência: Em cenários simples (ex: diabetes e ingestão de carboidratos), o Shapley observacional pode indicar que um fator (como carboidratos) reduz o risco de diabetes, quando na realidade a relação é espúria devido à estrutura causal dos dados. Isso compromete a confiabilidade do XAI para descoberta científica e depuração de modelos.

2. Metodologia: cc-Shapley (Causal Context Shapley)

Os autores propõem o cc-Shapley, uma modificação intervencionista dos Valores de Shapley que incorpora conhecimento da estrutura causal dos dados.

• Definição Formal:
  Em vez de calcular a mudança na previsão ao observar um conjunto de contextos $S$ (condicionamento), o cc-Shapley calcula a mudança ao intervir no contexto.
  A importância de um recurso $X_j$ em um contexto intervencionista $S$ é definida como:
  $$I_{do(S)}(X_j) = E[Y | X_j, do(S)] - E[Y | do(S)]$$
  Onde $do(S)$ representa uma intervenção causal (usando o operador $do$ de Pearl) que quebra as dependências causais de entrada em $S$, evitando que $S$ atue como um colisor.

• Cálculo do Valor cc-Shapley:
  O valor final é a soma ponderada dessas diferenças intervencionais sobre todos os subconjuntos de contextos:
  $$\phi_{cc}(X_j) = \sum_{S \subseteq F \setminus \{X_j\}} \gamma(S) I_{do(S)}(X_j)$$
  Onde $\gamma(S)$ são os pesos combinatórios padrão de Shapley.

• Propriedade de Associação Estatística (SAP):
  O artigo prova teoricamente que, se um recurso $X_j$ é causalmente independente do alvo $Y$ ($X_j \perp Y$), então $\phi_{cc}(X_j) = 0$. Isso garante que recursos irrelevantes não recebam importância devido a viéses de colisor.

• Estimativa Prática (Algoritmo 1):
  Para calcular os termos $E[Y | X_j, do(S)]$, o método utiliza um Modelo Causal Estrutural (SCM):

  1. Isola a distribuição marginal dos contextos $S$.
  2. Realiza uma intervenção estocástica no SCM para gerar dados onde $S$ é independente de suas causas originais.
  3. Treina modelos de aprendizado de máquina (ML) nos dados intervencionados para estimar as expectativas condicionais.

3. Contribuições Principais

1. Identificação do Problema: Demonstra que a atribuição de importância multivariada puramente observacional é inerentemente suscetível a viéses de colisor e supressão, levando a interpretações errôneas mesmo em problemas simples.
2. Proposta do cc-Shapley: Introduz o primeiro método de importância de recursos multivariados projetado especificamente para eliminar o viés de colisor sem restringir a análise a importância univariada.
3. Fundamentação Teórica e Experimental: Fornece provas de que o método satisfaz a propriedade de associação estatística e valida o comportamento do método em cenários sintéticos e reais.
4. Distinção entre Observação e Intervenção: Clarifica que a correção de supressão exige intervenção (escada da causalidade de Pearl), algo que métodos puramente observacionais não podem alcançar.

4. Resultados Experimentais

Os autores testaram o método em três cenários:

• Exemplo Sintético Simples (Diabetes e Café da Manhã):

  • Shapley Convencional: Atribuiu importância negativa à ingestão de carboidratos ($C$), sugerindo erroneamente que comer carboidratos reduz o risco de diabetes (devido ao efeito de "explicar" a glicose alta).
  • cc-Shapley: Corretamente atribuiu importância zero a $C$, alinhando-se com a intuição causal (carboidratos não causam diabetes, apenas afetam a glicose).

• SCMs Lineares Aleatórios:

  • Em 3.000 SCMs lineares, o cc-Shapley manteve a importância dos recursos estável mesmo na presença de colisor, enquanto o Shapley observacional mostrou flutuações drásticas e reversões de sinal (positivo para negativo) dependendo da presença de colisor.

• Caso Não-Linear (Diabetes, IMC e Glicose):

  • O Shapley observacional indicou que um IMC alto estava associado a um menor risco de diabetes (devido a colisor com glicose e açúcar médio).
  • O cc-Shapley corrigiu isso, mostrando a relevância positiva do IMC, consistente com o conhecimento médico.

• Dados do Mundo Real (Proteínas de Sachs et al., 2005):

  • Ao prever a concentração da proteína PKA, o Shapley observacional atribuiu relevância negativa a certas proteínas (PKC, P38) devido a colisor na rede de sinalização.
  • O cc-Shapley recuperou a relevância positiva esperada, alinhando-se melhor com a análise univariada e a biologia subjacente.

5. Significado e Conclusão

O artigo conclui que a Inteligência Artificial Explicável (XAI) não pode ser puramente baseada em dados observacionais se o objetivo for a descoberta científica ou a depuração robusta de modelos.

• Mudança de Paradigma: A atribuição de importância de recursos deve considerar o contexto causal. Ignorar a estrutura causal leva a conclusões espúrias que podem ser catastróficas em áreas como medicina e ciências.
• Viabilidade: Embora o método exija conhecimento da estrutura causal (ou sua descoberta), ele demonstra que é possível corrigir distorções fundamentais nos métodos de XAI atuais.
• Futuro: O trabalho sugere que a integração de conceitos de inferência causal no XAI não é apenas uma melhoria opcional, mas uma necessidade para garantir que as explicações dos modelos reflitam a realidade causal e não apenas correlações estatísticas enganosas.

Em resumo, o cc-Shapley oferece uma solução teórica e prática para o problema de "supressão" em XAI, garantindo que a importância atribuída a uma característica reflita sua verdadeira contribuição causal para a previsão, e não artefatos estatísticos gerados pela estrutura de dependência dos dados.