A Step Towards Inherently Interpretable Causal Machine Learning Models For Decision Support

Resumo Técnico: Um Passo em Direção a Modelos de Aprendizado de Máquina Causal Inerentemente Interpretáveis para Suporte à Decisão

Definição do Problema
A crescente dependência do aprendizado de máquina (ML) para a tomada de decisões organizacionais destacou uma lacuna crítica: embora os modelos sejam eficazes na predição, eles frequentemente carecem de transparência e compreensão causal. As abordagens atuais dividem-se em duas categorias: métodos de explicabilidade post-hoc aplicados a modelos complexos de "caixa-preta" e modelos de aprendizado de máquina inerentemente interpretáveis (IIML). No entanto, ambos os paradigmas revelam primordialmente como os modelos exploram correlações para maximizar o desempenho preditivo, o que não equivale a um insight causal. Consequentemente, os modelos de ML padrão têm dificuldade com avaliações de cenários "e se" (intervenções), pois não conseguem distinguir entre correlações espúrias e relações causais genuínas. Essa limitação prejudica sua utilidade para tarefas de suporte à decisão que exigem a compreensão dos efeitos de mudanças deliberadas em um sistema.

Metodologia
Para abordar essas limitações, os autores propõem um framework que integra Modelos Causais Estruturais (SCMs) com modelos de Aprendizado de Máquina Inerentemente Interpretáveis (IIML) para dados transversais. O framework é organizado em quatro componentes:

1. Dados de Entrada e Grafo Causal: O processo começa com um conjunto de dados e um grafo causal que representa as relações causais entre as variáveis. Este grafo pode ser derivado da expertise do domínio, algoritos de descoberta causal ou uma combinação de ambos. O grafo serve como a espinha dorsal para o raciocínio causal, codificando explicitamente as suposições sobre o processo gerador de dados.
2. Abordagem de Modelagem: Diferente do ML padrão, que tipicamente utiliza todas as variáveis disponíveis para prever um alvo, a abordagem proposta modela cada variável no grafo causal como uma função de seus pais diretos (e um termo de ruído exógeno). Isso é implementado usando técnicas de IIML, especificamente Modelos Aditivos Generalizados (GAMs) e Regressão Simbólica (SR), juntamente com modelos tradicionais de caixa-preta (XGBoost, Random Forest, MLP) para comparação.
3. Execução da Tarefa:
   • Predição: Para tarefas de predição pura, o modelo realiza a seleção de características causais, prevendo o alvo baseando-se apenas nos valores observados de seus pais causais para evitar a acumulação de erros.
   • Análise "E se" (What-if): Para cenários de intervenção (ex: $do(A=x)$), o framework propaga a intervenção através do grafo causal. O efeito de alterar uma variável é calculado bloqueando os caminhos de entrada para essa variável e atualizando as predições de seus filhos, respeitando assim a estrutura causal do sistema.
4. Interpretação: O framework distingue quatro níveis de interpretabilidade: (1) associação post-hoc (ex: SHAP em modelos de caixa-preta), (2) associação inerente (análise direta de IIML sem estrutura causal), (3) causal post-hoc, e (4) interpretação causal inerente. O nível mais alto fornece transparência em relação à estrutura do sistema, relações causais e às formas funcionais que conectam as variáveis.

Principais Contribuições

• Framework de Integração: O artigo propõe um novo framework combinando SCMs com IIML (GAMs e SR) para apoiar a tomada de decisão que exige tanto predição quanto análise causal.
• Questões de Pesquisa: Aborda como a inferência causal pode ser combinada com IIML (RQ1) e como esses modelos performam em predição versus análise "e se" (RQ2).
• Avaliação Empírica: O estudo avalia a abordagem proposta contra modelos de caixa-preta não causais usando dois experimentos:
  1. Um conjunto de dados sintético de produção com um processo gerador de dados conhecido para demonstrar os níveis de interpretabilidade e o impacto de correlações espúrias.
  2. Uma avaliação de benchmark utilizando quatro conjuntos de dados de Geffner et al. (2022) para avaliar o desempenho através de diferentes estruturas causais.

Resultos

• Desempenho de Predição: Em ambos os experimentos, os modelos causais de IIML alcançaram um desempenho preditivo competitivo em conjuntos de teste padrão, muitas vezes igualando ou superando ligeiramente os equivalentes de caixa-preta. Os resultados sugerem que, para dados tabulares, alta acurácia não exige o sacrifício da interpretabilidade.
• Análise "E se": Os modelos causais superaram significativamente os modelos de ML não causais em cenários de intervenção. No experimento sintético, os modelos não causais falharam em lidar corretamente com a intervenção porque se basearam em correlações espúrias (ex: atribuindo importância ao "pessoal", que estava correlacionado com o alvo, mas não era causalmente vinculado). Em contraste, os modelos causais propagaram corretamente a intervenção através do grafo, gerando resultados robustos.
• Interpretabilidade: A abordagem de IIML causal proporcionou transparência superior.
  • Regressão Simbólica: Recuperou com sucesso expressões matemáticas que se aproximam da verdadeira função geradora de dados quando restrita aos pais causais.
  • GAMs: Produziram gráficos de dependência parcial mais simples e precisos que refletiam as verdadeiras relações funcionais, evitando as formas complexas e enganosas encontradas em modelos não causais que tentavam ajustar correlações espúrias.

Significância e Alegações
O artigo alega que integrar a estrutura causal com modelos inerentemente interpretáveis oferece um caminho para "decisões informadas, transparentes e causalmente fundamentadas". Os autores argumentam que esta abordagem:

• Permite a Análise "E se": Permite que os modelos avancem além do primeiro degrau da "Escada da Causalidade" (associação) para o segundo degrau (intervenção), o que é essencial para a tomada de decisões de negócios.
• Aumenta a Transparência: Ao modelar explicitamente as relações causais e as formas funcionais, a abordagem evita a natureza de "caixa-preta" de modelos complexos e o potencial de natureza enganosa das explicações post-hoc baseadas em dados correlacionais.
• Une Campos: Contribui para o Aprendizado de Máquina Causal (CML) ao incorporar IIML para esclarecer formas funcionais, e para a pesquisa de Interpretabilidade ao integrar conhecimento causal na seleção de variáveis e estrutura do modelo.

Limitações e Direções Futuras
Os autores notam modestamente algumas limitações:

• O estudo depende de grafos causais de verdade fundamental (ground-truth); não testa empiricamente a robustez do framework quando os grafos são mal especificados ou inferidos incorretamente.
• A avaliação foca nos dois primeiros degraus da Escada da Causalidade (ver e fazer), não no raciocínio contrafactual (o terceiro degrau).
• A interpretabilidade foi demonstrada conceitualmente; nenhum estudo qualitativo com usuários foi realizado para avaliar como os stakeholders realmente percebem ou confiam nesses modelos.
• O framework é atualmente limitado a dados transversais, deixando aplicações de séries temporais para pesquisas futuras.
• Treinar múltiplos modelos (um por nó) pode ser computacionalmente caro, particularmente para Regressão Simbólica (SR).