xai-cola: A Python library for sparsifying counterfactual explanations

1. O Problema

As Explicações Contrafactuais (CEs) são uma abordagem fundamental na explicabilidade pós-hoc (XAI), mostrando como pequenas alterações nas características de entrada podem alterar a previsão de um modelo. No entanto, um problema crítico identificado na literatura é que a maioria dos geradores de CEs produz explicações altamente redundantes. Frequentemente, essas explicações sugerem a modificação de um grande número de características, o que as torna difíceis de serem acionadas na prática ou até mesmo inviáveis devido a restrições de domínio. A necessidade de esparcidade (reduzir o número de características alteradas) sem perder a validade da explicação é o foco central deste trabalho.

2. Metodologia

O artigo apresenta o xai-cola, uma biblioteca de código aberto em Python projetada para criar um pipeline end-to-end que esparce (torna mais esparsas) explicações contrafactuais geradas por qualquer gerador existente.

• Algoritmo Central: A biblioteca implementa e estende o algoritmo COLA (proposto anteriormente por You et al., 2024). O objetivo é remover alterações de características supérfluas mantendo a validade da explicação contrafactual.
• Arquitetura Modular: O sistema é composto por módulos compostos e agnósticos ao modelo, organizados em dois subpacotes principais:
  • ce_generator: Contém geradores embutidos (DiCE e DisCount) e suporta geradores externos.
  • ce_sparsifier: Contém as classes centrais (Model, COLAData, COLA) e a lógica de esparcificação.
• Componentes Principais:
  • Interface de Modelo (Model): Envolve modelos do scikit-learn e PyTorch em uma API unificada, permitindo consultas de previsão, probabilidades de classe e chamadas baseadas em gradiente.
  • Contêiner de Dados (COLAData): Armazena instâncias factuais e contrafactuais, além de metadados (nomes de características, tipos, coluna de rótulo), suportando DataFrames do pandas e arrays NumPy.
  • Pipeline de Esparcificação: O usuário define uma política de esparcificação (escolhendo entre matchers e attributors pré-definidos). O método get_refined_counterfactuals executa a correspondência entre instâncias, calcula atribuições de características (usando valores de Shapley no nível original das características, não expandidas one-hot) e gera as explicações refinadas.
• Suporte a Geradores: A biblioteca aceita geradores externos (que retornam um DataFrame) e inclui dois geradores nativos:
  • DiCE: Um gerador de nível de instância.
  • DisCount: Um gerador de nível de distribuição (adaptado para a interface da biblioteca).

3. Principais Contribuições

• Primeira Biblioteca de Esparcificação de CEs: O xai-cola é apresentado como a primeira biblioteca Python dedicada especificamente a esparcificar explicações contrafactuais.
• Pipeline Unificado e Extensível: Oferece uma interface padronizada que permite integrar a esparcificação em fluxos de trabalho existentes, independentemente do gerador de CEs utilizado.
• Ferramentas de Visualização: Inclui rotinas de visualização para analisar e comparar padrões de esparcidade e validade das explicações refinadas.
• Licença e Acessibilidade: O código é de código aberto (licença MIT), disponível no PyPI e no GitHub, com documentação completa.

4. Resultados Experimentais

Os autores avaliaram o desempenho do xai-cola em dois conjuntos de dados reais (German Credit e COMPAS) utilizando quatro geradores de CEs distintos: Wachter, DiCE, GLOBE-CE e DisCount.

• Redução de Características: Os resultados mostraram que o xai-cola produz consistentemente explicações mais esparsas em todos os geradores testados.
• Eficácia: Em cenários ideais, a biblioteca reduziu o número de características modificadas em até 50%.
• Desempenho por Modelo:
  • Para modelos PyTorch (redes neurais), as reduções foram significativas (ex: DisCount reduziu 45,3% no conjunto COMPAS).
  • Para modelos scikit-learn (regressão logística), também houve melhorias notáveis (ex: DiCE reduziu 24,9% no conjunto German Credit).
• Nota Técnica: Diferente do algoritmo original, a biblioteca calcula as atribuições de Shapley no nível original das características, evitando fragmentação causada por codificações one-hot, o que garante que a importância das características corresponda às variáveis visíveis ao usuário.

5. Significado e Impacto

O trabalho preenche uma lacuna crítica na área de XAI ao fornecer uma ferramenta prática para tornar as explicações contrafactuais acionáveis. Ao reduzir a redundância, o xai-cola aumenta a utilidade das explicações para usuários finais, reguladores e desenvolvedores, facilitando a compreensão de quais mudanças específicas são necessárias para alterar uma decisão de IA. A biblioteca posiciona-se como uma "caixa de ferramentas" essencial para pesquisadores e praticantes que desejam gerar, refinar e analisar explicações contrafactuais de forma eficiente e padronizada.