PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations

Resumo Técnico: PACE – Um Framework Neuro-Simbólico para Explicações Contrafatuais Plausíveis e Acionáveis

Definição do Problema
As explicações contrafatuais (CEs) são uma abordagem proeminente em IA Explicável (XAI) projetada para fornecer recomendações acionáveis ao identificar mudanças mínimas em uma instância de entrada que alterariam a previsão de um modelo de aprendizado de máquina. Embora os métodos existentes gerem efetivamente alternativas que alteram a previsão, eles frequentemente produzem recomendações irreais ou inviáveis. Isso ocorre porque muitas abordagens otimizam primariamente a mudança de previsão e a proximidade com a instância original, carecendo frequentemente de mecanismos explícitos para incorporar conhecimento de domínio ou restrições de intervenção. Consequentemente, as explicações geradas podem violar regras específicas do domínio (por exemplo, sugerir uma mudança impossível em atributos imutáveis como idade ou sexo) ou falhar em representar ações humanas realistas. Há uma necessidade crítica de métodos que garantam que as explicações sejam não apenas válidas (alterando a previsão), mas também plausíveis e viáveis dentro das restrições do domínio da aplicação.

Metodologia
O artigo propõe o PACE (Plausible and Actionable Counterfactual Explanations), um framework neuro-simbólico modular que integra modelos preditivos baseados em dados com raciocínio simbólico para impor a viabilidade. A metodologia é estruturada em torno de três componentes principais:

1. Formulação do Problema:
   A geração de um contrafatual é formalizada como um problema de busca com restrições. Dado um modelo caixa-preta $f$ e uma entrada $x$ com previsão $y$, o objetivo é encontrar um contrafatual $x_{cf}$ tal que $f(x_{cf}) \neq f(x)$. A busca minimiza uma métrica de distância $d$ (definida como o número de características modificadas) sujeito à restrição de que $x_{cf}$ deve estar dentro de um espaço de intervenção viável $\Omega$. Este espaço é estritamente definido por regras específicas do domínio, garantindo que atributos imutáveis permaneçam inalterados e que atributos editáveis sigam dependências lógicas.

2. Arquitetura Neuro-Simbólica:

   • Componente Neural: Um modelo preditivo (por exemplo, um Perceptron Multicamadas) atua como um oráculo para avaliar instâncias candidatas e verificar se a condição de inversão de previsão foi atendida.
   • Componente Simbólico: Uma camada de raciocínio simbólico, implementada usando Programação de Conjuntos de Respostas (ASP), codifica o conhecimento do domínio. Esta camada define o espaço viável $\Omega$ ao particionar as características em conjuntos imutáveis ($X_I$) e editáveis ($X_E$). Ela impõe regras lógicas, como invariantes direcionais (por exemplo, níveis de escolaridade podem apenas mudar para níveis adjacentes) e invariantes relacionais (por exemplo, transições de ocupação específicas).
   • Procedimento de Busca: O framework emprega um loop iterativo de "gerar-e-verificar". O motor simbólico gera intervenções candidatas dentro de um orçamento específico $K$ (limitando o número de mudanças simultâneas de características). Os candidatos são filtrados contra as restrições simbólicas antes de serem avaliados pelo modelo neural. A busca começa com um orçamento mínimo e expande incrementalmente até que um contrafatual válido seja encontrado ou o limite máximo seja atingido.

Estudo de Caso e Configuração Experimental
O framework foi avaliado no dataset Adult Income, um benchmark para classificação tabular. A tarefa envolveu prever se um indivíduo tem renda superior a $50.000.

• Modelo: Um Perceptron Multicamadas (MLP) com 82% de precisão serviu como o modelo preditivo.
• Características: Cinco características foram utilizadas: Idade e Sexo (imutáveis), e Escolaridade, Ocupação e Horas por Semana (editáveis).
• Restrições: A base de conhecimento simbólico impôs regras como:
  • Idade e Sexo não podem ser modificados.
  • Mudanças de Escolaridade são restritas a níveis adjacentes.
  • Mudanças de Ocupação devem seguir um grafo de transição predefinido.
  • Horas de trabalho devem mudar dentro de passos delimitados.
• Baselines: O PACE foi comparado contra Random Search, DiCE, otimização do tipo Wachter, abordagens do tipo VCNet e abordagens do tipo C-CHVAE.

Resultados Principais
Os experimentos, conduzidos em 1.000 instâncias de teste, destacaram um trade-off distinto entre validade (sucesso na alteração da previsão) e plausibilidade (satisfação das restrições de domínio):

• Plausibilidade: O PACE alcançou 100% de plausibilidade, pois todas as explicações geradas aderiram estritamente às restrições simbólicas. Em contraste, métodos sem restrições como Random Search (2,7% de plausibilidade) e DiCE (4,2% de plausibilidade) frequentemente produziram recomendações inviáveis.
• Validade: Métodos sem restrições geralmente alcançaram pontuações de validade mais altas (por exemplo, Random Search em 0,778 e Dice em 0,742) comparado ao PACE (0,240). Isso indica que restringir o espaço de busca para intervenções viáveis reduz o número de instâncias para as quais um contrafatual pode ser encontrado.
• Minimalidade: O PACE gerou explicações relativamente compactas, exigindo uma média de 1,242 modificações de características, o que foi menor que a maioria dos baselines (por exemplo, DiCE em 1,953).
• Eficiência de Busca: O PACE demonstrou alta eficiência, exigindo uma média de 5,271 iterações para inverter uma previsão e um tempo de execução de 0,076 segundos por instância, superando significativamente o baseline do tipo Wachter.
• Análise Adicional: Quando todos os métodos foram restritos ao mesmo espaço viável $\Omega$, suas pontuações de plausibilidade convergiram para 1,0, confirmando que os ganhos de plausibilidade no PACE derivam da especificação explícita de restrições. Além disso, os contrafatuais do PACE mostrar alinhamento maior com o manifold de dados empíricos (distância média para vizinhos mais próximos: 0,354) em comparação com a busca sem restrições (0,944).

Significância e Contribuições
O artigo afirma que o PACE aborda a lacuna entre a geração de contrafatuais de alta validade e a imposição explícita de viabilidade. Suas principais contribuições são:

1. Um Framework Modular: Ele integra aprendizado de máquina com raciocínio simbólico para permitir a geração de contrafatuais com restrições.
2. Formulação Consciente de Viabilidade: Define a geração de contrafatuais como uma busca onde as restrições simbólicas delineiam explicitamente o espaço de intervenção admissível.
3. Implementação: Fornece uma implementação baseada em ASP que impõe restrições específicas do domínio durante o processo de busca.
4. Evidência Empírica: Demonstra, através do estudo de caso Adult Income, que a incorporação de restrições simbólicas produz explicações que satisfazem melhor os requisitos de viabilidade do domínio, embora haja um trade-off na taxa de encontro de contrafatuais válidos para todas as instâncias.

Os autores concluem que, embora exista um trade-off entre validade e plausibilidade, métodos neuro-simbólicos como o PACE oferecem uma direção promissora para gerar explicações transparentes e conscientes de viabilidade em sistemas de suporte à decisão de alto risco. O artigo reconhece limitações, observando a dependência de um único dataset e de restrições especificadas manualmente, e sugere que trabalhos futuros explorem a aquisição automatizada de restrições e formas mais ricas de conhecimento de domínio.