Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders

O artigo propõe o LAPACE, uma nova estrutura generativa baseada em um VAE de Mistura Gaussiana Condicional por Rótulo (L-GMVAE) que sintetiza caminhos de explicações contrafactuais robustas, plausíveis e diversificadas, permitindo aos usuários navegar no trade-off entre proximidade e viabilidade enquanto incorporam restrições de acionabilidade.

O essencial

Imagine que você pediu um empréstimo ao banco, mas o computador do banco disse "não". Você fica frustrado e pergunta: "O que eu precisaria mudar na minha vida para conseguir esse empréstimo?".

Aqui entra a Explicação Contrafactual. É como um "mapa do tesouro" que diz: "Se você aumentasse sua renda em R$ 500 ou pagasse uma dívida antiga, o computador mudaria de ideia e diria 'sim'".

O problema é que os mapas antigos tinham defeitos:

1. Eram frágeis: Se o banco trocasse o software de análise (o modelo), o mapa ficava inútil.
2. Eram irreais: Às vezes, o mapa sugeria coisas impossíveis, como "venda sua casa e compre uma ilha", o que não existe no mundo real.
3. Eram rígidos: Davam apenas uma única opção, sem alternativas.

Os autores deste artigo criaram uma nova ferramenta chamada LAPACE (que usa um motor interno chamado L-GMVAE) para resolver isso. Vamos entender como funciona com uma analogia simples.

A Analogia da "Ilha dos Protótipos"

Imagine que o mundo das decisões do banco é um grande oceano.

• Sua situação atual é um barco perdido em uma parte do oceano onde o computador diz "Não".
• O objetivo é chegar a uma "Ilha da Aprovação" (onde o computador diz "Sim").

Os métodos antigos tentavam desenhar uma linha reta do seu barco até a ilha. Mas, como o oceano é cheio de recifes e tempestades (dados complexos), essa linha reta muitas vezes batia em pedras (sugestões irreais) ou desaparecia se o mapa mudasse um pouco.

A solução do LAPACE funciona assim:

1. O Motor Inteligente (L-GMVAE):
   Em vez de olhar para cada pessoa individualmente, o sistema aprende a "geografia" do oceano. Ele descobre que, na "Ilha da Aprovação", existem vários pontos de referência fixos e seguros (chamados de centróides).

   • Pense neles como faróis ou ilhas principais. Eles representam o "melhor exemplo" de quem consegue o empréstimo. Um farol pode ser para quem tem alta renda, outro para quem tem pouca dívida, outro para quem tem bom histórico.
   • O sistema garante que esses faróis são reais e seguros (estão dentro do oceano, não no meio do nada).

2. O Caminho Mágico (LAPACE):
   Quando você pede uma explicação, o sistema não te joga direto para a ilha. Ele traça vários caminhos (rotas) do seu barco até cada um desses faróis.

   • Você vê uma "trilha" suave de imagens ou dados que mostram sua evolução: "Primeiro pague essa conta, depois aumente esse valor...".
   • Como todos os caminhos levam aos mesmos faróis fixos, se o software do banco mudar, os faróis continuam lá. O mapa continua válido! Isso é a robustez.

3. Escolha e Realismo:
   O legal é que você pode escolher qual caminho seguir.

   • Quer mudar o mínimo possível? Pegue o caminho mais curto (mas talvez seja um pouco mais arriscado).
   • Quer a opção mais segura e realista? Pegue o caminho que leva ao farol mais central (pode exigir mais mudança, mas é garantido).
   • Além disso, você pode dizer: "Eu não posso vender minha casa". O sistema ajusta o caminho para desviar dessa restrição, sem quebrar a lógica.

Por que isso é revolucionário?

• Não é um "achismo": Os faróis são aprendidos matematicamente a partir de dados reais, então as sugestões são sempre possíveis de acontecer.
• Não expõe seus dados: O sistema cria esses caminhos usando dados sintéticos (imaginações matemáticas), então ele não precisa revelar dados reais de outras pessoas para te dar a resposta.
• É rápido: Depois que o sistema "aprende a geografia" (o treinamento), ele gera o mapa para você em frações de segundo.

Resumo em uma frase

O LAPACE é como um GPS inteligente que, em vez de te dar apenas uma rota frágil, desenha várias rotas seguras e realistas até o sucesso, garantindo que, não importa como o tráfego mude, você sempre saberá como chegar lá.

Resumo técnico

Título: Sintetizando Explicações Contrafactuais via Autoencoders Variacionais de Mistura Gaussiana Condicionada a Rótulos (L-GMVAE)

1. O Problema

As Explicações Contrafactuais (CEs) são fundamentais na IA explicável (XAI), oferecendo recomendações de recurso (recourse) sobre quais mudanças mínimas em uma entrada levariam a um resultado desejado (ex: aprovação de um empréstimo). No entanto, gerar CEs de alta qualidade enfrenta desafios multifacetados que os métodos existentes não conseguem resolver de forma unificada e agnóstica ao modelo:

• Robustez: As CEs devem ser estáveis frente a perturbações nos dados de entrada (pequenas variações não devem gerar explicações drasticamente diferentes) e robustas a mudanças no modelo (ex: re-treinamento do classificador).
• Plausibilidade: As explicações devem residir na variedade de dados (manifold de dados), evitando exemplos irrealistas.
• Diversidade: É necessário fornecer múltiplas opções distintas de recurso para um único input.
• Restrições de Ação: A capacidade de incorporar restrições específicas do usuário (ex: "a idade não pode mudar").

Métodos atuais frequentemente tratam essas propriedades isoladamente, utilizando otimização complexa ou heurísticas que não garantem estabilidade ou validade simultânea.

2. Metodologia Proposta

Os autores propõem um novo framework generativo composto por dois pilares principais: o modelo L-GMVAE e o algoritmo LAPACE.

A. L-GMVAE (Label-conditional Gaussian Mixture VAE)
É um modelo generativo adaptado para aprender um espaço latente estruturado onde cada classe de rótulo é representada por um conjunto de componentes gaussianos (clusters).

• Condicionamento por Rótulo: Diferente de VAEs padrão, o L-GMVAE mapeia explicitamente cada rótulo de classe para um conjunto dedicado de clusters gaussianos no espaço latente.
• Centroides como Protótipos: Após o treinamento, a média de cada componente gaussiano atua como um "centroide latente". Ao serem decodificados, esses centroides tornam-se protótipos sintéticos, plausíveis e diversificados para cada classe.
• Objetivo: Garantir que os pontos gerados sejam válidos (pertencem à classe desejada) e estejam bem dentro do manifold de dados, promovendo robustez a mudanças no modelo.

B. LAPACE (LAtent PAth Counterfactual Explanations)
É um algoritmo agnóstico ao modelo que utiliza o espaço latente do L-GMVAE para gerar CEs.

• Geração de Caminhos: Para uma entrada $x$ e um alvo $y'$, o algoritmo codifica $x$ no espaço latente e realiza interpolações lineares até os centroides latentes da classe alvo.
• Trajetórias Suaves: Essas trajetórias no espaço latente são decodificadas para o espaço de entrada, criando caminhos contínuos de pontos contrafactuais.
• Vantagens:
  • Robustez a Perturbações de Entrada: Como todos os caminhos para uma classe alvo convergem para os mesmos centroides fixos, pequenas variações na entrada resultam em trajetórias que terminam no mesmo ponto robusto.
  • Espectro de Opções: O usuário pode escolher entre pontos próximos à entrada original (alta proximidade) ou pontos mais próximos dos centroides (alta plausibilidade e robustez).
  • Restrições de Ação: O algoritmo permite a incorporação de restrições via otimização de gradiente leve através do decodificador, ajustando os pontos do caminho para satisfazer condições específicas (ex: limites de valores de features).

3. Contribuições Principais

1. Novo Modelo Generativo (L-GMVAE): Um modelo treinado para aprender um espaço latente estruturado por rótulos, onde os centroides aprendidos servem como alvos ideais para recurso.
2. Algoritmo LAPACE: Um método simples e eficiente que gera caminhos de CEs, garantindo robustez perfeita a perturbações de entrada e robustez a mudanças de modelo, sem necessidade de otimização complexa no espaço latente.
3. Integração de Restrições: Demonstração de como restrições de ação do usuário podem ser facilmente incorporadas durante a geração dos caminhos.
4. Avaliação Abrangente: Validação experimental em oito métricas quantitativas, demonstrando desempenho competitivo em relação ao estado da arte.

4. Resultados Experimentais

Os experimentos foram conduzidos em conjuntos de dados tabulares (Heloc, Wine, Adult, Compas) com classificadores de Floresta Aleatória e Redes Neurais.

• Validade e Plausibilidade: O LAPACE (especialmente o ponto final do caminho, "LAPACE-Last") alcançou a melhor plausibilidade em todos os conjuntos de dados, superando métodos como DiCE e DRCE. A validade das CEs foi de 100% nos centroides decodificados.
• Robustez:
  • Mudanças no Modelo: O LAPACE-Last atingiu 100% de robustez a mudanças no modelo (re-treinamento), pois os centroides são protótipos centrais da classe.
  • Mudanças na Entrada: Garante robustez perfeita a perturbações de entrada, pois todos os caminhos convergem para os mesmos centroides fixos.
• Diversidade: O método gerou CEs diversas, superando métodos baseados em vizinhos mais próximos em dados mistos.
• Eficiência: O LAPACE é computacionalmente eficiente (segundo apenas ao NNCE), pois a geração de CEs requer apenas passagens forward após o treinamento do modelo, evitando otimização iterativa pesada.
• Restrições de Ação: Em testes com restrições de features, o LAPACE (versão constrangida) manteve 100% de sucesso em encontrar CEs válidas que satisfaziam as restrições, superando variantes do método FACE.

5. Significado e Conclusão

Este trabalho preenche uma lacuna crítica na geração de Explicações Contrafactuais ao oferecer uma solução unificada que equilibra validade, proximidade, plausibilidade, diversidade e robustez.

• Impacto Prático: Ao garantir que as recomendações de recurso sejam estáveis frente a pequenas mudanças nos dados ou no modelo, o LAPACE aumenta a confiança do usuário e a viabilidade do recurso em cenários do mundo real.
• Privacidade: Ao gerar CEs sintéticas baseadas em centroides aprendidos, o método evita expor pontos reais do conjunto de dados de treinamento, mitigando riscos de privacidade.
• Futuro: O framework abre caminho para explicações contrafactuais baseadas em regiões (em vez de pontos únicos) e a integração de requisitos causais mais complexos no processo de treinamento.

Em resumo, o LAPACE representa um avanço significativo ao transformar a geração de CEs de um processo de busca heurística para uma abordagem estruturada e geometricamente fundamentada no espaço latente.