Resumo Técnico: P2CE – Explicações Contrafatuais Pareto-Ótimas e Model-Agnósticas

Definição do Problema

A crescente implantação de aprendizado de máquina em domínios de alto risco (ex: pontuação de crédito, contratação, diagnóstico de saúde) exige transparência e equidade. As explicações contrafatuais (CEs) abordam isso ao sugerir mudanças mínimas nas características de entrada ($x \to x'$) que alterariam a previsão de um modelo de um resultado indesejado para um desejado. No entanto, os métodos existentes enfrentam três desafios críticos:

1. Plausibilidade: Muitos algoritmos geram soluções que são matematicamente próximas da entrada, mas que residem fora da distribuição natural dos dados (outliers), tornando-as irreais para os indivíduos alcançarem.
2. Compromissos de Viabilidade (Trade-offs): Não existe uma métrica única para "viabilidade". Usuários podem preferir mudanças pequenas em muitas características ou mudanças moderadas em poucas características. A otimização de objetivo único falha em capturar essas diversas preferências.
3. Agnosticismo de Modelo e Eficiência: Embora alguns métodos sejam agnósticos ao modelo, eles frequentemente lutam com eficiência computacional ou dependem de suposições (como a monotonicidade do modelo) que não se sustentam para modelos não lineares complexos (ex: Redes Neurais, SVMs).

Metodologia

Os autores propõem o P2CE, um algoritmo projetado para gerar Explicações Contrafatuais Pareto-Ótimas e Plausíveis. A abordagem combina uma estratégia de busca branch-and-bound com duas inovações principais para garantir plausibilidade e eficiência em qualquer modelo de caixa-preta.

1. Estratégia de Busca e Otimização Multiobjetivo

O P2CE busca em uma grade discretizada de possíveis mudanças de características ($A = A^{(1)} \times \dots \times A^{(d)}$) para encontrar um conjunto de ações $a$ tal que $f(x+a) \geq \tau$. Ele otimiza múltiplos objetivos simultaneamente:

• Distância Contínua Média ($c_1$): A magnitude média normalizada das mudanças nas características numéricas.
• Distância Contínua Máxima ($c_2$): A magnitude máxima de mudança em qualquer característica numérica individual.
• Número de Mudanças ($c_3$): A contagem de características alteradas (esparsidade).

O algoritmo retorna um conjunto Pareto-ótimo, garantindo que nenhum outro nível de solução exista que seja melhor ou igual em todos os objetivos.

2. Garantindo a Plausibilidade via Detecção de Outliers

Para evitar a geração de outliers (soluções fora da distribuição de dados), o P2CE integra um detector de outliers baseado em Isolation Forest ($u$).

• Durante a busca, sempre que uma solução candidata $x+a$ é encontrada, $u(x+a)$ é avaliado.
• Se $u(x+a)$ indicar um outlier, a solução é descartada.
• Ganho de Eficiência: O P2CE aproveita a capacidade do Isolation Forest de lidar com valores ausentes. Se uma solução parcial (com algumas características indefinidas) já é classificada como um outlier, o algoritmo poda toda a ramificação da árvore de busca, evitando computações desnecessárias.

3. Poda de Branch-and-Bound Agnóstica ao Modelo

Para manter a eficiência computacional sem assumir a monotonicidade do modelo (o que limita métodos anteriores como o MAPOCAM), o P2CE estima a previsão máxima possível ($f_a$) alcançável a partir de uma ação parcial $a$.

• Estimativa Baseada em SHAP: O algoritmo utiliza a propriedade aditiva dos valores SHAP: $f(x) = E[f(x)] + \sum \phi_i$.
• Ele calcula um limite superior para a previsão assumindo o "melhor cenário" para as características restantes (aquelas que ainda não foram fixadas na busca).
• O limite é formulado como:
  $$\max f(x+\tilde{a}) \leq f(x) - \sum_{i \in O_k} \phi_i(x) + \sum_{i \in O_k} \bar{\phi}_i + R(x, O_k)$$
  Onde $O_k$ representa as $k$ características com a maior atribuição potencial, $\bar{\phi}_i$ é a atribuição máxima possível para a característica $i$, e $R$ é um termo residual.
• Se este limite superior estiver abaixo do limiar de decisão $\tau$, a ramificação é podada. Isso permite que o P2CE funcione eficientemente com modelos não monótonos, como Redes Neurais.

Principais Contribuições

1. Algoritmo P2CE: Um novo algoritmo agnóstico ao modelo que gera explicações contrafatuais Pareto-ótimas enquanto impõe estritamente a plausibilidade da distribuição de dados via detecção de outliers.
2. Exploração da Propriedade SHAP: A introdução de um método para usar valores SHAP para estimar previsões máximas em um contexto de branch-and-bound, removendo a restrição de monotonicidade exigida por métodos de estado da arte anteriores.
3. Avaliação Abrangente: Um estudo empírico extensivo através de três conjuntos de dados (German Credit, Taiwan Credit, Adult) e três classificadores (Regressão Logística, LightGBM, MLP), comparando o P2CE com MAPOCAM, DiCE e NICE.
4. Código Aberto: O lançamento da implementação para facilitar a reprodutibilidade.

Resultados Experimentais

A avaliação focou na qualidade da solução (hipervolume da fronteira de Pareto), plausibilidade (porcentagem de outliers) e eficiência computacional.

• Plausibilidade: O P2CE gerou consistentemente significativamente menos soluções outliers em comparação aos concorrentes. Por exemplo, no conjunto de dados Adult com um MLP, o P2CE produziu apenas 11% de outliers, enquanto o DiCE produziu 87% e o MAPOCAM produziu 58%. Em alguns casos, o DiCE sugeriu cenários impossíveis (ex: 97 horas de trabalho por semana).
• Qualidade da Solução: O P2CE alcançou pontuações de hipervolume comparáveis ao MAPOCAM (o padrão ouro teórico para otimalidade de Pareto) e superou significativamente o DiCE e o NICE. Embora o MAPOCAM ocasionalmente tenha alcançado hipervolumes ligeiramente superiores, isso ocorreu a um custo computacional altíssimo.
• Eficiência: O P2CE demonstrou eficiência computacional superior, particularmente com modelos não lineares complexos.
  • No conjunto de dados Taiwan com um MLP, o MAPOCAM levou em média 118,5 segundos, enquanto o P2CE levou 0,81 segundos.
  • No conjunto de dados Adult com um MLP, o MAPOCAM levou 6,24 segundos, enquanto o P2CE levou 2,34 segundos.
  • O P2CE foi mais lento que o DiCE e o NICE em tempo bruto, mas forneceu a garantia crucial de otimalidade de Pareto e plausibilidade que os métodos mais rápidos careciam.

Significância e Alegações

O artigo posiciona o P2CE como uma solução prática para aplicações do mundo real onde as explicações contrafatuais devem ser tanto acionáveis (viáveis para o usuário) quanto plausíveis (consistentes com dados do mundo real).

Os autores alegam que o P2CE consegue unir a lacuna entre a otimalidade teórica e a utilidade prática. Ao garantir que as soluções sejam "inliers", o algoritmo evita a geração de conselhos enganosos (ex: sugerir que um usuário aumente sua renda em 1000% ou trabalhe horas impossíveis). Além disso, ao utilizar valores SHAP para a poda, o P2CE estende a capacidade de gerar contrafatuais ótimos para qualquer modelo de caixa-preta, superando as limitações de métodos anteriores que eram restritos a tipos de modelos específicos ou monótonos.

O trabalho conclui que o P2CE permite uma tomada de decisão mais rápida e informada em aplicações do mundo real ao fornecer um conjunto diversificado de compromissos (trade-offs) de alta qualidade e plausíveis, sem exigir adaptações específicas do modelo.

Limitações e Trabalhos Futuros

Os autores reconhecem duas limitações primárias:

1. Dependência de SHAP: A eficiência da estratégia de poda depende de aproximações de SHAP. Calcular valores de Shapley exatos é computacionalmente caro (exponencial no número de características), embora aproximações sejam utilizadas. Erros nessas aproximações poderiam teoricamente afetar a poda, embora os resultados empíricos sugiram que o impacto é mínimo em comparação aos ganhos de velocidade.
2. Grade Discretizada: A busca é limitada a uma grade discreta. Embora isso seja prático para a maioria das aplicações (ex: sugerir um aumento de renda de 1.000 dólares vs. 998 dólares é funcionalmente semelhante), uma granularidade extremamente fina aumenta o tempo de busca. Os autores sugerem trabalhos futuros sobre grades adaptativas que ajustem a granularidade com base no impacto da característica, potencialmente guiadas pelos valores SHA P.