Slice and Explain: Logic-Based Explanations for Neural Networks through Domain Slicing

Resumo Técnico: Slice and Explain

1. O Problema

As Redes Neurais (RN) são amplamente utilizadas em diversos domínios, mas sua natureza de "caixa preta" (falta de interpretabilidade) impede sua adoção em sistemas críticos onde a confiança e a explicabilidade são essenciais.

• Limitação dos Métodos Atuais: Abordagens heurísticas de IA Explicável (XAI), como LIME e Anchors, não oferecem garantias de correção.
• Desafio da Abordagem Lógica: Métodos baseados em lógica (como o proposto por Ignatiev et al.) fornecem explicações com garantias de correção e irredundância (explicações abdutivas). No entanto, esses métodos codificam a rede neural como um conjunto de restrições lógicas (usando Programação Linear Mista Inteira - MILP) que se tornam computacionalmente proibitivas à medida que o tamanho da rede ou a complexidade dos dados aumentam. A escalabilidade é o principal gargalo.

2. Metodologia Proposta

O artigo propõe uma técnica inovadora chamada Domain Slicing (Fatiamento de Domínio) para melhorar a escalabilidade da geração de explicações baseadas em lógica.

• Conceito Central: Em vez de analisar o domínio de entrada completo de uma vez, o método particiona o domínio de certas características (features) em subdomínios menores.
• Mecanismo de Simplificação:
  • Ao restringir o intervalo de uma característica (ex: dividir $[l, u]$ em $[l, m]$ e $[m, u]$), é possível refinar os limites (bounds) das ativações dos neurônios na rede.
  • Essa restrição permite simplificar as equações do modelo MILP. Especificamente, em algumas sub-regiões, as restrições associadas às funções de ativação ReLU (que introduzem variáveis binárias e contínuas auxiliares) podem ser eliminadas ou tornadas mais rígidas.
  • A eliminação de variáveis binárias e o estreitamento das regiões viáveis reduzem significativamente o espaço de busca para o solver MILP.
• Algoritmo:
  1. O domínio de entrada é fatiado em subdomínios (até 3 características são fatiadas simultaneamente no experimento).
  2. Para cada subdomínio, o modelo da rede neural é simplificado com base nos novos limites das variáveis.
  3. A verificação de consequência lógica (se um subconjunto de features é suficiente para a previsão) é realizada independentemente em cada subdomínio.
  4. Se a implicação lógica falhar em qualquer subdomínio, a feature não pode ser removida da explicação. Se passar em todos, a feature é removida.
• Garantias: O método mantém as garantias de correção (a explicação é matematicamente válida) e minimalidade (nenhuma feature redundante), pois a união das verificações nos subdomínios cobre todo o espaço original.

3. Contribuições Principais

• Aplicação de Slicing em XAI: É a primeira aplicação da técnica de "slicing" (comum em otimização e simplificação de redes) no contexto de explicabilidade baseada em lógica para Redes Neurais.
• Redução de Complexidade: Demonstrou que a partição do domínio pode simplificar as restrições do MILP, reduzindo o número de variáveis binárias necessárias para codificar o comportamento da rede em sub-regiões específicas.
• Análise de Escalabilidade: Identificou que a eficácia do método depende fortemente das características do conjunto de dados e da profundidade da rede, e não apenas do número de features.

4. Resultados Experimentais

Os experimentos foram realizados em cinco conjuntos de dados (UCI e PMB) com Redes Neurais de 2, 3 e 4 camadas ocultas, utilizando o solver IBM-CPLEX.

• Redes Pequenas (2 Camadas): O slicing geralmente aumentou o tempo de explicação. O custo computacional de gerenciar múltiplos subdomínios superou os ganhos de simplificação, pois poucas variáveis binárias foram removidas.
• Redes Médias e Grandes (3 e 4 Camadas):
  • Ganhos Significativos: Em redes mais profundas, o método mostrou reduções no tempo de explicação de até 40,46% (dataset Heart-Statlog com 3 fatias) e 37,20% (dataset Australian com 3 fatias).
  • Correlação com Variáveis Binárias: A melhoria de desempenho correlacionou-se diretamente com a porcentagem de variáveis binárias removidas. Quando o slicing permitiu remover uma quantidade substancial de variáveis binárias (ex: 23% no dataset Australian), a eficiência aumentou drasticamente.
  • Caso de Falha: No dataset Auto (25 features), o slicing aumentou o tempo de execução em todas as configurações, pois não houve remoção de variáveis binárias, indicando que o overhead do método não foi compensado por simplificações estruturais.
• Fator Determinante: A eficácia não depende apenas da profundidade da rede ou da dimensionalidade dos dados, mas sim das características específicas do dataset e de quais features são selecionadas para o fatiamento.

5. Significado e Conclusão

O trabalho demonstra que a Domain Slicing é uma estratégia promissora para tornar a XAI baseada em lógica escalável para redes neurais maiores.

• Viabilidade: Permite gerar explicações corretas e minimalistas em tempos viáveis para redes que seriam intratáveis com a abordagem monolítica tradicional.
• Insight Futuro: Os resultados sugerem que a seleção inteligente das features para fatiamento é crucial. Futuras pesquisas devem focar em estratégias adaptativas para identificar automaticamente quais features, quando fatiadas, maximizam a simplificação do modelo MILP para um determinado dataset.

Em suma, o artigo oferece uma solução prática para o problema de escalabilidade na XAI formal, provando que a decomposição do espaço de entrada pode ser uma alavanca poderosa para a eficiência computacional sem sacrificar a rigorosidade matemática das explicações.