Resumo Técnico: Explicações Contrafactuais Sob Deriva de Conceito

1. Declaração do Problema

Explicações contrafactuais (ECs) são mecanismos de recurso acionáveis que respondem a "o que precisa mudar para que o resultado seja diferente?". Embora a literatura existente cubra extensivamente a geração de ECs para dados estáticos e classificadores fixos, este artigo identifica uma lacuna crítica: manutenção de ECs sob deriva de conceito.

Em ambientes de dados em evolução (por exemplo, fluxos de dados), os classificadores são frequentemente atualizados online para se adaptar a distribuições de dados em mudança. Os autores argumentam que uma EC válida no momento da geração pode tornar-se silenciosamente inválida à medida que o modelo evolui, mesmo que a explicação original fosse robusta contra mudanças de modelo limitadas e de passo único. Ao contrário de pesquisas anteriores sobre robustez, que visam endurecer uma única explicação contra um evento de retreinamento limitado, este trabalho aborda a degradação contínua de uma população de ECs à medida que um classificador é atualizado repetidamente ao longo do tempo. O desafio central é manter a validade e a plausibilidade local das ECs existentes sem o custo computacional de regenerá-las do zero após cada atualização do modelo.

2. Metodologia

Os autores propõem um esquema de manutenção leve e agnóstico ao modelo que repara ECs existentes usando amostragem local e uma janela deslizante de observações recentes.

2.1 Representação de Estado e Acionamento

O sistema mantém um estado $s = (x_0, x', c', a)$ para cada instância de consulta $x_0$, onde $x'$ é a EC atual, $c'$ é a classe-alvo e $a$ é um sinalizador ativo.

• Aposentadoria: Um estado é aposentado se o classificador atual $f_t$ já prevê a classe-alvo para $x_0$ (ou seja, a deriva resolveu naturalmente a necessidade de recurso).
• Acionador de Atualização: Uma atualização é acionada se a EC atual for inválida ($f_t(x') \neq c'$) ou tiver baixa confiança na classe-alvo ($p_t(c' | x') < \tau_{low}$).

2.2 O Mecanismo de Atualização

O método aplica um vetor de correção à EC atual $x'$, equilibrando três objetivos:

1. Direção de Validade ($v$): Aumenta a probabilidade da classe-alvo. Para modelos não diferenciáveis (por exemplo, árvores de Hoeffding), isso é estimado amostrando perturbações locais ao redor de $x'$, consultando o classificador e ajustando um substituto linear localmente ponderado (semelhante ao LIME) para aproximar o gradiente.
2. Direção de Plausibilidade ($p$): Move a EC em direção a regiões densas da classe-alvo no fluxo de dados recente. Isso é computado usando uma direção de deslocamento de média ponderada por kernel baseada nos $k$-vizinhos mais próximos da classe-alvo dentro de um buffer deslizante $B_t$.
3. Atração de Proximidade ($r$): Um vetor que puxa $x'$ de volta em direção à instância original $x_0$ para minimizar desvios desnecessários.

A direção de atualização $d$ é uma combinação linear normalizada do vetor de correção selecionado ($u \in \{v, p\}$) e da atração de proximidade:
$$d = \frac{\lambda_u \hat{u} + \lambda_r \hat{r}}{\|\lambda_u \hat{u} + \lambda_r \hat{r}\|}$$
onde $\lambda_u$ e $\lambda_r$ controlam a força relativa da correção e da proximidade, respectivamente.

2.3 Variantes de Manutenção

O artigo avalia duas estratégias específicas:

• Validade–Plausibilidade (Nossa-VP): Usa a direção de validade $v$ quando a EC é inválida ou de baixa confiança. Adicionalmente, aplica a direção de plausibilidade $p$ periodicamente (a cada $K$ passos) para manter ECs válidas alinhadas com as distribuições de dados recentes.
• Apenas Plausibilidade (Nossa-P): Não estima a direção de validade. Em vez disso, confia exclusivamente na direção de plausibilidade $p$ para reparar ECs inválidas ou de baixa confiança, testando se mover-se em direção a regiões-alvo densas é suficiente para restaurar a validade sob deriva gradual.

3. Configuração Experimental e Resultados

Os experimentos foram conduzidos em fluxos de deriva sintéticos (Hiperplano Rotativo, Seno, SEA) usando classificadores online (Regressão Logística e Árvores de Hoeffding Adaptativas).

3.1 Principais Descobertas

• Degradação de ECs Estáticas: ECs "congeladas" (incluindo aquelas geradas por métodos robustos como RobX) perdem rapidamente a validade à medida que a deriva de conceito se acumula. Por exemplo, no fluxo Hiperplano Rotativo, a validade caiu para ~0,29–0,35 para ECs congeladas.
• Preservação de Validade: Ambas as variantes de manutenção (Nossa-P e Nossa-VP) preservaram com sucesso a validade quase perfeita (frequentemente 1,0) ao longo do fluxo, superando significativamente as linhas de base congeladas.
• Melhoria na Plausibilidade: As ECs mantidas alcançaram pontuações de plausibilidade local substancialmente mais altas (kNN e KDE) em comparação com linhas de base de regeneração como Vizinho Mais Próximo (NN) e Esferas Crescentes (GS). Isso ocorre porque o esquema de manutenção incorpora explicitamente o buffer de dados recente, enquanto os métodos de regeneração frequentemente otimizam apenas para validade e proximidade.
• Compromisso de Proximidade: As ECs mantidas exibiram maiores distâncias $L_2$ (proximidade) em comparação com os métodos de regeneração. Os autores atribuem isso ao custo de manter a plausibilidade local; as ECs são movidas em direção a regiões-alvo recentes que podem estar ligeiramente mais distantes da instância original do que o ponto válido mais próximo encontrado pela regeneração.
• Eficiência Computacional: Apesar de realizar 200 atualizações de manutenção, os métodos propostos foram competitivos ou mais rápidos do que as linhas de base de regeneração (por exemplo, RobX) que são executadas apenas uma vez no final do fluxo. Nossa-P foi notavelmente mais rápida que Nossa-VP ao evitar a estimativa da direção de validade.

4. Contribuições

O artigo afirma as seguintes contribuições:

1. Definição do Problema: Introduz a manutenção de ECs sob deriva de conceito como uma classe de problema distinta, diferenciando-a de configurações de robustez estática. O objetivo é manter uma população de explicações válida e plausível à medida que o classificador evolui, em vez de endurecer uma única explicação contra uma única mudança.
2. Método Proposto: Um esquema leve e agnóstico ao modelo que repara ECs usando amostragem local para estimar direções de validade e plausibilidade, preservando a proximidade.
3. Evidência Empírica: Demonstração de que ECs padrão e robustas perdem sistematicamente a validade sob deriva contínua, enquanto o esquema proposto preserva a validade e a plausibilidade local a um custo computacional menor do que a regeneração repetida.

5. Significado e Limitações

Os autores posicionam este trabalho como uma prova de conceito inicial. O significado reside na mudança de paradigma da XAI em ambientes de streaming, tratando explicações como artefatos estáticos para vê-las como objetos dinâmicos que exigem manutenção. Isso é particularmente relevante quando o gerador original de ECs é computacionalmente caro, indisponível ou inadequado para reexecução frequente.

O artigo reconhece modestamente suas limitações:

• A avaliação é restrita a fluxos sintéticos de baixa dimensionalidade com deriva gradual controlada.
• Ainda não estabelece desempenho em cenários reais complexos, dados de alta dimensionalidade ou dados de tipos mistos.
• Sugere-se trabalho futuro para explorar fluxos de dados reais, classificadores diferenciáveis e estender a manutenção de ECs individuais para contrafactuais em nível de grupo.

Os autores concluem que manter explicações ao longo do tempo é uma alternativa prática à regeneração repetida, oferecendo um equilíbrio entre validade, plausibilidade e custo computacional em ambientes em evolução.