Wasserstein Distances Made Explainable: Insights Into Dataset Shifts and Transport Phenomena

Este trabalho propõe uma solução baseada em IA explicável para atribuir com precisão e eficiência as distâncias de Wasserstein a componentes específicos dos dados, como subgrupos, características ou subespaços interpretáveis, facilitando a compreensão dos fatores que contribuem para essas métricas em cenários de deslocamento de dados e fenômenos de transporte.

O essencial

Imagine que você é um detetive tentando entender por que dois grupos de pessoas são diferentes.

Vamos usar uma analogia simples: imagine que você tem dois grandes baldes de água. Um balde representa o "Passado" (seus dados antigos) e o outro representa o "Presente" (seus dados novos). Você quer saber: o que mudou exatamente entre esses dois baldes?

A ciência usa uma ferramenta matemática chamada Distância de Wasserstein para medir "o quanto" de água precisa ser movida de um balde para o outro para que eles fiquem iguais. É como calcular o esforço total para rearranjar a água.

O Problema:
Antes deste artigo, os cientistas conseguiam calcular o "esforço total" (a distância), mas tinham dificuldade em responder: "Quais gotas específicas de água foram as mais difíceis de mover? Foi a temperatura? Foi a cor? Foi a quantidade de sal?" Eles sabiam que havia um problema, mas não sabiam exatamente onde estava o "gargalo".

A Solução (WaX):
Os autores criaram uma nova ferramenta chamada WaX (Wasserstein Distances Made Explainable). Pense no WaX como uma lupa mágica de inteligência artificial que não apenas mede a distância, mas aponta exatamente por que essa distância existe.

Aqui está como funciona, passo a passo, com analogias do dia a dia:

1. O Mapa de Transporte (O "Plano de Mudança")

Para mover a água de um balde para o outro, você precisa de um plano. A matemática cria um "mapa de transporte" que diz: "Mova a gota A daqui para ali, a gota B daqui para acolá".

• O problema antigo: Olhar apenas para esse mapa era como olhar para um mapa de trânsito de uma cidade inteira. Você vê as setas, mas não sabe por que o trânsito está parado. É um acidente? É um semáforo? É uma obra?
• O que o WaX faz: O WaX olha para o mapa e diz: "Ah, o trânsito está parado porque há um gargalo no centro da cidade (um ponto específico) e porque as estradas de terra (certas características dos dados) são muito ruins". Ele atribui a "culpa" da dificuldade de transporte a partes específicas.

2. A "Neuralização" (Transformando em uma Rede de Tubos)

Para fazer essa análise, os autores transformaram a matemática complexa da distância em algo que parece uma rede de tubos de encanamento (uma rede neural).

• Imagine que a distância entre os dois baldes é a pressão da água passando por esses tubos.
• O WaX usa uma técnica chamada "propagação reversa". É como se você abrisse a torneira no final (onde a pressão é alta) e seguisse a água para trás, tubo por tubo, até descobrir qual válvula ou qual trecho de cano estava causando o maior atrito.
• Isso permite que eles digam: "A pressão alta não é por causa de tudo, é 80% por causa deste tubo específico (uma característica dos dados) e 20% por causa daquele outro".

3. Para que serve isso na vida real? (Os Casos de Uso)

O artigo mostra três situações onde essa "lupa mágica" é incrível:

• Caso 1: Limpando a Bagunça (Domínio Adaptativo)
  Imagine que você treinou um robô para reconhecer carros usando fotos tiradas em Nova York (ruas largas, prédios altos). Agora você quer usar o mesmo robô em Tóquio (ruas estreitas, muita gente). O robô vai falhar porque aprendeu coisas específicas de Nova York (como o tamanho das ruas) que não servem em Tóquio.

  • O WaX entra: Ele aponta: "Ei, o robô está focando demais no tamanho das ruas (que é diferente em NY) e ignorando o formato do carro (que é igual em ambos)".
  • Resultado: Você pode "podar" (remover) essas características específicas de Nova York e deixar o robô focar apenas no que é universal. O robô fica mais inteligente e robusto.

• Caso 2: Entendendo o Envelhecimento (O Caracol)
  Eles usaram dados de caracóis (abalone) para simular o envelhecimento. Eles tinham caracóis de 6 anos e caracóis de 7 anos.

  • O WaX entra: Em vez de apenas dizer "eles envelheceram", o WaX descobriu que o envelhecimento não é igual para todos.
  • A descoberta: Para caracóis pequenos, o peso aumenta de um jeito. Para caracóis grandes, o peso aumenta de outro jeito, e a altura muda de forma diferente. O WaX separou esses "sub-grupos" e explicou que o envelhecimento é um processo multifacetado, não uma linha reta.

• Caso 3: Diferenças entre Bancos de Dados (Rostos)
  Eles compararam dois bancos de dados de fotos de rostos famosos (CelebA e LFW).

  • O WaX entra: Ele descobriu diferenças sutis que humanos poderiam perder. Por exemplo, um banco de dados tinha muito mais fotos de "mulheres jovens celebridades" e o outro tinha mais "políticos homens mais velhos".
  • A descoberta: O WaX também viu que um banco de dados tinha muitas fotos de "pessoas usando óculos" ou "casais", enquanto o outro não. Isso ajuda a saber se um banco de dados é "justo" ou se tem viés (preconceito) antes de treinar uma Inteligência Artificial com ele.

Resumo Final

Pense no WaX como um tradutor de matemática.
A matemática diz: "Há uma grande diferença entre esses dois grupos".
O WaX diz: "E essa diferença acontece principalmente porque o grupo A tem muitos X e o grupo B tem muitos Y, e isso é crítico para o seu modelo de IA".

Isso torna a Inteligência Artificial menos uma "caixa preta" (onde você não sabe o que acontece dentro) e mais uma "caixa de vidro", onde você pode ver exatamente quais peças estão causando os problemas ou as mudanças. É uma ferramenta poderosa para garantir que nossos dados sejam justos, precisos e compreensíveis.

Resumo técnico

1. O Problema

As Distâncias de Wasserstein (ou Distâncias de Transporte Ótimo - OT) são ferramentas fundamentais para comparar distribuições de dados, sendo amplamente utilizadas para analisar deslocamentos de conjuntos de dados (dataset shifts), fenômenos de transporte ao longo do tempo e inhomogeneidades em dados. A distância é definida como o custo mínimo de transporte para transformar uma distribuição fonte em uma distribuição alvo.

No entanto, existe uma lacuna crítica na interpretação desses modelos:

• Calcular apenas o valor da distância ou analisar o plano de transporte (acoplamento $\gamma^*$) resultante não é suficiente para entender quais fatores específicos (subgrupos de dados, características de entrada ou subespaços) contribuem para uma distância alta ou baixa.
• O plano de transporte muitas vezes não identifica claramente quais características de entrada são as verdadeiras responsáveis pelo deslocamento, especialmente em cenários complexos ou não lineares.
• Não existiam estudos sistemáticos sobre como explicar a distância entre distribuições inteiras (e não apenas instâncias individuais) usando técnicas de IA Explicável (XAI).

2. Metodologia Proposta: WaX

Os autores propõem o WaX (Wasserstein distances made explainable), um novo framework baseado em IA Explicável (XAI) que atribui a distância de Wasserstein a componentes específicos dos dados.

A. Abordagem Neuralização-Propagação

O método segue uma estratégia de "neuralização-propagação", adaptando técnicas de Propagação de Relevância por Camadas (LRP):

1. Neuralização: O cálculo da distância de Wasserstein $W_p$ é reescrito como uma rede neural funcionalmente equivalente de duas camadas, fixando o acoplamento ótimo $\gamma^*$ (calculado previamente):
   • Camada 1: Calcula as diferenças entre pares de instâncias ($z_{kl} = \|x_k - y_l\|_q$).
   • Camada 2: Aplica uma norma ponderada pelo acoplamento ótimo sobre essas distâncias ($W_p = (\sum \gamma^*_{kl} z_{kl}^p)^{1/p}$).
2. Propagação (Backward Pass): A distância calculada é propagada de volta através da rede para atribuir relevância:
   • Primeiro, para pares de instâncias ($R_{kl}$).
   • Depois, para as dimensões de entrada (características) ($R_i$).

B. Regras de LRP e Hiperparâmetros

O método define regras específicas para distribuir a relevância, controladas por dois hiperparâmetros, $\alpha$ e $\beta$:

• $\alpha$ controla a dispersão da relevância sobre as amostras.
• $\beta$ controla a dispersão sobre as características.
• Os autores propõem uma heurística eficaz: $\alpha = p$ e $\beta = \min(p + 2, q)$. Isso permite que o método se adapte a diferentes graus de não-linearidade e sensibilidade a outliers (controlados por $p$ e $q$).

C. Extensão: U-WaX (Explicações Baseadas em Subespaços)

Para fenômenos mais complexos, os autores introduzem o U-WaX, que atribui a distância a subespaços (conceitos abstratos) em vez de apenas características individuais.

• Utiliza uma matriz ortogonal $U$ para decompor o espaço de entrada em subespaços.
• Otimiza esses subespaços para maximizar estatísticas de "cauda" (tailness), permitindo a descoberta de sub-deslocamentos distintos (ex: diferentes grupos de dados evoluindo de formas diferentes).

3. Contribuições Principais

1. Primeira Explicação Sistemática de Distâncias de Distribuição: Preenche uma lacuna na literatura de XAI ao focar na atribuição de distâncias entre distribuições inteiras, não apenas em previsões de modelos ou instâncias únicas.
2. Propriedades Teóricas: O método satisfaz propriedades axiomáticas importantes, como conservação (a soma das relevâncias é igual à distância total) e conexão com gradientes para casos específicos.
3. Eficiência Computacional: Ao contrário de métodos de "occlusão" (que exigem re-cálculo da OT para cada característica removida), o WaX requer apenas uma avaliação da função de predição e uma passagem de retropropagação, tornando-o escalável para grandes conjuntos de dados.
4. Flexibilidade: Funciona com diversas especificações de Wasserstein (incluindo versões regularizadas por Sinkhorn) e métricas de Minkowski.

4. Resultados e Avaliação

Os autores avaliaram o WaX em diversos cenários:

• Fidelidade da Explicação (SRG): Utilizando a métrica Symmetric Relevance Gain (SRG), o WaX superou consistentemente as linhas de base (baselines) como MeanShift, Occlusion e análise direta do Coupling. O WaX demonstrou maior sensibilidade às especificações do modelo (valores de $p$ e $q$), identificando corretamente características relevantes mesmo em modelos altamente não lineares.
• Caracterização de Fenômenos de Transporte: Em dados de séries temporais (qualidade do ar, eletricidade) e histopatologia, o WaX reconstruiu com alta precisão as "verdades fundamentais" (ground-truth) dos deslocamentos, superando métodos baseados em classificadores ou apenas em médias.
• Casos de Uso Práticos:
  1. Alinhamento de Domínios: O WaX identificou e permitiu a poda de características específicas de domínio (artefatos) em dados de visão computacional, melhorando a robustez de classificadores sem necessidade de re-treinamento complexo.
  2. Fenômeno de Envelhecimento (Abalone): O U-WaX conseguiu desvendar um processo de envelhecimento heterogêneo, separando subgrupos de abalones que envelhecem de formas distintas (ex: crescimento de peso vs. tamanho), algo que métodos de agrupamento (clustering) tradicionais não conseguiam fazer com a mesma clareza nas características.
  3. Diferenças entre Conjuntos de Dados (CelebA vs. LFW): O método identificou nuances semânticas entre dois grandes conjuntos de dados faciais, revelando viés de representação (ex: sub-representação de mulheres jovens no LFW) e diferenças contextuais (ex: uso de óculos, presença de casais), utilizando o espaço latente do modelo CLIP.

5. Significado e Conclusão

O trabalho WaX representa um avanço significativo na interseção entre Transporte Ótimo e IA Explicável.

• Utilidade Prática: Permite que pesquisadores e engenheiros não apenas saibam que duas distribuições são diferentes, mas por que e onde essa diferença ocorre.
• Interpretabilidade de Modelos: Oferece uma ferramenta interativa para validar modelos de transporte, escolher hiperparâmetros e desenvolver modelos baseados em Wasserstein mais informados.
• Impacto: É crucial para aplicações sensíveis como medicina (identificação de viés de hospital/batch), ciência de dados (consolidação de conjuntos de dados) e compreensão de fenômenos físicos ou biológicos complexos onde apenas dados distribucionais estão disponíveis.

Em suma, o WaX transforma a distância de Wasserstein de uma "caixa preta" métrica em uma ferramenta analítica transparente e acionável.