Axiomatic On-Manifold Shapley via Optimal Generative Flows

Este artigo propõe uma teoria formal de atribuições Aumann-Shapley em variedades baseada em fluxos generativos ótimos, que resolve artefatos fora da variedade ao definir um caminho de atribuição canônico como a geodésica de Wasserstein-2 que minimiza a energia cinética, garantindo invariância de reparametrização e superior alinhamento semântico em comparação com métodos existentes.

O essencial

Imagine que você tem um modelo de Inteligência Artificial (IA) que é um "gênio" em prever coisas, como identificar se uma foto é de um gato ou de um cachorro. Mas esse gênio é um pouco misterioso: ele não explica por que chegou a essa conclusão.

A área chamada XAI (Inteligência Artificial Explicável) tenta abrir a caixa preta e dizer: "Ok, a IA disse que é um gato. Foi por causa das orelhas pontudas? Ou por causa do bigode?".

O problema é que os métodos atuais para fazer essa explicação são como tentar navegar em um oceano usando um mapa desenhado à mão, cheio de erros. Eles muitas vezes inventam cenários que não existem na realidade (como um gato com a metade do corpo borrada de forma estranha), o que confunde a IA e gera explicações falsas.

Este paper, "Shapley Axiomático em Manifold via Fluxos Gerativos Ótimos", propõe uma nova maneira de navegar nesse oceano. Vamos simplificar a ideia usando uma analogia de viagem:

1. O Problema: O Caminho Errado (Artefatos "Fora do Manifold")

Imagine que você quer explicar por que um carro é rápido.

• Método antigo: Você compara o carro com um "carro de brinquedo" ou com um "carro que está desmontado no chão". A IA tenta entender a diferença entre um carro real e essas coisas que não existem na realidade (fora do "manifold" ou da estrada real). O resultado? A IA fica confusa e diz coisas como: "Ah, o carro é rápido porque tem rodas quadradas!" (o que é absurdo).
• O termo técnico: Isso é chamado de artefatos fora do manifold. A IA está sendo forçada a julgar coisas que nunca viu no mundo real.

2. A Solução: O Caminho Perfeito (Fluxos Gerativos Ótimos)

Os autores dizem: "Esqueça os caminhos aleatórios. Vamos encontrar o caminho mais eficiente e natural para ir de um ponto de partida (um borrão de imagem) até a foto final do gato."

Eles usam uma matemática chamada Transporte Ótimo (pense nisso como a logística mais eficiente possível para mover caixas de um lugar para outro sem gastar energia desnecessária).

• A Analogia do Rio: Imagine que a foto do gato é um rio. Os métodos antigos tentam atravessar o rio nadando em linha reta, mas o rio tem curvas e corredeiras. Você pode se afogar ou bater em pedras invisíveis.
• O Método Novo: Eles usam um "GPS" (chamado de Fluxo Gerativo) que calcula a correnteza exata do rio. Em vez de nadar contra a corrente ou em linha reta, você segue a água. O caminho é suave, natural e sempre permanece dentro do rio (no "manifold" dos dados reais).

3. O "Shapley" (Quem fez o quê?)

O conceito de Shapley vem da teoria dos jogos. Imagine que você e seus amigos formaram uma equipe para ganhar um prêmio. O Shapley calcula quanto cada pessoa contribuiu para a vitória.

• No caso da IA: "Quanto as orelhas contribuíram para a decisão? E quanto o bigode?"
• O problema sempre foi: "Como calculamos isso se mudarmos a ordem em que olhamos as partes?"

Os autores provaram matematicamente que, se você seguir o caminho mais eficiente (o rio natural que mencionamos acima), a resposta sobre "quem contribuiu com o quê" se torna única e correta. Não importa como você conta, se o caminho for o ideal, a resposta é a mesma.

4. Por que isso é incrível? (Os Resultados)

Eles testaram isso em fotos de pássaros, carros e rostos humanos.

• Sem ruído: As explicações não têm mais "fantasmas" ou manchas estranhas.
• Precisão: Se a IA diz que um nariz é importante para identificar um rosto, o mapa de calor mostra exatamente o nariz, e não uma mancha aleatória na testa.
• Estabilidade: Se você rodar o teste várias vezes, a explicação é sempre a mesma. Métodos antigos mudavam a resposta dependendo de um detalhe aleatório.

Resumo em uma frase:

Os autores criaram um método que força a Inteligência Artificial a explicar suas decisões seguindo apenas caminhos que existem na realidade, evitando comparações com coisas estranhas e garantindo que a explicação seja a mais justa, estável e verdadeira possível.

É como trocar um mapa desenhado por um turista perdido por um GPS de alta precisão que só mostra estradas reais e seguras.

Resumo técnico

1. O Problema

As técnicas de atribuição baseadas em valores de Shapley são fundamentais para a Explicabilidade de IA (XAI) pós-hoc, pois oferecem uma base teórica sólida da teoria dos jogos cooperativos. No entanto, a aplicação prática enfrenta dois desafios principais:

• Sensibilidade à Linha de Base (Baseline): Métodos tradicionais requerem a imputação de características ausentes usando uma distribuição de fundo ou uma entrada de referência (ex: imagem preta, média, borrão). A escolha arbitrária dessa linha de base pode levar a explicações instáveis e enganosas.
• Artefatos Fora da Variedade (Off-Manifold): Em dados complexos como imagens, interpolações lineares simples (como no Integrated Gradients) frequentemente atravessam regiões do espaço de entrada que não pertencem à variedade de dados real (data manifold). Isso força o modelo a avaliar entradas sem sentido semântico, gerando artefatos e gradientes instáveis ("shattered gradients").
• Complexidade Combinatória: O cálculo exato de Shapley é intratável para entradas de alta dimensão devido à necessidade de marginalizar sobre todos os subconjuntos de características.

2. Metodologia

Os autores propõem um novo framework teórico e prático que substitui a seleção heurística de linhas de base por um problema variacional baseado em Fluxos Gerativos Ótimos e Transporte Ótimo.

• Atribuição Aumann-Shapley em Variedade: Em vez de considerar subconjuntos discretos, o método define a atribuição como uma integral de linha do gradiente do modelo ao longo de um caminho suave ($\gamma$) que conecta uma distribuição de referência ($p_0$) à distribuição de dados ($p_1$).
• Caminho Canônico via Transporte Ótimo: Para resolver a ambiguidade na escolha do caminho, os autores formulam a seleção do trajeto como um problema de minimização de energia cinética. Eles utilizam a formulação dinâmica de Benamou-Brenier para a distância de Wasserstein-2 ($W_2$). O caminho ideal é a geodésica que transporta a massa de $p_0$ para $p_1$ com o mínimo de energia cinética.
• Fluxos Gerativos (Rectified Flow): Na prática, essa geodésica é aproximada usando modelos de Flow Matching ou Rectified Flows (RF). O caminho é definido pela equação diferencial ordinária (ODE) $\dot{x}_t = v_t(x_t)$, onde o campo vetorial $v_t$ é aprendido para minimizar a ação cinética.
• Teorema de Representação e Unicidade: O paper prova um teorema fundamental: sob axiomas clássicos de Shapley (eficiência, simetria, dummy, aditividade) mais uma nova axioma de invariância à reparametrização temporal, a integral de linha do gradiente ao longo dessa geodésica ótima é a única função funcional que satisfaz todas as condições. Isso torna a atribuição "canônica".

3. Principais Contribuições

1. Fundamentação Axiomática Contínua: Estabelecem uma teoria formal para atribuições de Shapley em variedades contínuas, provando que a integral de linha do gradiente é a solução única para um sistema de axiomas estendidos.
2. Resolução da Ambiguidade do Caminho: Transformam a escolha da linha de base em um problema de otimização geométrica (Transporte Ótimo), eliminando a necessidade de heurísticas manuais.
3. Garantias de Estabilidade: Derivam limites de estabilidade que mostram que o erro na atribuição é proporcional ao erro de aproximação do fluxo gerativo. Isso garante que, à medida que o modelo generativo melhora, a explicação converge para o valor canônico verdadeiro.
4. Recuperação de Shapley Clássico: Demonstram que, para modelos aditivos, o método recupera exatamente os valores de Shapley clássicos, validando-o como uma generalização estrita da teoria discreta.
5. Novas Métricas de Avaliação: Introduzem métricas específicas para avaliar a qualidade geométrica e semântica das explicações, como Flow Consistency Error (FCE) e Structure-Aware Total Variation (SATV).

4. Resultados Experimentais

Os experimentos foram conduzidos em três regimes: reconhecimento de aves de alta incerteza (CUB-200), benchmarks padrão (CIFAR-10) e alta resolução (CelebA-HQ).

• Estabilidade Geométrica: O uso de fluxos reflowados (2-RF), que minimizam a ação cinética, resultou em mapas de saliência muito mais estáveis e consistentes entre diferentes sementes aleatórias em comparação com fluxos de um único passo (1-RF) ou métodos baseados em difusão.
• Adesão à Variedade (Manifold Adherence): O método proposto (Geodesic Flow) reduziu o Flow Consistency Error em ordens de magnitude (5 ordens) em comparação com baselines de difusão (DDIM) e integrais de linha (IG). Isso confirma que o caminho permanece estritamente na variedade de dados, evitando regiões não semânticas.
• Alinhamento Estrutural: A métrica Structure-Aware Total Variation (SATV) mostrou que o método proposto gera explicações com menos ruído de alta frequência e melhor alinhamento com bordas semânticas (ex: olhos, nariz em rostos) do que métodos tradicionais como IG ou Grad-CAM.
• Fidelidade: Ao contrário da crença comum de que suavizar caminhos sacrifica a precisão, o método manteve ou melhorou a fidelidade (Faithfulness) em comparação com DDIM e IG, provando que a restrição geométrica melhora a qualidade da explicação.

5. Significado e Impacto

Este trabalho representa um avanço significativo na interseção entre Teoria do Transporte Ótimo e XAI.

• Rigor Teórico: Ao provar a unicidade da atribuição baseada em fluxos ótimos, o trabalho fornece uma base matemática rigorosa para explicações em variedades, superando a arbitrariedade dos métodos atuais.
• Confiabilidade em Alta Dimensão: Oferece uma solução robusta para o problema de "artefatos fora da variedade", que é crítico em aplicações de alto risco (como diagnóstico médico), onde explicações ilusórias podem levar a decisões erradas.
• Direção Futura: Estabelece que a qualidade da explicação está intrinsecamente ligada à qualidade da aproximação do fluxo gerativo, direcionando futuras pesquisas para o desenvolvimento de modelos generativos mais precisos e estáveis.

Em resumo, o paper propõe que a melhor explicação para um modelo não é encontrada em linhas retas arbitrárias, mas sim nas trajetórias geométricas mais eficientes (geodésicas) que conectam o estado de "nada" ao estado de "dado observado" dentro da estrutura real dos dados.