Attribution via Distributional Paths for Information Revelation

Resumo Técnico: Atribuição via Caminhos Distribucionais para Revelação de Informação

Definição do Problema
Métodos de atribuição de características visam explicar as previsões de modelos atribuindo pontuações de importância às características de entrada. Duas abordagens dominantes, SHAP (Shapley Additive exPlanations) e Integrated Gradients (IG), satisfazem a propriedade de completude, garantindo que as atribuições somem a mudança na saída do modelo entre um estado de referência e a entrada. No entanto, ambas exibem limitações distintas:

• SHAP baseia-se em operações discretas e combinatórias de revelação de características. Trata as características como totalmente desconhecidas ou totalmente observadas, criando uma intervenção descontínua que carece de uma revelação gradual de informação.
• IG define um caminho contínuo no espaço de entrada (por exemplo, uma linha reta do baseline até a entrada). Esta abordagem avalia o modelo ponto a ponto ao longo de uma trajetória que pode atravessar regiões semanticamente sem sentido do espaço de entrada. Consequentemente, o IG é suscetível a "artefatos de caminho", como "sombras", onde características encontradas precocemente na trajetória (próximas ao baseline) influenciam desproporcionalmente a atribuição da entrada final, mesmo que essas características sejam irrelevantes para a previsão específica.

A questão central é que os métodos de caminho padrão integram a resposta bruta do modelo em pontos específicos do espaço de entrada sem controlar a resolução ou a incerteza na qual as características são consultadas.

Metodologia: Reveal-IG
Os autores propõem o Reveal-IG, um método que eleva o framework de atribuição por caminho do espaço de entrada para um espaço de distribuições de sondagem estruturadas. Em vez de percorrer uma trajetória de valores brutos de entrada, o Reveal-IG percorre uma trajetória de distribuições de probabilidade que se concentram progressivamente em torno da entrada de interesse ($x^\star$).

1. Formulação do Caminho Distribucional:
   O método define um caminho através de um espaço de distribuições de sondagem $q_\theta(z | x^\star)$, parametrizado por $\theta$. A quantidade sendo decomposta é a resposta esperada do modelo:
   $$G(\theta; x^\star) = \mathbb{E}_{z \sim q_\theta(\cdot|x^\star)}[f(z)]$$
   A atribuição é obtida integrando os gradientes da resposta esperada ao longo do caminho das distribuições:
   $$\Delta G = \int_S \nabla_\theta \mathbb{E}_{z \sim q_\theta(z|x^\star)}[f(z)] \cdot d\theta$$
   Isso mantém a propriedade de completude da integral de caminho, mas a aplica à resposta esperada em vez da saída bruta.

2. Design da Sondagem (Probe Design):

• Dados de Imagem: A sondagem é uma distribuição Gaussiana fatorizada sobre os canais de pixels. O caminho começa em uma referência ampla (alta incerteza, ex: $\mu=0, \sigma=1$) e termina em uma sondagem concentrada em torno da imagem observada. A variância do ponto final ($\sigma_{final}$) pode ser fixa ou escolhida adaptativamente com base na escala de ruído onde o logit alvo do modelo permanece estável.
• Dados Tabulares: Como a interpolação linear no espaço tabular é frequentemente semanticamente inválida, a sondagem é definida sobre distribuições marginais empíricas dos dados de treinamento. Um kernel de similaridade controlado por temperatura transiciona a distribuição da marginal empírica para uma distribuição concentrada em torno do valor da característica observada $x^\star_i$. O caminho é definido pela diminuição da temperatura, revelando a informação da característica gradualmente.

3. Estimativa de Gradiente:
   Os gradientes são calculados em relação aos parâmetros da sondagem $\theta$, não aos valores de entrada.

• Para modelos diferenciáveis e sondagens Gaussianas, o truque de reparametrização ($z = \mu + \sigma\epsilon$) permite a estimativa eficiente do gradiente via diferenciação automática.
• Para modelos não diferenciáveis (ex: conjuntos de árvores) ou dados tabulares com sondagens empíricas, o método utiliza um estimador de caixa-preta. Ele amostra valores de características do conjunto de treinamento e os pondera de acordo com a distribuição da sondagem, permitindo a estimativa do gradiente sem exigir a diferenciabilidade do modelo.

Principais Contribuições

• Integração de Caminho Elevada (Lifted Path Integration): O artigo introduz um framework onde a integral de caminho é realizada sobre um espaço de distribuições estruturadas em vez de pontos brutos de entrada. Isso permite o controle sobre a "resolução" na qual as características são consultadas.
• Revelação Contínua de Informação: O Reveal-IG fornece um análogo contínuo à revelação discreta de características do SHAP, substituindo a inclusão abrupta de características por um caminho diferenciável de sondagens de alta incerteza para sondagens concentradas.
• Adaptabilidade de Domínio: O framework é instanciado tanto para classificação de imagens (usando sondagens Gaussianas) quanto para regressão tabular (usando sondagens marginais empíricas), demonstrando que a visão "elevada" fornece uma linguagem comum para atribuição em domínios com diferentes estruturas geométricas.
• Mitigação de Artefatos: Ao realizar a média das respostas do modelo sobre distribuições amplas nos estágios iniciais do caminho, o método dilui a influência de estruturas distantes ou adjacentes ao baseline que tipicamente causam artefatos de "sombra" no IG padrão.

Resultados Experimentais

• Diagnósticos Sintéticos: Em experimentos controlados 2D, o Reveal-IG evita os artefatos de "sombra" vistos no IG (onde a atribuição é influenciada por características distantes do ponto de interesse) e o viés estrutural alinhado aos eixos visto no SHAP. Ele produz campos de atribuição que interpolam entre os extremos do SHAP e do IG conforme a granularidade do caminho de revelação muda.
• Classificação de Imagens (ImageNet): Avaliado em ResNet-50 e ViT-B/16, o Reveal-IG atinge um desempenho de estado da arte ou próximo disso.
  • Supera significativamente os baselines em métricas que utilizam o sinal das atribuições (ex: Inserção/Deleção de Evidência Positiva e Sensibilidade-n), indicando uma melhor distinção entre características que apoiam versus as que suprimem a classe alvo.
  • Mantém-se competitivo em métricas baseadas em magnitude (ex: RMA), embora métodos como Blur-IG e IDG sejam fortes competidores em tarefas de saliência sem sinal.
  • A análise da acumulação de atribuição ao longo do caminho mostra que o Reveal-IG atribui a maior parte da atribuição tardiamente no trajeto (conforme a sondagem se concentra), enquanto o IG atribui grande parte da sua atribuição precocemente, próximo ao baseline.
• Regressão Tabular: Avaliado nos conjuntos de dados Bike Sharing, California Housing e Wine Quality.
  • O Reveal-IG é consistentemente forte em métricas de inserção direcional (consistência de sinal de atribuição) e sensibilidade-máxima (estabilidade).
  • Embora o KernelSHAP e a ablação de características sejam competitivos em métricas de suficiência/completude (métricas nativas de métodos baseados em perturbação), o Reveal-IG oferece um trade-off favorável, fornecendo desempenho nativo de perturbação com estabilidade significativamente maior e um caminho mais natural para dados tabulares que evita interpolações lineares arbitrárias.

Significância e Alegações
O artigo afirma que o Reveal-IG reformula a atribuição de caminho como um problema de suavização. Enquanto métodos como o Blur-IG suavizam o espaço de entrada (do grosseiro para o fino), o Reveal-IG suaviza a resposta do modelo ao integrar previsões sobre distribuições com incerteza decrescente.

Os autores argumentam que a escolha do espaço do caminho determina quais partes do comportamento de entrada-saída do modelo são incorporadas à explicação. Ao mover-se do espaço de entrada para o espaço de distribuição, o Reveal-IG permite:

1. Resolução Controlada: A capacidade de consultar o modelo em vários níveis de escala de informação.
2. Sondagens Específicas de Domínio: A flexibilidade para definir sondagens que respeitem a estrutura dos dados (ex: marginais empíricas para dados tabulares) sem forçar interpolações geométricas arbitrárias.
3. Robustez: Uma redução nos artefatos dependentes do caminho, levando a atribuições mais estáveis e semanticamente significativas, particularmente em relação ao sinal da importância da característica.

O artigo reconhece limitações, incluindo o aumento do custo computacional (aproximadamente 7x mais lento que o IG para imagens e até 1000x para dados tabulares devido à amostragem de Monte Carlo) e a suposição de distribuições fatorizadas que ignora correlações entre características. No entanto, postula que o trade-off resulta em um framework de atribuição mais robusto e interpretável, particularmente para tarefas onde o sinal da atribuição é crítico.