💻 computer science

The Attribution Impossibility: No Feature Ranking Is Faithful, Stable, and Complete Under Collinearity

Este artigo prova que nenhum método de classificação de características pode simultaneamente alcançar fidelidade, estabilidade e completude sob colinearidade de características, caracterizando o espaço de design resultante como uma dicotomia estrita entre métodos fiéis instáveis e abordagens de ensemble estáveis como o DASH, com todas as descobertas verificadas mecanicamente no Lean 4.

Autores originais: Drake Caraker, Bryan Arnold, David Rhoads

Publicado 2026-05-22

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Drake Caraker, Bryan Arnold, David Rhoads

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Problema Central: O "Lançamento de Moeda" das Explicações de IA

Imagine que você tem um modelo de aprendizado de máquina (uma IA) que prevê se um solicitante de empréstimo pagará seu dinheiro de volta. Você quer saber por que a IA tomou uma decisão. Você pergunta a ela: "Qual característica foi mais importante? Foi a Renda ou a Relação Dívida-Renda?"

No mundo real, esses dois números frequentemente estão altamente correlacionados (se você tem uma renda alta, pode ter um limite de dívida alto). O artigo argumenta que, quando as características estão correlacionadas, pedir à IA para escolher um "vencedor" é como pedir a um árbitro para decidir um lançamento de moeda.

A Grande Descoberta:
Os autores provam matematicamente que nenhum modelo de IA único pode fornecer uma explicação que seja simultaneamente:

Fiel: Reflete com precisão o que aquele modelo específico aprendeu.
Estável: Fornece a mesma resposta cada vez que você retreina o modelo.
Completa: Impõe uma classificação (dizendo "Renda é #1, Dívida é #2") mesmo quando os dados não suportam um vencedor claro.

O Pulo do Gato: Você só pode escolher dois.

Se você quer que a explicação seja Fiel e Completa (escolhendo um vencedor), ela não será Estável. Se você retreinar o modelo com uma semente aleatória ligeiramente diferente, a IA pode decidir subitamente que "Dívida é #1" e "Renda é #2". É um lançamento de moeda.
Se você quer que a explicação seja Estável (sempre a mesma), você deve admitir que não sabe o vencedor. Você deve dizer: "Renda e Dívida estão empatadas". Isso sacrifica a Completude (você não pode forçar uma classificação).

O Efeito "Rashomon": Muitas Verdades, Uma História

O artigo utiliza um conceito chamado Propriedade Rashomon (nomeado em homenagem a um filme famoso onde quatro pessoas contam versões diferentes do mesmo crime).

Na IA, quando as características estão correlacionadas, não existe apenas um "melhor" modelo. Existem milhares de modelos quase perfeitos que todos preveem o futuro igualmente bem. No entanto, esses modelos discordam sobre como chegaram lá.

Modelo A diz: "Usei a Renda para tomar a decisão."
Modelo B diz: "Não, usei a Dívida."

Ambos os modelos são igualmente bons em prever o resultado do empréstimo. Mas, como discordam, qualquer explicação única que você obtenha é apenas um instantâneo da "opinião" de um modelo específico. Se você retreinar o modelo, pode obter a opinião do Modelo B em vez da do Modelo A.

A Solução: O Ensemble "Dash"

Como você não pode confiar na classificação de um único modelo, os autores propõem uma solução chamada Dash (Agregação Diversificada de SHAP).

A Analogia: O Júri
Imagine que você está tentando decidir quem é o melhor jogador de um time de esportes, mas as estatísticas são confusas.

A Abordagem de Modelo Único: Você pergunta a um treinador. Ele diz: "O Jogador A é o melhor". Você pergunta a ele novamente amanhã (retreinando), e ele diz: "O Jogador B é o melhor". Você fica confuso.
A Abordagem Dash: Você pergunta a 25 treinadores diferentes (um ensemble de modelos) e tira a média de suas opiniões.
- Se os treinadores estiverem divididos 50/50 entre o Jogador A e o Jogador B, o resultado médio é um Empate.
- O método Dash diz: "Não conseguimos distinguir entre o Jogador A e o Jogador B. Eles são igualmente importantes."

Por que isso é melhor:

Honestidade: Admite quando os dados são ambíguos. Em vez de mentir e escolher um vencedor que muda todos os dias, relata um empate.
Estabilidade: Se você perguntar aos 25 treinadores novamente, eles ainda dirão "Empate". A resposta é estável.
Optimalidade de Pareto: O artigo prova matematicamente que este método é a melhor maneira possível de lidar com esse trade-off. Você não pode obter uma resposta estável e honesta sem aceitar empates para características ambíguas.

E Quanto aos Outros Métodos?

O artigo testou muitas ferramentas populares (como SHAP, Lasso, Redes Neurais) e descobriu que todas sofrem com esse problema quando as características estão correlacionadas.

Gradient Boosting (como XGBoost): O "vencedor" inverte cerca de 50% das vezes entre execuções de retreinamento.
Lasso: Escolhe uma característica e ignora completamente a outra, mas qual delas escolhe é aleatório.
Redes Neurais: São ainda mais instáveis do que modelos baseados em árvores.

O artigo também observa que o SHAP Condicional (uma versão mais complexa da ferramenta de explicação) não resolve esse problema se as características tiverem o mesmo efeito causal. Ainda é um lançamento de moeda.

O Mapa do "Espaço de Design"

Os autores mapearam todas as maneiras possíveis de explicar modelos de IA. Eles descobriram que existem apenas dois caminhos válidos:

Caminho A (O Modelo Único): Você obtém uma classificação clara (Completa) que corresponde ao modelo (Fiel), mas ela muda toda vez que você retreina (Instável).
Caminho B (O Ensemble Dash): Você obtém uma resposta estável que não muda (Estável), mas precisa aceitar empates para características correlacionadas (Incompleta).

Não existe um Caminho C. Você não pode ter uma classificação que seja sempre estável, sempre fiel e sempre completa quando as características estão correlacionadas.

Impacto no Mundo Real (Como Declarado no Artigo)

O artigo destaca que isso não é apenas um problema matemático; é uma realidade prática.

Prevalência: Em uma pesquisa de 77 conjuntos de dados públicos, 68% mostraram essa instabilidade. Isso acontece na saúde, finanças e dados em geral.
Risco Regulatório: Se um banco usa uma IA para negar um empréstimo, e o motivo muda de "Renda" para "Dívida" apenas porque eles retreinaram o modelo com uma semente aleatória diferente, isso é um risco de conformidade. O artigo sugere que, sob regulamentações como o Ato de IA da UE, as empresas devem divulgar que suas classificações de características são instáveis.
A Correção: O artigo recomenda usar o método Dash (média de 25 modelos) para obter uma explicação estável e honesta que relata empates onde apropriado.

Resumo em Uma Frase

Quando as características da IA estão correlacionadas, pedir a um único modelo que as classifique é como pedir a uma moeda para decidir um vencedor; a única resposta honesta e estável é admitir que a moeda é justa e relatar um empate.

Resumo Técnico: A Impossibilidade de Atribuição

1. Declaração do Problema

O artigo aborda uma limitação fundamental na IA Explicável (XAI): a confiabilidade das classificações de importância de características quando as características de entrada são colineares. Embora métodos como SHAP (SHapley Additive exPlanations) sejam amplamente utilizados para explicar previsões de modelos, os autores demonstram que, para características colineares, a classificação de importância não é uma propriedade estável da relação modelo-dados, mas sim um artefato estocástico do processo de treinamento.

Especificamente, o artigo investiga se uma classificação de características pode satisfazer simultaneamente três requisitos:

Fiel: A classificação reflete as atribuições específicas aprendidas por uma instância individual do modelo.
Estável: A classificação é reproduzível em diferentes execuções de treinamento (por exemplo, diferentes sementes aleatórias) da mesma arquitetura de modelo nos mesmos dados.
Completa: A classificação fornece uma ordenação estrita para cada par de características (sem empates).

A tese central é que, sob condições de colinearidade de características (correlação $\rho > 0$ ), é matematicamente impossível satisfazer simultaneamente as três condições.

2. Metodologia e Estrutura Teórica

A Propriedade de Rashomon e o Teorema de Impossibilidade

A contribuição teórica central é o Teorema de Impossibilidade de Atribuição (Teorema 5). A prova baseia-se na Propriedade de Rashomon, que postula que, para características colineares, existem múltiplos modelos quase ótimos (o conjunto de Rashomon) que classificam características simétricas em ordens opostas.

Lógica da Prova: Se uma classificação é completa, ela deve escolher uma ordem (por exemplo, $j \succ k$ ). Se for estável, essa ordem deve valer para todos os modelos. No entanto, a propriedade de Rashomon garante a existência de um modelo onde $k \succ j$ . Assim, a classificação não pode ser ao mesmo tempo fiel a esse modelo específico e estável em todo o conjunto.
Limites Quantitativos: O artigo deriva limites quantitativos sobre a gravidade dessa instabilidade para diferentes classes de modelos:
- Gradient Boosting (GBDT): A razão de atribuição (dominância da característica "primeira a mover") diverge como $1/(1-\rho^2)$ (ou $1/(1-\alpha\rho^2)$ com correções de profundidade).
- Lasso: A razão é infinita ( $\infty$ ) para qualquer $\rho > 0$ devido à seleção rígida.
- Redes Neurais: A instabilidade é condicional à inicialização e às dinâmicas de treinamento, mas segue padrões semelhantes de quebra de simetria.
- Florestas Aleatórias: Mostra violação limitada ( $1 + O(1/\sqrt{T})$ ) devido ao treinamento independente das árvores, contrastando com a instabilidade divergente do boosting sequencial.

A Dicotomia Bayesiana Simétrica

Os autores generalizam esse resultado usando a Dicotomia Bayesiana Simétrica (Teorema 37), um teorema de duas famílias da teoria de decisão invariante. Eles mostram que, para qualquer problema de decisão simétrico (onde a distribuição de dados é invariante sob permutações de características), o conjunto alcançável de soluções colapsa em exatamente duas famílias:

Família A (Modelo Único): Fiel e completa, mas instável (infidelidade $U = 1/2$ para pares simétricos).
Família B (Ensemble): Estável e fiel à média populacional, mas incompleta (relata empates para características simétricas, $U=0$ ).
Não há uma terceira opção.

Resolução Construtiva: DASH

Para resolver a impossibilidade, o artigo propõe o DASH (Agregação Diversificada de SHAP). Este é um método de ensemble que calcula a média dos valores SHAP em $M$ modelos treinados independentemente.

Mecanismo: Ao calcular a média, o DASH cancela o viés aleatório de "primeira a mover" inerente a modelos individuais, convergindo para a expectativa populacional.
Optimalidade: O DASH é provado ser Pareto-ótimo entre agregações não viesadas. Ele atinge o limite de variância de Cramér–Rao ( $\sigma^2/M$ ) para estabilidade de classificação.
Compromisso: O DASH sacrifica a completude intra-grupo (relata empates para características simétricas) para ganhar estabilidade e fidelidade inter-grupo.

Verificação Formal

Uma parte significativa da metodologia envolve verificação mecânica usando Lean 4.

Os autores formalizaram toda a estrutura teórica, incluindo o teorema de impossibilidade, limites quantitativos e a prova de optimalidade do DASH.
A formalização consiste em 305 teoremas verificados por tipo distribuídos em 54 arquivos com 0 sorry (nenhuma suposição não provada).
O processo envolveu 16 axiomas (14 específicos do domínio, 2 para complexidade de consulta). Notavelmente, o teorema central de impossibilidade requer zero axiomas comportamentais, baseando-se exclusivamente na propriedade de Rashomon.
O próprio processo de formalização identificou duas inconsistências lógicas e uma incompatibilidade de tipos no sistema axiomático informal original.

3. Resultados Principais e Validação Empírica

Achados Empíricos

O artigo valida a teoria em 77 conjuntos de dados públicos e múltiplas implementações de modelos (XGBoost, LightGBM, CatBoost, Redes Neurais).

Prevalência: Em uma pesquisa de 77 conjuntos de dados, 68% exibiram instabilidade de atribuição (taxa de inversão > 10%) para pares de características correlacionadas. Para conjuntos de dados de alta dimensão ( $P \ge 20$ ), essa taxa sobe para 93%.
Taxas de Inversão: Para pares altamente correlacionados ( $\rho \approx 0,9$ ) com importância similar, a taxa de inversão aproxima-se do máximo teórico de 50% (como um lançamento de moeda) entre diferentes sementes de re-treinamento.
Eficácia do DASH: A média de ensemble com $M \ge 25$ modelos reduz a taxa de inversão para abaixo de 1%, resolvendo efetivamente a instabilidade.
Diagnósticos: O artigo introduz um Teste Z de Multi-Modelo e um Filtro de Modelo Único (baseado em frequências de divisão) para detectar pares instáveis. O teste Z mostra uma forte correlação negativa ( $r \approx -0,89$ ) com as taxas de inversão observadas.

Comportamentos Específicos por Classe de Modelo

GBDT: Mostra instabilidade divergente. A característica "primeira a mover" absorve o sinal, deixando sinal residual para as outras, criando uma grande lacuna de atribuição que inverte com base em qual característica é selecionada primeiro.
Lasso: Exibe instabilidade infinita, pois seleciona exatamente uma característica de um grupo correlacionado.
Redes Neurais: Mostram alta instabilidade (87% dos pares instáveis nos dados de Câncer de Mama), impulsionada pelo conjunto de Rashomon maior e pela variância do KernelSHAP.
Florestas Aleatórias: Mostram instabilidade significativamente menor devido à falta de compartilhamento sequencial de resíduos.

Extensões

Atribuição Condicional: O artigo prova que mudar para SHAP condicional não escapa da impossibilidade se os efeitos causais das características forem iguais ( $\beta_j = \beta_k$ ).
Auditorias de Equidade: Os autores demonstram que auditorias de discriminação por proxy baseadas em SHAP de modelo único são comprovadamente não confiáveis sob colinearidade, pois a conclusão (qual característica é o proxy) é um lançamento de moeda.
Identificação Causal: A instabilidade espelha a dificuldade de identificação causal sob colinearidade, com complexidade de amostra divergindo como $1/(1-\rho)^2$ .

4. Significado e Alegações

O artigo afirma fornecer o primeiro resultado de impossibilidade formalmente verificado na IA Explicável. Seu significado é enquadrado em três dimensões:

Necessidade Matemática: A instabilidade não é uma falha de engenharia (por exemplo, hiperparâmetros ruins ou bugs), mas uma inevitabilidade matemática decorrente da geometria do panorama de perda e do conjunto de Rashomon. O artigo reestrutura o problema de "como corrigir o SHAP" para "o que é alcançável dadas as restrições".
Caracterização do Espaço de Design: Ao definir o Espaço de Design de Atribuição, o artigo estabelece que os praticantes devem escolher entre estabilidade e completude. Não há "almoço grátis" onde um único modelo fornece uma classificação estável, fiel e completa.
Impacto Regulatório e Prático:
- Conformidade com o Ato de IA da UE: O artigo argumenta que a instabilidade de atribuição constitui uma "circunstância conhecida e previsível" nos termos do Artigo 13(3)(b)(ii) do Ato de IA da UE. Os provedores devem divulgar essa instabilidade em vez de apresentar classificações arbitrárias como fatos.
- Equidade: Auditorias de equidade de modelo único são consideradas não confiáveis para características correlacionadas, podendo levar a falsos positivos ou negativos na detecção de discriminação por proxy.
- Kit de Ferramentas Acionável: O artigo fornece um fluxo de trabalho concreto (Filtro $\to$ Teste Z $\to$ DASH) e uma fórmula para o tamanho mínimo de ensemble ( $M_{min}$ ) necessário para atingir um nível desejado de estabilidade.

Os autores concluem que o campo deve afastar-se do "paradigma de modelo único" para explicações na presença de colinearidade e adotar abordagens baseadas em ensemble, como o DASH, para fornecer explicações honestas, estáveis e defensáveis.