🤖 machine learning

Priority-Aware Shapley Value

Este artigo introduz o Priority-Aware Shapley Value (PASV), um novo framework que estende os valores de Shapley tradicionais ao incorporar restrições de precedência rígidas e pesos de prioridade suaves para lidar melhor com contribuintes dependentes e fatores de confiança, apoiado por um algoritmo de amostragem eficiente e validado por meio de experimentos em tarefas de avaliação de dados e atribuição de características.

Autores originais: Kiljae Lee, Ziqi Liu, Weijing Tang, Yuan Zhang

Publicado 2026-06-16

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Kiljae Lee, Ziqi Liu, Weijing Tang, Yuan Zhang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está organizando um jantar de confraternização massivo onde cada pessoa traz um prato, e o objetivo é descobrir exatamente quanto cada pessoa contribuiu para a deliciosa banquete final. No mundo do aprendizado de máquina, este "jantar" é um modelo treinado em dados, e os "pratos" são pontos de dados individuais ou características (features).

Por décadas, cientistas têm usado uma ferramenta matemática chamada Valor de Shapley para dividir o crédito de forma justa. A regra tradicional é simples: imagine todas as ordens possíveis em que as pessoas poderiam chegar à festa. Se você chega primeiro, recebe o crédito por toda a mesa. Se chega por último, recebe apenas o crédito pelo que você adicionou à mesa que já estava cheia. O Valor de Shapley é a média da sua contribuição através de todas as possíveis ordens de chegada.

O Problema: A Suposição de "Intercambiabilidade"
O método antigo assume que todos são intercambiáveis. Ele trata o jantar como se não importasse quem traz a salada primeiro ou quem traz o bolo por último. Mas na vida real, isso não é verdade.

Precedência Rígida (A "Regra da Receita"): Às vezes, você deve trazer a massa antes de poder trazer os coberturas da pizza. Se você tentar adicionar as coberturas antes da massa, a pizza será arruinada. Em termos de dados, alguns dados são "copiados" de outros dados, ou algumas características (como idade) devem logicamente vir antes de outras (como ocupação). O método antigo ignora essas regras, permitindo cenários impossíveis (como coberturas antes da massa) que distorcem os resultados.
Prioridade Suave (A "Regra do VIP"): Às vezes, confiamos mais em alguns convidados do que em outros. Talvez um convidado seja um chef famoso (alta confiança), enquanto outro é conhecido por trazer torradas queimadas (baixa confiança/risco). O método antigo os trata igualmente, apenas porque chegaram em momentos diferentes. Precisamos de uma forma de dizer: "Confiamos mais na contribuição do chef", sem alterar as regras da receita.

A Solução: Valor de Shapley Consciente de Prioridade (PASV)
Os autores propõem um novo método chamado PASV. Pense nele como um planejador de jantar mais inteligente que entende duas coisas:

As Regras Rígidas (O DAG): Ele respeita a "receita". Ele sabe que a massa deve vir antes das coberturas. Ele só considera ordens de chegada que façam sentido (ex: nada de coberturas antes da massa).
Os Pesos Suaves (Os VIPs): Ele sabe que alguns convidados são mais "confiáveis" ou "arriscados". Ele ajusta a matemática para que os convidados de alta confiança tenham mais probabilidade de serem avaliados em contextos onde seu verdadeiro valor brilha, enquanto os convidados de risco são avaliados com mais cuidado para ver se eles realmente adicionam valor ou apenas ruído.

Como Funciona (A Analogia Criativa)
Imagine que você está tentando julgar uma equipe de detetives resolvendo um mistério.

O Jeito Antigo: Você pergunta a cada ordem possível de detetives para resolver o caso. Você faz a média do sucesso deles. Mas isso é injusto se o Detetive A precisa encontrar a pista antes que o Detetive B possa resolver o enigma. O método antigo conta cenários onde B tenta resolver primeiro, o que é impossível.
O Jeito PASV:
- Prioridade Rígida: Você só deixa os detetives resolverem o caso em ordens que respeitem as pistas (A antes de B).
- Prioridade Suave: Você tem um "medidor de confiança" para cada detetive. Se o Detetive C é um conhecido mentiroso (alto risco), o PASV não apenas o ignora; ele simula cenários onde ele chega mais tarde na investigação. Isso testa: "Se já temos evidências sólidas, a pista deste mentiroso realmente ajuda ou apenas confunde as coisas?" Se ele é um gênio (alta confiança), o PASV o testa em contextos ricos para ver todo o seu potencial.

A Ferramenta "Varredura de Prioridade" (Priority Sweeping)
Um dos recursos mais legais do PASV é uma ferramenta de diagnóstico que os autores chamam de "Varredura de Prioridade".
Imagine que você é o gerente do jantar. Você não tem certeza de quanto confiar no convidado que trouxe o "assado misterioso".

Com o PASV, você pode rodar uma simulação: "O que acontece com a pontuação de crédito se eu tratar este convidado como um 'Super VIP' (confiança máxima)?" Depois, "E se eu tratá-lo como 'Alto Risco' (confiança mínima)?"
Ao deslizar um controle de "Confiança Total" para "Desconfiança Total", você pode ver se a pontuação de contribuição dele permanece estável ou desmorona. Se ela desmoronar, você sabe que o valor dele é instável e depende fortemente de quanta confiança você deposita nele. Isso ajuda a tomar decisões mais seguras sobre quem convidar na próxima vez.

O Que o Artigo Realmente Descobriu
Os autores testaram isso em dois cenários principais:

Valoração de Dados (O Jantar): Eles simularam um mercado de dados onde alguns dados eram originais, alguns eram copiados e alguns eram "envenenados" (dados ruins).
- Os métodos antigos davam crédito aos "copiadores" porque não percebiam que o dado era apenas uma cópia.
- O PASV corretamente penalizou os copiadores e os "envenenadores", dando mais crédito às fontes originais, especialmente quando as configurações de "confiança" eram ajustadas.
Atribuição de Características (A Equipe de Detetives): Eles analisaram um conjunto de dados que previa a renda.
- Eles mostraram que a maneira como você ordena as características (ex: a idade vem antes da educação?) altera os resultados.
- O PASV permitiu que eles vissem quais características eram robustas (seu valor não mudava muito, independentemente do nível de confiança) e quais eram instáveis (como "país de origem", que oscilava drasticamente dependendo das configurações).

Em Resumo
O PASV é uma nova forma de dividir o crédito de forma justa no aprendizado de máquina. Ele corrige a cegueira do método antigo para regras (você não pode ter coberturas antes da massa) e confiança (alguns dados são mais arriscados que outros). Ele nos dá uma ferramenta para não apenas obter uma única resposta, mas para testar nossas decisões através do estresse, perguntando: "O quanto minha confiança neste ponto de dado realmente altera o resultado?"

Resumo Técnico: Valor de Shapley com Sensibilidade de Prioridade (PASV)

Definição do Problema

Os valores de Shapley são a ferramenta padrão para avaliação de dados e atribuição de características agnóstica ao modelo, baseando-se no axioma de que os contribuintes (jogadores) são intercambiáveis. Essa premissa exige a média das contribuições marginais sobre todas as permutações possíveis de jogadores. No entanto, em aplicações modernas de aprendizado de máquina, essa intercambiabilidade é frequentemente inválida por duas razões primordiais:

Restrições de Precedência: Os contribuintes podem exibir relações de precedência rígidas. Por exemplo, dados de treinamento podem ser aumentados ou copiados de fontes ascendentes (tornando as contribuições descendentes derivadas), ou o conhecimento de domínio pode ditar que certas características (ex: ancestrais causais) devem ser consideradas antes de outras. Métodos existentes como o Valor de Shapley de Precedência (PSV) lidam com essas restrições, mas tratam todas as extensões lineares válidas de forma uniforme, ignorando diferenças individuais.
Pesos de Prioridade Suaves: Profissionais frequentemente possuem considerações específicas ao contexto, como confiança, risco ou custos de curadoria. Por exemplo, um ponto de dado pode ser menos confiável ou carregar maior risco jurídico. Métodos de Valor de Shapley Ponderado (WSV) existentes incorporam tais pesos, mas são restritos a suposições estruturais específicas (partições ordenadas) e não conseguem lidar com Grafos Acíclicos Dirigidos (DAGs) gerais.

As abordagens atuais geralmente abordam a precedência rígida e os pesos suaves de forma isolada. Há uma falta de um framework unificado que incorpore simultaneamente restrições de precedência gerais e pesos de prioridade específicos de cada jogador, mantendo-se computacionalmente viável.

Metodologia: Valor de Shapley com Sensibilidade de Prioridade (PASV)

Os autores propõem o Valor de Shapley com Sensibilidade de Prioridade (PASV), um método de atribuição do tipo Shapley unificado que integra tanto restrições de precedência rígidas quanto pesos de prioridade suaves dentro de um único framework de ordem aleatória.

1. Formulação Teórica

O PASV define o valor de um jogador $i$ como a contribuição marginal esperada sobre uma distribuição $p$ suportada no conjunto de extensões lineares $\Pi_{\preceq}$ de um poset (ou DAG) $([n], \preceq)$ . A distribuição $p$ é construída para satisfazer:

Prioridade Rígida: O suporte é restrito a $\Pi_{\preceq}$ , garantindo que nenhuma permutação viole as restrições de precedência.
Prioridade Suave: Entre os candidatos admissíveis em qualquer etapa da construção da permutação, a probabilidade de seleção é enviesada pelos pesos específicos do jogador $\lambda = (\lambda_1, \dots, \lambda_n)$ .

A probabilidade de uma permutação $\pi = (\pi_1, \dots, \pi_n)$ é dada por:
$p^{(\preceq, \lambda)}(\pi) \propto \prod_{t=1}^n \frac{\lambda_{\pi_t} |\max_{\preceq}(S_t)|}{\sum_{k \in \max_{\preceq}(S_t)} \lambda_k}$
onde $S_t = \{\pi_1, \dots, \pi_t\}$ é o conjunto de jogadores selecionados até o momento, e $\max_{\preceq}(S_t)$ denota o conjunto de elementos maximais em $S_t$ (os candidatos admissíveis para a próxima posição).

2. Caracterização Axiomática

O artigo fornece uma caracterização axiomática rigorosa que identifica unicamente o PASV. A derivação procede através de:

Valor de Ordem Aleatória de Precedência (PROV): Uma família de valores que satisfaz Eficiência, Linearidade, Jogador Nulo, Monotonicidade e Suporte Máximo (o crédito vai apenas para elementos maximais em conjuntos viáveis).
Fatoração de Escolha de Estado (SCF): Restringe a distribuição a uma forma fatorada onde a probabilidade de uma permutação é o produto de um fator de "estado" (viés global do DAG) e um fator de "escolha" (viés local dos pesos).
Axiomas de Fronteira:
- Proporcionalidade de Peso (WP): As probabilidades de seleção entre candidatos admissíveis são proporcionais aos seus pesos $\lambda$ .
- Uniformidade de Peso Igual (EWU): Se todos os pesos forem iguais, a distribuição reduz-se à distribuição uniforme sobre $\Pi_{\preceq}$ (recuperando o PSV).
  A combinação de PROV, SCF, WP e EWU resulta unicamente no PASV.

3. Regimes Limites

Os autores analisam o comportamento do PASV conforme os pesos tornam-se extremos ( $\lambda_i \to \infty$ ou $\lambda_i \to 0$ ). Eles demonstram que pesos extremos podem induzir um mecanismo de desempate quase determinístico entre jogadores simultaneamente admissíveis. Em casos específicos (ex: partições ordenadas ou jogadores globalmente maximais), pesos extremos efetivamente traduzem-se em novas arestas no DAG, refinando a estrutura de precedência.

4. Computação Escalável

Como o número de extensões lineares cresce exponencialmente, o cálculo exato é intratável para $n$ grandes. Os autores desenvolvem um amostrador eficiente de Metropolis-Hastings (M-H) por Troca Adjacente:

Inicialização: Uma extensão linear válida é encontrada via ordenação topológica.
Transição: O amostrador propõe uma troca de elementos incomparáveis adjacentes na permutação atual.
Aceitação: A razão de aceitação de Metropolis-Hastings é calculada usando informação local (Lema 4.1), permitindo que o amostrador converja para a distribuição não uniforme $p^{(\preceq, \lambda)}$ sem enumerar todas as permutações.
Estimativa: O PASV é estimado via média de Monte Carlo das contribuições marginais sobre as permutações amostradas.

5. Ferramenta de Diagnóstico: Varredura de Prioridade (Priority Sweeping)

Além das estimativas pontuais, o PASV permite uma análise de "varredura de prioridade". Ao variar o peso de um único jogador (ou grupo) $\lambda_i$ enquanto mantém os outros fixos, os profissionais podem rastrear como a avaliação muda. Isso serve como uma análise de sensibilidade para identificar contribuintes cujo crédito é instável ou altamente dependente de suposições de confiança/risco.

Resultados Principais

O artigo avalia o PASV em dois conjuntos de dados:

Avaliação de Dados (MNIST/CIFAR10):
- Configuração: Um cenário de mercado de dados com 8 provedores, incluindo dados originais, dados aumentados, saídas de modelos generativos (Boosters), cópias e dados envenenados. Um DAG complexo codifica a linhagem dos dados (ex: cópias dependem de originais).
- Descobertas: O Valor de Shapley (SV) padrão superestima o crédito para dados reutilizados. O PSV penaliza corretamente as cópias, mas trata todos os dados sintéticos igualmente. O PASV, ao ajustar os pesos, consegue diferenciar com sucesso dados sintéticos de alta qualidade (Boosters) de dados de baixa qualidade/reutilizados (Copier/Poisoner). A análise de "varredura de prioridade" revela que o valor dos dados copiados/envenenados é altamente sensível a ajustes de peso, enquanto os dados originais permanecem estáveis.
Atribuição de Características (Census Income):
- Configuração: Predição de renda >$50k usando 12 características. Os autores comparam um DAG de partição ordenada grosseiro (demografia $\prec$ socioeconômico) contra um DAG detalhado derivado de conhecimento de domínio (ex: educação $\prec$ ocupação).
- Descobertas: A escolha do DAG altera significativamente os valores de atribuição. A varredura de prioridade do PASV identifica que certas características (ex: native-country, relationship) possuem atribuições instáveis dependendo de seu peso de prioridade, enquanto outras (ex: marital-status) são robustas. Isso destaca a importância de modelar a precedência corretamente e fornece uma ferramenta para diagnosticar a sensibilidade da atribuição.

Significância e Alegações

O artigo afirma que o PASV oferece um framework unificado, expressivo e praticamente viável para atribuição em cenários com dependências e níveis de confiança variados. Suas principais contribuições são:

Unificação: É o primeiro método que lida simultaneamente com restrições de precedência gerais (DAGs) e pesos de prioridade suaves, recuperando PSV e WSV como casos especiais.
Fundamentação Teórica: Fornece uma base axiomática sólida, provando que o PASV é a regra única que satisfaz propriedades naturais para avaliação consciente de precedência e de peso.
Escalabilidade: O amostrador MCMC proposto permite a aplicação a grandes conjuntos de jogadores onde a enumeração exata é impossível.
Utilidade Prática: O diagnóstico de "varredura de prioridade" fornece um mecanismo inovador para análise de sensibilidade, permitindo que os profissionais quantifiquem o impacto das suposições de confiança/risco nos resultados de avaliação.

Os autores enfatizam que o PASV não pretende ser uma solução de "caixa preta", mas sim uma ferramenta que torna as suposições estruturais (DAG) e as suposições de prioridade (pesos) explícitas e ajustáveis, apoiando assim decisões mais robustas e interpretáveis na IA centrada em dados.