Resumo Técnico: Incentivando a Veracidade e a Equidade Colaborativa na Aprendizagem Bayesiana

Declaração do Problema

A aprendizagem de máquina (ML) colaborativa visa treinar modelos de alta qualidade agregando conjuntos de dados de múltiplas fontes. Embora os métodos existentes de valoração de dados (por exemplo, baseados em valores de Shapley) garantam a equidade colaborativa (F) recompensando as fontes com base em suas contribuições marginais, eles tipicamente assumem que os dados são submetidos "como estão". Isso cria uma vulnerabilidade: as fontes podem manipular seus dados para inflar artificialmente suas valorações e recompensas sem verificação. Estratégias comuns de não veracidade incluem:

• Duplicação: Submissão de pontos de dados repetidos para aumentar o volume do conjunto de dados ou o ganho de informação.
• Injeção de Ruído: Adição de ruído para degradar o desempenho do modelo para os outros, enquanto potencialmente manipula métricas específicas.
• Seleção de Subconjunto: Descarte de dados para melhor alinhar com um conjunto de validação conhecido.

O desafio central é projetar um mecanismo que garanta simultaneamente (F) equidade colaborativa (recompensas dependem das contribuições dos outros e refletem o verdadeiro valor marginal) e (T) veracidade (as fontes são incentivadas a submeter seu conhecimento verdadeiro, $\bar{D}_i$, em vez de conjuntos de dados manipulados $D_i$). Trabalhos existentes geralmente alcançam um ou outro, mas não ambos comprovadamente em equilíbrio.

Metodologia

O artigo propõe um mecanismo para modelos bayesianos que combina semivalores (para equidade) com uma Função de Valoração de Dados (DVF) Veraz baseada em um conjunto de validação retido desconhecido das fontes.

1. Função de Valoração de Dados (DVF)

Para incentivar a veracidade, a DVF deve depender de informações desconhecidas das fontes. Os autores definem o valor de um conjunto de dados $D_C$ (para uma coalizão $C$) como a verossimilhança logarítmica de um conjunto de validação retido $T^*$:
$$v(D_C) \triangleq \log p(T = T^* | D_C = D_C) - \log p(T = T^*)$$
Esta função depende das Hipóteses A1-A3:

• A1 (Sem Clonagem): As fontes submetem apenas um conjunto de dados.
• A2 (Acordo): Todas as fontes concordam com a estrutura do modelo bayesiano, os priores e a relação entre dados e parâmetros.
• A3 (Conjunto de Validação): As fontes acreditam que o conjunto de validação do mediador $T^*$ é extraído da distribuição verdadeira $p(T|\theta)$.

Sob essas hipóteses, a DVF é estritamente veraz: uma fonte maximiza sua valoração esperada submetendo seu conjunto de dados verdadeiro $\bar{D}_i$, pois qualquer desvio leva a uma menor verossimilhança logarítmica esperada (provado via divergência de Kullback-Leibler).

2. Semivalores Justos e Verazes

Para garantir equidade, a recompensa $r_i$ para cada fonte é calculada usando semivalores (uma generalização do valor de Shapley) aplicados ao jogo cooperativo definido pela DVF $v$. O semivalor $\phi_i[\nu^v_D]$ é uma soma ponderada das contribuições marginais:
$$\phi_i[\nu^v_D] \triangleq \sum_{C \subseteq N \setminus \{i\}} w_{|C|} [v(D_C \cup \{i\}) - v(D_C)]$$
O artigo prova que, se a DVF subjacente for veraz, o semivalor resultante também é veraz em equilíbrio. Especificamente, se todas as outras fontes submetem seus conjuntos de dados verdadeiros, a fonte $i$ maximiza seu semivalor esperado submetendo $\bar{D}_i$. Isso estabelece um equilíbrio de Nash veraz.

3. Tratamento de Restrições

O artigo aborda duas restrições práticas:

• Orçamento Limitado: Quando as recompensas devem ser limitadas ($r_i \leq B$), o mecanismo escala o semivalor. No entanto, a veracidade estrita é garantida apenas se o fator de escala for determinado antes da submissão (por exemplo, via dados históricos) para evitar dependências não lineares que as fontes poderiam explorar.
• Sem Conjunto de Validação: Em cenários sensíveis à privacidade onde um mediador não pode reter um conjunto de validação, o artigo propõe uma abordagem de "validação entre pares". Os dados de cada fonte são divididos em um conjunto de treinamento e um conjunto de validação. A recompensa para a fonte $i$ é a soma dos semivalores calculados usando os conjuntos de validação de outras fontes ($\tilde{r}_i = \sum_{j \neq i} \phi_i[\nu^{T_j}_D]$). Isso exclui o conjunto de validação próprio de $i$ para prevenir a auto-manipulação, satisfazendo condições de equidade modificadas enquanto preserva a veracidade.

Principais Contribuições

1. Primeiro Mecanismo Comprovadamente Simultâneo: O artigo apresenta o primeiro mecanismo que garante teoricamente tanto a equidade colaborativa quanto a veracidade em equilíbrio para modelos bayesianos.
2. Estrutura Teórica para Veracidade: Identifica que informações desconhecidas (um conjunto de validação) são necessárias para prevenir manipulação e fornece uma prova rigorosa de que semivalores baseados em DVFs de verossimilhança logarítmica preservam a veracidade, mesmo quando as contribuições dependem dos dados de outras fontes.
3. Relaxações para Restrições Práticas: Analisa as implicações de orçamentos limitados e da ausência de um conjunto de validação, propondo modificações específicas (por exemplo, exclusão da auto-validação) para manter os incentivos.
4. Validação Empírica: O mecanismo é validado em conjuntos de dados sintéticos e do mundo real (Friedman, Doença Cardíaca, Usina de Energia Cíclica, Sangue MNIST) com múltiplas fontes e vários modelos bayesianos (Processos Gaussianos, Regressão Logística Bayesiana, Redes Neurais Bayesianas).

Resultados

Os experimentos demonstram que:

• Veracidade: Quando as fontes submetem seus conjuntos de dados verdadeiros, elas consistentemente alcançam os maiores valores de dados e valores de Shapley em comparação com estratégias não verazes (duplicação, injeção de ruído, seleção de subconjunto ou injeção de dados sintéticos).
• Equidade: A equidade colaborativa é evidente; quando uma fonte submete um conjunto de dados de baixa qualidade ou não veraz, os valores de Shapley de outras fontes verdadeiras aumentam, refletindo sua importância relativa aumentada.
• Robustez: A veracidade mantém-se sob pequenas especificações incorretas do modelo (por exemplo, leve ruído no conjunto de validação ou pequenas desvios nas distribuições de dados). No entanto, se o conjunto de validação for altamente ruidoso ou o modelo for severamente mal especificado, estratégias não verazes (como adicionar ruído para aumentar a incerteza preditiva) podem ocasionalmente render recompensas mais altas.
• Escalabilidade: O mecanismo funciona efetivamente com 20 fontes usando estimadores não viciados para semivalores, confirmando que o cálculo exato de todas as $2^n$ coalizões não é estritamente necessário para que as garantias teóricas se mantenham em expectativa.

Significância

O artigo reivindica significância ao preencher uma lacuna crítica na aprendizagem de máquina colaborativa: o trade-off entre equidade e veracidade. Trabalhos anteriores ou garantiam equidade sem incentivar a veracidade (permitindo manipulação) ou incentivavam a veracidade sem garantir distribuição justa de recompensas (por exemplo, métodos de previsão entre pares que ignoram redundância).

Ao provar que uma DVF baseada em verossimilhança logarítmica combinada com semivalores pode satisfazer ambas as condições, os autores fornecem uma base teórica para colaboração de dados segura e justa. O trabalho enfatiza que, embora hipóteses (como um mediador confiável e um conjunto de validação) sejam necessárias, elas são razoáveis e padrão na literatura de valoração de dados. O artigo posiciona-se como um passo fundamental, reconhecendo que estender essas garantias para modelos não bayesianos ou ambientes de aprendizagem federada totalmente descentralizados permanece um desafio para pesquisas futuras.