Resumo Técnico: Consistência Contrafactual Seletiva para Aprendizado Federado Vertical (SCC-VFL)

1. Declaração do Problema

O artigo aborda o desafio de garantir justiça individual em cenários de Aprendizado Federado Vertical (VFL) onde as características dos dados estão distribuídas entre múltiplas instituições (partes), e atributos sensíveis (por exemplo, raça, idade, gênero) podem ser mantidos privadamente por uma única parte ou um enclave.

No VFL, as partes possuem subconjuntos de características disjuntas para entidades sobrepostas. Embora o aprendizado federado permita o treinamento colaborativo de modelos sem centralizar dados brutos, ele complica a aplicação de justiça. Abordagens existentes de justiça frequentemente dependem de métricas de nível de grupo (por exemplo, paridade demográfica, odds igualizadas) ou assumem acesso total a características e grafos causais, que não estão disponíveis no VFL. Além disso, intervenções contrafactuais ingênuas no VFL são instáveis porque:

1. Visibilidade Parcial: Nenhuma parte única observa todas as características, tornando difícil determinar quais características são mediadores permitidos versus proxies impermissíveis de um atributo sensível.
2. Restrições de Privacidade: Atributos sensíveis são frequentemente privados, impedindo intervenção direta durante o treinamento.
3. Vazamento: Representações ou atualizações compartilhadas podem inadvertidamente vazar informações sensíveis ou permitir que proxies transmitam influência sensível.

Os autores focam na estabilidade contrafactual em nível individual: garantir que a previsão de um indivíduo permaneça inalterada sob uma intervenção hipotética em seu atributo protegido, desde que características não-descendentes sejam mantidas fixas e apenas mediadores permitidos pela política sejam autorizados a variar.

2. Metodologia: SCC-VFL

Os autores propõem o SCC-VFL (Consistência Contrafactual Seletiva para Aprendizado Federado Vertical), um framework centrado no servidor que operacionaliza a justiça individual através de três componentes integrados:

A. Descoberta de Máscara Livre de Grafos e com Privacidade Diferencial (DP)

Como grafos causais raramente estão disponíveis em configurações multipartes, o SCC-VFL utiliza um procedimento livre de grafos e com DP para particionar as características de cada parte em três conjuntos:

• Não-descendentes ($N$): Características que devem permanecer fixas sob uma intervenção de atributo sensível.
• Mediadores ($M$): Características que são permitidas a mudar (caminhos permitidos pela política).
• Proxies ($P$): Um subconjunto de mediadores que atuam como caminhos impermissíveis para influência sensível e devem ser suprimidos.

Mecanismo:

1. Um detentor confiável (ou enclave) gera um rascunho com DP ($z_s$) do atributo sensível $s$ cortando e adicionando ruído gaussiano a tabelas de contingência. Este rascunho satisfaz $(\epsilon, \delta)$-DP, mas não é aplicado ao pipeline de treinamento completo.
2. As partes usam $z_s$ como uma covariável auxiliar para testar se suas características locais são estatisticamente responsivas a $s$.
3. O sistema calcula duas métricas para cada característica:
   • Ganho de Risco ($\Delta_j$): Melhoria na previsão da característica quando $z_s$ é incluído.
   • Critério de Independência Hilbert-Schmidt (HSIC): Dependência residual em $z_s$ após condicionar em outras características locais.
4. Características com baixo HSIC são atribuídas a $N$; aquelas com alto HSIC são candidatas a $M$. Dentro de $M$, características com alto ganho de risco (alta sensibilidade a $s$ mas baixa relevância para a tarefa) são sinalizadas como proxies $P$.

B. Geração Contrafactual Mascaramentada

Cada parte treina um gerador condicional local (um cVAE) para criar entradas contrafactuais.

• Preservação de Identidade: Não-descendentes ($N$) são copiados exatamente ($x^{cf}_N = x_N$).
• Edição de Mediadores: Mediadores ($M$) são editados para residir no suporte da distribuição condicional $p(x_M | x_N, c, z_{s'})$, onde $z_{s'}$ é o embedding sensível alvo.
• Supressão de Vazamento: Proxies ($P$) passam inalteradas, mas estão sujeitas a uma perda adversarial. Um adversário tenta recuperar $z_s$ a partir das características de proxy contrafactuais; o gerador minimiza essa taxa de sucesso para suprimir sinais sensíveis residuais.

C. Perda de Consistência Contrafactual Seletiva (SCC) no Lado do Servidor

O servidor agrega representações de entradas contrafactuais originais e mascaradas para formar representações fundidas $z$ e $z^{cf}$.

• Penalidade de Consistência: O servidor minimiza um termo de perda $\mathcal{L}_{SCC}$ que penaliza a diferença entre previsões $f_\theta(z)$ e $f_\theta(z^{cf})$.
• Objetivo: Isso impõe que a decisão do modelo não altere arbitrariamente quando apenas mediadores permitidos pela política são editados. O objetivo total combina utilidade da tarefa, consistência SCC e restrições de validade (identidade, suporte, vazamento).

3. Contribuições Principais

1. Formulação do Problema: Definição da Consistência Contrafactual Seletiva (SCC) para VFL, visando estabilidade por instância sob intervenções especificadas pela política em vez de paridade de grupo.
2. Descoberta de Máscara com DP: Introdução de um mecanismo livre de grafos e com privacidade diferencial para identificar candidatos a não-descendentes, mediadores e proxies sem exigir um grafo causal pré-definido ou acesso a dados sensíveis brutos.
3. Geração Mascaramentada com Controle de Vazamento: Projeto de geradores locais às partes que editam apenas mediadores, enquanto impõem identidade em não-descendentes e suprimem vazamento de proxies via treinamento adversarial.
4. Aplicação Centrada no Servidor: Implementação de uma perda de consistência no servidor que penaliza mudanças de previsão impermissíveis, validada em diversos domínios.

4. Resultados Experimentais

Os autores avaliaram o SCC-VFL em três conjuntos de dados do mundo real: Crédito Alemão (Banca), Doença Cardíaca UCI (Saúde) e COMPAS Cox (Justiça Criminal), sob divisões tanto IID quanto Não-IID (mudança de distribuição).

• Métricas de Justiça: O SCC-VFL reduziu significativamente a Taxa de Inversão (FR) (a fração de amostras que mudam de previsão sob intervenção) em até 98% em comparação com bases fortes (por exemplo, Adv-NoMask, Uniform-CF, Máscara Cega à Política). Também alcançou a menor Lacuna de Consistência Seletiva (SCG).
  • Exemplo: No Crédito Alemão (Não-IID), o SCC-VFL reduziu a FR para 0,12% comparado a 6,24–8,22% para as bases.
• Utilidade: O método manteve ou melhorou a precisão preditiva e o LogLoss, demonstrando trade-offs favoráveis entre utilidade e justiça.
• Privacidade e Robustez:
  • Ataques de Inferência de Atributo (AIA): O SCC-VFL reduziu as taxas de sucesso do ataque em 4–5 pontos percentuais em comparação com as bases.
  • Ataques Subspace-PGD: Sob perturbações direcionadas de coordenadas de mediadores, o SCC-VFL mostrou as menores taxas de sucesso (por exemplo, 9,3% em $\epsilon=0,20$ versus 21,7% para Adv-NoMask), indicando fronteiras de decisão achatadas ao longo de direções sensíveis.
• Estudos de Ablação: Remover qualquer componente (descoberta de máscara, gerador ou perda de consistência) degradou o desempenho, confirmando a necessidade do pipeline completo para estabilidade e controle de vazamento.

5. Significado e Alegações

O artigo alega que o SCC-VFL fornece um alvo de justiça auditável na prática para implantações de VFL onde os dados estão em silos e atributos sensíveis são privados.

• Responsabilidade Individual: Diferentemente de métricas de nível de grupo que podem mascarar inconsistências individuais, o SCC-VFL garante que indivíduos específicos recebam decisões estáveis sob mudanças contrafactuais em atributos protegidos, alinhando-se com requisitos legais contra discriminação (por exemplo, discriminação por idade em empréstimos).
• Alinhamento com Políticas: O framework impõe uma política declarada regarding quais caminhos causais são permitidos. Não alega descobrir causalidade da verdade fundamental, mas sim operacionalizar uma especificação definida por governança ($N/M/P$) em um algoritmo de aprendizado.
• Robustez à Mudança: O método permanece eficaz em configurações Não-IID e sob mudanças de distribuição, onde métodos de base frequentemente sofrem degradação de estabilidade.
• Escopo de Privacidade: Os autores afirmam explicitamente que a garantia formal de DP aplica-se apenas ao rascunho usado para descoberta de máscara, não ao pipeline de treinamento completo (representações, gradientes ou parâmetros do modelo). Os benefícios de privacidade observados nos experimentos são reduções empíricas de vazamento sob modelos de ameaça específicos, não garantias formais de DP de ponta a ponta.

O trabalho posiciona a estabilidade contrafactual em nível individual como um complemento viável à justiça de grupo, oferecendo um mecanismo para partes interessadas auditarem, contestarem e verificarem que decisões algorítmicas não são arbitrariamente impulsionadas por atributos protegidos em ambientes de aprendizado distribuído.