🤖 machine learning

FairDiffuseVQVAE: Sampling-Time Fairness in Tabular Diffusion via Conditional Refinement of Vector-Quantized Latents

O FairDiffuseVQVAE introduz uma nova arquitetura de dois estágios que desacopla a fidelidade dos dados da equidade ao utilizar um autoencoder vetorizado seguido por um refinador de difusão condicional, alcançando paridade demográfica e igualdade de oportunidades superiores em conjuntos de dados tabulares sem comprometer a qualidade das amostras através de penalidades de equidade explícitas durante o treinamento.

Autores originais: Nitish Nagesh, Mahdi Bagheri, Amir M. Rahmani

Publicado 2026-08-03

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Nitish Nagesh, Mahdi Bagheri, Amir M. Rahmani

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um chef tentando recriar um prato famoso e complexo para um banquete de grande escala. Você tem uma receita (os dados) que diz exatamente como o prato original sabe, mas há um detalhe: a receita original foi escrita por um cozinheiro tendencioso que sempre adicionava sal extra à sopa se o convidado estivesse usando um chapéu vermelho, e pimenta extra se estivesse usando um azul. Se você apenas seguir a receita exatamente, seu novo banquete terá um gosto igualmente injusto. Este é o mundo dos dados sintéticos: criar conjuntos de dados falsos, mas realistas, para treinar computadores sem expor as informações privadas de pessoas reais. O objetivo é fazer com que os dados falsos pareçam tão reais que um computador aprenda com eles, mas sem copiar o viés injusto do "chapéu vermelho".

Para fazer isso, os cientistas usam duas ferramentas principais. Primeiro, existem os modelos de difusão, que são como um escultor que começa com um bloco de argila barulhento e sem forma e, lentamente, vai removendo o ruído até que uma estátua perfeita emerja. Segundo, existem os autoencoders de quantização vetorial, que atuam como um tradutor que transforma uma frase longa e bagunçada em um código curto e eficiente (como um aperto de mão secreto) e depois de volta para uma frase novamente. A grande questão que os pesquisadores estão fazendo é: Como garantimos que a estátua final não favoreça acidentalmente os chapéus vermelhos sobre os azuis, sem estragar a forma da estátua ou fazê-la parecer falsa?

Apresentamos o FairDiffuseVQVAE, uma nova receita de dois estágios para criar dados justos. Os autores sugerem que, em vez de tentar forçar a justiça nas mãos do escultor enquanto ele ainda está esculpindo a argila (o que frequentemente estraga a forma da estátia), devemos deixar o escultor focar puramente em fazer uma estátua bela e precisa primeiro. Então, no final de tudo, usamos um "filtro de justiça" durante a etapa de polimento final.

Eis como o método deles funciona, passo a passo:

Estágio 1: O Tradutor Honesto
Primeiro, o sistema constrói um "tradutor" (um autoencoder de quantização vetorial). Esta parte observa os dados reais e aprende a comprimi-los em um código compacto e eficiente e, em seguida, reconstruí-los perfeitamente. Crucialmente, esta etapa é instruída a ignorar totalmente a "cor do chapéu" (o atributo protegido). Ela quer apenas fazer a melhor cópia possível dos dados, sem penalidades de justiça. É como um fotógrafo tirando uma foto de alta resolução de uma multidão sem se preocupar com quem está usando o quê; ele apenas quer que a foto seja nítida e fiel à realidade.

Estágio 2: O Refinador Justo
Uma vez que o tradutor tenha feito um rascunho bruto dos dados, uma segunda ferramenta entra em cena: um refinador de difusão. É aqui que a mágica acontece. Esta ferramenta é treinada para pegar o rascunho e poli-lo, mas tem uma instrução especial: ela deve ser capaz de gerar dados para qualquer cor de chapéu, não apenas para as que eram comuns na foto original.

O truque principal é o Guia Livre de Classificador (Classifier-Free Guidance). Imagine que o refinador é um artista que pode pintar uma cena baseada em uma descrição. Normalmente, eles pintam com base no que viram no mundo real. Mas aqui, o artista é treinado para, às vezes, ignorar a descrição da cor do chapéu (durante o treinamento). Então, quando chega a hora de criar os dados falsos finais, o artista recebe uma instrução específica: "Pinte uma cena onde exatamente metade das pessoas use chapéus vermelhos e metade use chapéus azuis". Como o artista foi treinado para entender como pintar para qualquer cor de chapéu, ele consegue seguir essa nova instrução perfeitamente. Ele não precisa ser punido por ser injusto; ele só precisa ser instruído a ser justo no momento da criação.

Os Resultados: Uma Troca
O artigo testou este método em conjuntos de dados do mundo real, como solicitações de empréstimos e registros de justiça criminal. Os resultados foram impressionantes. Ao usar esta abordagem de "justiça no final", o novo método alcançou uma Razão de Paridade Demográfica de 0,702, o que representa uma melhora de 47% sobre o melhor método anterior (FairTabDDPM). Também atingiu uma Razão de Igualdade de Oportunidades de 0,686, um salto massivo de 100%.

No entanto, o artigo é honesto sobre o custo. Para obter este nível de justiça, o sistema teve que sacrificar um pouco da "utilidade". A precisão de um classificador treinado com esses novos dados caiu cerca de 15 pontos de AUC em comparação com os modelos mais precisos (mas injustos). Os autores explicam que isso faz sentido: se você forçar os dados a serem perfeitamente justos, o computador não poderá mais usar os antigos atalhos enviesados para fazer previsões, então seu desempenho em tarefas do mundo real pode cair ligeiramente. É uma troca deliberada: você obtém um sistema mais justo, mas pode perder um pouco do poder preditivo bruto.

O Que Ele Não Faz
O artigo também esclarece o que este método não é. Ele não exige um mapa complexo de relações de causa e efeito (como um gráfico causal) para funcionar, o que o torna mais fácil de usar do que outros métodos. No entanto, não oferece uma prova matemática de que será sempre justo em todos os cenários possíveis; ele funciona devido à forma como a amostragem é feita, não por uma garantia teórica. Além disso, em conjuntos de dados muito pequenos, o sistema às vezes "memorizou" os dados de treinamento muito bem, o que é um risco para a privacidade, embora tenha funcionado bem em conjuntos de dados maiores.

Em resumo, o FairDiffuseVQVAE mostra que não precisamos escolher entre um modelo realista e um modelo justo lutando durante o processo de treinamento. Em vez disso, podemos construir um modelo realista primeiro e, depois, simplesmente "ajustar o botão" no final para garantir que o resultado final trate todos igualmente. É uma maneira inteligente e prática de incorporar a justiça na receita sem estragar o sabor.

Resumo Técnico: FairDiffuseVQVAE

Definição do Problema

Dados tabulares sintéticos são críticos para o compartilhamento preservador de privacidade, aumento de dados e mitigação de viés em classificadores downstream. Embora modelos de difusão de última geração como TabDDPM e TabSyn alcancem alta fidelidade de distribuição, eles herdam vieses estatísticos dos dados de treinamento sem mecanismos para equidade (fairness). Por outro lado, geradores de equidade existentes (ex: DECAF, FairTGAN, FairTabDDPM) tipicamente impõem penalidades de equidade explícitas durante o treinamento. Essa abordagem frequentemente força o modelo a equilibrar a reconstrução contra perdas adversariais ou auxiliares, resultando em ganhos modestos de equidade ao custo de uma degradação significativa na qualidade das amostras (erro de estimativa de densidade) ou utilidade downstream.

Metodologia: FairDiffuseVQVAE

Os autores propõem o FairDiffuseVQVAE, uma arquitetura de dois estágios que desacopla fidelidade de equidade. Em vez de termos de perda competitivos, a equidade é imposta como uma propriedade da distribuição de amostragem via refinamento condicional.

Estágio 1: Autoencoder Vetorial Quantizado Justo (Fair VQ-Autoencoder)

Este estágio foca exclusivamente em aprender uma representação fiel e compacta de dados tabulares de tipos mistos, sem quaisquer restrições de equidade.

Arquitetura: Um autoencoder estilo VQGAN consistindo em um codificador ( $E_\phi$ ), um código de livros discreto ( $Z$ ), um decodificador ( $G_\theta$ ) e um discriminador por linha ( $D_\xi$ ).
Processo: O codificador mapeia uma linha $\bar{x}$ para tokens latentes $z_e$ , que são quantizados para a entrada mais próxima do código de livros $z_q$ . O decodificador reconstrói a linha condicionada ao atributo protegido $s$ , enquanto o codificador permanece não condicionado.
Perdas: O modelo minimiza a perda de reconstrução (MSE para contínuos, Entropia Cruzada para categóricos), perda de comprometimento do código de livros e uma perda adversária GAN. Crucialmente, nenhum termo de equidade é incluído neste estágio.

Estágio 2: Refinador de Difusão no Espaço de Entrada Condicional

Este estágio refina a reconstrução do Estágio 1 no espaço de entrada para impor equidade.

Arquitetura: Um refinador de difusão contínua (estilo DiffuseVAE) usando uma formulação EDM (Elucidating the Design Space). Ele utiliza um denoiser MLP de 5 camadas ( $D_\psi$ ).
Condicionamento: O denoiser é condicionado a três entradas:
1. A reconstrução congelada do Estágio 1 ( $\hat{\bar{x}}_{VQ}$ ).
2. O nível de ruído $\sigma$ .
3. O atributo protegido $s$ .
Treinamento: O modelo é treinado com Orientação Livre de Classificador (Classifier-Free Guidance - CFG). Durante o treinamento, o sinal de condicionamento $s$ é descartado estocasticamente (com probabilidade $p_{cfg}=0.3$ ) para aprender tanto as distribuições condicionais $p(\bar{x}|s)$ quanto as não condicionais $p(\bar{x})$ .
Amostragem e Imposição de Equidade:
1. O atributo protegido $s$ é extraído de uma distribuição uniforme (ex: $Bernoulli(0.5)$), em vez da margem enviesada dos dados.
2. Índices aleatórios do código de livros são decodificados para formar um palpite inicial.
3. Um amostrador Heun EDM de 50 passos refina este palpite condicionado ao $s$ uniforme e à reconstrução do Estágio 1.
4. A escala de orientação $w_{cfg}$ atua como um botão giratório ajustável para controlar a força do manifold condicional.

Ao amostrar $s$ uniformemente e condicionar o processo de difusão a ele, a distribuição conjunta sintética $p_{synth}(\bar{x}, s) = Unif(s) \cdot p(\bar{x}|s)$ satisfaz a Paridade Demográfica por construção.

Principais Contribuições

Arquitetura Inovadora: Introdução de um framework de dois estágios combinando um autoencoder estilo VQGAN com um refinador DiffuseVAE no espaço de entrada, especificamente projetado para síntese tabular justa.
Equidade no Tempo de Amostragem: Demonstração de que a equidade pode ser alcançada sem penalidades de perda explícitas, aproveando a orientação livre de classificador e a amostragem uniforme do atributo protegido durante a inferência.
Desempenho de Ponta (State-of-the-Art): O método atinge o maior meio de Razão de Paridade Demográfica (DPR) e Razão de Igualdade de Oportunidades (EOR) no benchmark de Yang et al. (2025), superando significativamente os baselines anteriores de equidade.
Alta Fidelidade: A arquitetura atinge o menor erro médio de correlação de colunas par a par entre todos os métodos publicados, superando até mesmo o de alta fidelidade TabSyn.
Reprodutibilidade: Um pipeline reprodutível integrado ao repositório TabSyn, cobrindo oito conjuntos de dados e reportando um conjunto abrangente de métricas (densidade, correlação, AUC, DPR, EOR, DCR).

Resultados Experimentais

Avaliado no benchmark de Yang et al. (2025) (Adult, Bank, COMPAS) e no benchmark TabSyn:

Métricas de Equidade: O FairDiffuseVQVAE alcançou uma Razão de Paridade Demográfica (DPR) média de 0.702 (uma melhoria de +47% sobre o FairTabDDPM) e uma Razão de Igualdade de Oportunidades (EOR) média de 0.686 (uma melhoria de +100%).
Métricas de Qualidade: Alcançou o menor erro de correlação par a par médio (0.034), superando o TabSyn (0.041).
Trade-off de Utilidade: O método troca explicitamente utilidade downstream por equidade. O TSTR (Treinar no Sintético, Testar no Real) AUC médio foi de 0.708, aproximadamente 15 pontos inferior aos baselines generativos profundos mais fortes (ex: TabSyn em 0.860). Os autores atribuem isso ao desacoplamento das características do atributo protegido, impedindo que classificadores downstream explorem o viés.
Privacidade: As pontuações de Distância ao Registro Mais Próximo (DCR) foram próximas do ideal (0.5) para Adult e Bank, mas elevaram-se (0.81) para o conjunto de dados menor COMPAS, indicando memorização parcial em regimes de dados pequenos.

Significância e Alegações

O artigo afirma que o FairDiffuseVQVAE oferece uma alternativa prática aos métodos causalmente fundamentados (como o DECAF) que exigem especificações de grafos causais explícitos. Ao desacoplar a fidelidade (Estágio 1) da equidade (Estágio 2), a arquitetura permite que o modelo otimize a reconstrução sem competir com restrições de equidade durante o treinamento.

Os autores enfatizam que o trade-off utilidade-equidade é explícito e quantificável. Eles argumentam que, para a síntese focada em equidade, é o "comportamento correto" que um classificador downstream treinado em dados sintéticos perca precisão se essa precisão derivou de correlações enviesadas nos dados reais. O método fornece um mecanismo ajustável (via escala de orientação CFG) para controlar esse trade-off sem necessidade de retreinamento.

O artigo conclui que, embora a abordagem seja empírica e careça de garantias teóricas (ao contrário de métodos causais), ela fornece resultados empíricos fortes e um framework flexível para controle do comportamento generativo no tempo de amostragem. Os autores alertam que dados sintéticos não devem ser tratados como uma solução de equidade isolada e recomendam combinar seu método com auditorias qualitativas e intervenções no lado do classificador.