🤖 machine learning

FairDiffuseVQVAE: Sampling-Time Fairness in Tabular Diffusion via Conditional Refinement of Vector-Quantized Latents

FairDiffuseVQVAE introduce una novedosa arquitectura de dos etapas que desacopla la fidelidad de los datos de la equidad mediante el uso de un autoencoder de cuantización vectorial seguido de un refinador de difusión condicional, logrando una paridad demográfica y una igualdad de oportunidades superiores en conjuntos de datos tabulares sin comprometer la calidad de las muestras a través de penalizaciones de equidad explícitas durante el entrenamiento.

Autores originales: Nitish Nagesh, Mahdi Bagheri, Amir M. Rahmani

Publicado 2026-08-03

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Nitish Nagesh, Mahdi Bagheri, Amir M. Rahmani

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un chef intentando recrear un plato famoso y complejo para un banquete masivo. Tienes una receta (los datos) que te dice exactamente cómo sabe el plato original, pero hay un inconveniente: la receta original fue escrita por un cocinero sesgado que siempre añadía sal extra a la sopa si el invitado llevaba un sombrero rojo, y pimienta extra si llevaba uno azul. Si simplemente sigues la receta al pie de la letra, tu nuevo banquete sabrá igual de injusto. Este es el mundo de los datos sintéticos: crear conjuntos de datos falsos pero realistas para entrenar computadoras sin exponer la información privada de personas reales. El objetivo es que los datos falsos parezcan tan reales que una computadora aprenda de ellos, pero sin copiar el sesgo injusto del "sombrero rojo".

Para lograr esto, los científicos utilizan dos herramientas principales. Primero, hay modelos de difusión, que son como un escultor que comienza con un bloque de arcilla ruidosa y sin forma y, lentamente, va quitando el ruido hasta que emerge una estatua perfecta. Segundo, hay autoencoders cuantizados vectorialmente, que actúan como un traductor que convierte una oración desordenada y larga en un código corto y eficiente (como un saludo secreto) y luego de nuevo en una oración. La gran pregunta que los investigadores se plantean es: ¿Cómo nos aseguramos de que la estatua final no favorezca accidentalmente a los sombreros rojos sobre los azules, sin arruinar la forma de la estatua o hacer que parezca falsa?

Entra en escena FairDiffuseVQVAE, una nueva receta de dos etapas para crear datos justos. Los autores sugieren que, en lugar de intentar forzar la equidad en las manos del escultor mientras todavía está tallando la arcilla (lo que a menudo arruina la forma de la estatua), deberíamos dejar que el escultor se concentre puramente en hacer una estatua hermosa y precisa primero. Luego, al final, utilizamos un "filtro de equidad" durante la etapa de pulido final.

Así es como funciona su método, paso a paso:

Etapa 1: El Traductor Honesto
Primero, el sistema construye un "traductor" (un autoencoder cuantizado vectorialmente). Esta parte observa los datos reales y aprende a comprimirlos en un código compacto y eficiente y luego a reconstruirlos perfectamente. Crucialmente, a esta etapa se le ordena ignorar el "color del sombrero" (el atributo protegido) por completo. Solo quiere hacer la mejor copia posible de los datos, sin penalizaciones de equidad. Es como un fotógrafo tomando una foto de alta resolución de una multitud sin preocuparse por quién lleva qué; solo quiere que la foto sea nítida y fiel a la realidad.

Etapa 2: El Refinador Justo
Una vez que el traductor ha hecho un borrador de los datos, entra en juego una segunda herramienta: un refinador de difusión. Aquí es donde ocurre la magia. Esta herramienta está entrenada para tomar el borrador y pulirlo, pero tiene una instrucción especial: debe ser capaz de generar datos para cualquier color de sombrero, no solo para los que eran comunes en la foto original.

El truco clave es la Guía Libre de Clasificador (Classifier-Free Guidance). Imagina que el refinador es un artista que puede pintar una escena basada en una descripción. Normalmente, el artista pinta basándose en lo que vio en el mundo real. Pero aquí, el artista es entrenado para, a veces, ignorar la descripción del color del sombrero (durante el entrenamiento). Entonces, cuando llega el momento de crear los datos falsos finales, el artista recibe una instrucción específica: "Pinta una escena donde exactamente la mitad de las personas lleoren sombreros rojos y la otra mitad sombreros azules". Debido a que el artista fue entrenado para entender cómo pintar para cualquier color de sombrero, puede seguir esta nueva instrucción perfectamente. No necesita ser castigado por ser injusto; solo necesitan decirle que sea justo en el momento de la creación.

Los Resultados: Un Compromiso
El artículo probó esto en conjuntos de datos del mundo real como solicitudes de préstamos y registros de justicia penal. Los resultados fueron impactantes. Al usar este enfoque de "equidad al final", el nuevo método logró una Relación de Paridad Demográfica de 0.702, lo que representa una mejora del 47% sobre el mejor método anterior (FairTabDDPM). También alcanzó una Relación de Igualdad de Oportunidades de 0.686, un salto masivo del 100%.

Sin embargo, el artículo es honesto sobre el costo. Para obtener este nivel de equidad, el sistema tuvo que sacrificar un poco de "utilidad". La precisión de un clasificador entrenado con estos nuevos datos cayó aproximadamente 15 puntos de AUC en comparación con los modelos más precisos (pero injustos). Los autores explican que esto tiene sentido: si fuerzas a los datos a ser perfectamente justos, la computadora ya no puede usar los viejos atajos sesgados para hacer predicciones, por lo que su rendimiento en tareas del mundo real puede disminuir ligeramente. Es un intercambio deliberado: obtienes un sistema más justo, pero podrías perder un poco de poder predictivo bruto.

Lo que NO hace
El artículo también aclara lo que este método no es. No requiere un mapa complejo de relaciones de causa y efecto (como un grafo causal) para funcionar, lo que lo hace más fácil de usar que otros métodos. Sin embargo, no ofrece una prueba matemática de que siempre será justo en todos los escenarios posibles; funciona debido a cómo se realiza el muestreo, no debido a una garantía teórica. Además, en conjuntos de datos muy pequeños, el sistema a veces "memorizó" demasiado bien los datos de entrenamiento, lo cual es un riesgo para la privacidad, aunque funcionó bien en conjuntos de datos más grandes.

En resumen, FairDiffuseVQVAE demuestra que no tenemos que elegir entre un modelo realista y uno justo luchando durante el proceso de entrenamiento. En cambio, podemos construir un modelo realista primero, y luego simplemente "girar la perilla" al final para asegurar que el resultado final trate a todos por igual. Es una forma inteligente y práctica de hornear la equidad en la receta sin arruinar el sabor.

Resumen Técnico: FairDiffuseVQVAE

Declaración del Problema

Los datos tabulares sintéticos son fundamentales para el intercambio preservador de la privacidad, el aumento de datos y la mitigación del sesgo en clasificadores de etapas posteriores. Aunque los modelos de difusión de vanguardia como TabDDPM y TabSyn logran una alta fidelidad de la distribución, heredan sesgos estadísticos de los datos de entrenamiento sin mecanismos para la equidad (fairness). Por el contrario, los generadores conscientes de la equidad existentes (por ejemplo, DECAF, FairTGAN, FairTabDDPM) suelen imponer penalizaciones explícitas de equidad durante el entrenamiento. Este enfoque a menudo obliga al modelo a equilibrar la reconstrucción frente a pérdidas adversarias o auxiliares, lo que resulta en ganancias de equidad modestas a costa de una degradación significativa en la calidad de la muestra (error de estimación de densidad) o la utilidad de la etapa posterior.

Metodología: FairDiffuseVQVAE

Los autores proponen FairDiffuseVQVAE, una arquitectura de dos etapas que desacopla la fidelidad de la equidad. En lugar de términos de pérdida competitivos, la equidad se impone como una propiedad de la distribución de muestreo mediante el refinamiento condicional.

Etapa 1: Autoencoder de Cuantización Vectorial con Equidad (Fair VQ-Autoencoder)

Esta etapa se enfoca exclusivamente en aprender una representación fiel y compacta de datos tabulares de tipos mixtos sin ninguna restricción de equidad.

Arquitectura: Un autoencoder de estilo VQGAN que consiste en un codificador ( $E_\phi$ ), un libro de códigos discreto ( $Z$ ), un decodificador ( $G_\theta$ ) y un discriminador a nivel de fila ( $D_\xi$ ).
Proceso: El codificador mapea una fila $\bar{x}$ a tokens latentes $z_e$ , los cuales se cuantizan al valor más cercano del libro de códigos $z_q$ . El decodificador reconstruye la fila condicionada al atributo protegido $s$ , mientras que el codificador permanece sin condicionar.
Pérdidas: El modelo minimiza la pérdida de reconstrucción (MSE para continuos, Entropía Cruzada para categóricos), la pérdida de compromiso del libro de códigos y una pérdida adversaria de tipo GAN. Crucialmente, no se incluye ningún término de equidad en esta etapa.

Etapa 2: Refinador de Difusión Condicional en el Espacio de Entrada

Esta etapa refina la reconstrucción de la Etapa 1 en el espacio de entrada para imponer la equidad.

Arquitectura: Un refinador de difusión continuo (estilo DiffuseVAE) utilizando una formulación EDM (Elucidating the Design Space). Emplea un denoiser de MLP de 5 capas ( $D_\psi$ ).
Condicionamiento: El denoiser está condicionado a tres entradas:
1. La reconstrucción de la Etapa 1 congelada ( $\hat{\bar{x}}_{VQ}$ ).
2. El nivel de ruido $\sigma$ .
3. El atributo protegido $s$ .
Entrenamiento: El modelo se entrena con Guía Libre de Clasificador (Classifier-Free Guidance - CFG). Durante el entrenamiento, la señal de condicionamiento $s$ se descarta estocásticamente (con una probabilidad $p_{cfg}=0.3$ ) para aprender tanto la distribución condicional $p(\bar{x}|s)$ como la distribución no condicionada $p(\bar{x})$ .
Muestreo y Aplicación de la Equidad:
1. El atributo protegido $s$ se extrae de una distribución uniforme (por ejemplo, $Bernoulli(0.5)$) en lugar del marginal de los datos sesgados.
2. Se decodifican índices aleatorios del libro de códigos para formar una suposición inicial.
3. Un muestreador Heun EDM de 50 pasos refina esta suposición condicionada al $s$ uniforme y a la reconstrucción de la Etapa 1.
4. La escala de guía $w_{cfg}$ actúa como un control ajustable para controlar la fuerza del manifold condicional.

Al muestrear $s$ uniformemente y condicionar el proceso de difusión con este, la distribución conjunta sintética $p_{synth}(\bar{x}, s) = Unif(s) \cdot p(\bar{x}|s)$ satisface la Paridad Demográfica por construcción.

Contribuciones Clave

Arquitectura Novedosa: Introducción de un marco de dos etapas que combina un autoencoder de estilo VQGAN con un refinador DiffuseVAE en el espacio de entrada, diseñado específicamente para la síntesis tabular justa.
Equidad en el Tiempo de Muestreo: Demostración de que la equidad puede lograrse sin penalizaciones de pérdida explícitas aprovechando la guía libre de clasificador y el muestreo uniforme del atributo protegido durante la inferencia.
Desempeño de Vanguardia: El método logra el mayor promedio de la Razón de Paridad Demográfica (DPR) y la Razón de Igualdad de Oportunidades (EOR) en el benchmark de Yang et al. (2025), superando significativamente a las líneas base previas de equidad.
Alta Fidelidad: La arquitectura alcanza el error de correlación de columnas par a par más bajo entre todos los métodos publicados, superando incluso al de alta fidelidad TabSyn.
Reproducibilidad: Un pipeline reproducible integrado en el repositorio de TabSyn, que cubre ocho conjuntos de datos e informa un conjunto integral de métricas (densidad, correlación, AUC, DPR, EOR, DCR).

Resultados Experimentales

Evaluado en el benchmark de Yang et al. (2025) (Adult, Bank, COMPAS) y el benchmark de TabSyn:

Métricas de Equidad: FairDiffuseVQVAE logró un promedio de la Razón de Paridad Demográfica (DPR) de 0.702 (una mejora de +47% sobre FairTabDDPM) y un promedio de la Razón de Igualdad de Oportunidades (EOR) de 0.686 (una mejora de +100%).
Métricas de Calidad: Logró el error de correlación par a par más bajo (0.034), superando a TabSyn (0.041).
Compromiso de Utilidad: El método intercambia explícitamente la utilidad de la etapa posterior por la equidad. El TSTR (Entrenar en Sintético, Probar en Real) promedio de AUC fue de 0.708, aproximadamente 15 puntos inferior a las bases de modelos generativos profundos más fuertes (por ejemplo, TabSyn con 0.860). Los autores atribuyen esto al desacoplamiento de las características del atributo protegido, evitando que los clasificadores de la etapa posterior exploten el sesgo.
Privacidad: Las puntuaciones de Distancia al Registro más Cercano (DCR) fueron cercanas al ideal (0.5) para Adult y Bank, pero elevadas (0.81) para el conjunto de datos más pequeño COMPAS, lo que indica una memorización parcial en regímenes de pocos datos.

Significado y Reivindicaciones

El artículo afirma que FairDiffuseVQVAE ofrece una alternativa práctica a los métodos con base causal (como DECAF) que requieren especificaciones de grafos causales explícitos. Al desacoplar la fidelidad (Etapa 1) de la equidad (Etapa 2), la arquitectura permite optimizar la reconstrucción sin competir con las restricciones de equidad durante el entrenamiento.

Los autores enfatizan que el compromiso entre utilidad y equidad es explícito y cuantificable. Argumentan que para la síntesis consciente de la equidad, es el "comportamiento correcto" que un clasificador de la etapa posterior entrenado con datos sintéticos pierda precisión si dicha precisión derivaba de correlaciones sesgadas en los datos reales. El método proporciona un mecanismo ajustable (mediante la guía de CFG) para controlar este compromiso sin necesidad de reentrenar.

El artículo concluye que, si bien este enfoque es empírico y carece de garantías teóricas (a diferencia de los métodos causales), proporciona resultados empíricos sólidos y un marco flexible para el control del comportamiento generativo en el tiempo de muestreo. Los autores advierten que los datos sintéticos no deben tratarse como una solución de equidad independiente y recomiendan combinar su método con auditorías cualitativas e intervenciones en el lado del clasificador.