Repurposing Image Diffusion Models for Adversarial Synthetic Structured Data: A Case Study of Ground Truth Drift

A continuación se presenta un resumen técnico detallado del artículo "Reutilización de Modelos de Difusión de Imágenes para Datos Estructurados Sintéticos Adversarios: Un Estudio de Caso de la Deriva de la Verdad Terrenal".

1. Planteamiento del Problema

El artículo aborda un panorama de amenazas cambiante en la seguridad de los datos: la capacidad de adversarios con recursos limitados para generar datos estructurados sintéticos (datos tabulares) que pueden engañar a las tuberías de aprendizaje automático.

• El Cambio: Históricamente, crear datos tabulares sintéticos convincentes requería generadores especializados (por ejemplo, CTGAN, TabDDPM) o manipulación estadística manual. Los autores argumentan que los modelos de difusión de imágenes públicos y de alta capacidad (como Stable Diffusion) ahora pueden reutilizarse para esta tarea sin modificación arquitectónica.
• La Amenaza: Esto conduce a la "Deriva de la Verdad Terrenal". Se define como la reclasificación silenciosa de las salidas generadas por IA como auténticas cuando ingresan a tuberías de entrenamiento aguas abajo que no interrogan su procedencia. A diferencia del "colapso del modelo" (degradación por entrenar con salidas de IA), la deriva de la verdad terrenal ocurre cuando se introduce datos sintéticos en una tubería como si fueran reales, corrompiendo el sustrato estadístico de los modelos futuros.
• La Brecha: Las auditorías forenses actuales para datos tabulares se centran en la realidad estadística (distribuciones de columnas, correlaciones por pares) en lugar de la consistencia semántica/lógica (lógica a nivel de fila). El artículo postula que un atacante puede explotar esta brecha generando datos que superan las auditorías estadísticas pero fallan en las verificaciones semánticas.

2. Metodología

El estudio emplea un modelo de ataque de "bajos recursos" utilizando un U-Net de Stable Diffusion v1.5 sin modificar para generar datos a partir del conjunto de datos de Ingresos Adultos de la UCI.

A. Técnica Central: Reconfiguración de Entrada

Dado que los modelos de difusión esperan tensores de imagen (Altura $\times$ Ancho $\times$ Canales) y los datos tabulares son un vector plano, los autores utilizan una estrategia de reconfiguración:

1. Preprocesamiento: Las columnas categóricas se codifican con una variable ficticia (one-hot encoding); las columnas numéricas se escalan.
2. Mapeo: Cada fila se aplana en un vector de características y se mapea en una cuadrícula de un solo canal fija de $10 \times 11$ (110 píxeles).
3. Inferencia: El modelo trata estas cuadrículas como "pseudo-imágenes". Durante la generación, se muestrea ruido y los valores de píxel resultantes se leen en un orden fijo para reconstruir una fila tabular sintética.

B. Diseño Experimental: Estrategias de Diseño

Los autores hipotetizan que el sesgo de localidad espacial de las capas convolucionales (U-Net) es crítico. Las características que deben correlacionarse (por ejemplo, Sexo y Relación) deben colocarse cerca entre sí en la cuadrícula para que el modelo aprenda su relación. Se probaron tres diseños:

1. Línea Base (Arbitrario): Características colocadas en orden de procesamiento sin lógica estructural.
2. Agrupado: Características agrupadas basándose en coeficientes de correlación por pares calculados a partir de los datos de entrenamiento.
3. Manual (Semántico): Características agrupadas por relevancia semántica definida por humanos (por ejemplo, colocar Educación junto a Ocupación).

C. Métricas de Evaluación

Los datos generados (5.000 filas por diseño) se evaluaron en:

• Fidelidad Estadística: Medida mediante SDMetrics (puntuaciones de forma de columna y correlaciones por pares).
• Consistencia Semántica: Un verificador basado en reglas que marca violaciones lógicas (por ejemplo, ganancias de capital negativas, horas trabajadas > 100, pares contradictorios Sexo/Relación).
• Utilidad Aguas Abajo: Una evaluación "Entrenar en Sintético, Probar en Real" (TSTR) utilizando un clasificador de ingresos (>50k vs. $\le$ 50k).
• Riesgo de Privacidad: Puntuaciones de divulgación para verificar la memorización de datos.

3. Resultados Clave

Los resultados demuestran una divergencia marcada entre la fidelidad estadística y la consistencia semántica.

• Éxito Estadístico: Todos los diseños lograron una alta fidelidad estadística (80%+), siendo el diseño Agrupado el que mejor funcionó. El modelo aprendió con éxito las distribuciones de columnas y las correlaciones por pares sin ajuste fino.
• Fallo Semántico:
  • El diseño de Línea Base falló catastróficamente en la lógica (tasa de error del 70%), principalmente debido a ganancias de capital negativas.
  • Los diseños Manual y Agrupado redujeron los errores lógicos a ~12% al normalizar restricciones y agrupar características relacionadas.
  • Limitación: Incluso los mejores diseños no pudieron eliminar todos los errores. El U-Net simplemente intercambió un tipo de error semántico por otro (por ejemplo, reduciendo errores de "Mujer + Esposo" pero aumentando errores de "Hombre + Esposa"), lo que indica un techo impuesto por la falta de restricciones lógicas explícitas en la arquitectura.
• Utilidad Aguas Abajo: El diseño Agrupado superó significativamente a los demás en la prueba TSTR (F1=0,25 vs 0,056) porque preservó mejor la distribución conjunta de indicadores de altos ingresos (por ejemplo, correlacionando correctamente Casado, Esposo y títulos de Licenciatura).

4. Contribuciones Clave

1. Distinción Conceptual (Evidencia Sintética vs. Medios Sintéticos):
   • Medios Sintéticos: Dirigidos a humanos; juzgados por realismo perceptual (¿parece real?).
   • Evidencia Sintética: Dirigida a máquinas; juzgada por realismo estadístico (¿se ajusta a la auditoría de correlaciones?).
   • El artículo introduce la "Evidencia Sintética" como una categoría distinta de material generado por IA destinado a tuberías de evidencia cerradas.
2. Convertibilidad Arquitectónica:
   • Demuestra que un modelo entrenado para tareas perceptuales (imágenes) puede convertirse en tareas estadísticas (tablas) simplemente reconfigurando el tensor de entrada, sin reentrenamiento ni ajuste fino.
3. Deriva de la Verdad Terrenal por Diseño:
   • Mientras que los ejemplos anteriores de deriva fueron accidentales (por ejemplo, imágenes médicas mal etiquetadas), este estudio prueba que la deriva puede ser inducida deliberadamente por un adversario utilizando herramientas comerciales.
4. La "Brecha de Auditoría":
   • El estudio destaca que las auditorías tabulares estándar (verificar columnas y correlaciones) son insuficientes para detectar datos sintéticos adversarios generados por modelos de imágenes, ya que estos modelos superan las verificaciones estadísticas mientras fallan en la lógica a nivel de fila.

5. Significado e Implicaciones

• Barrera de Entrada Reducida: El costo de fabricar datos sintéticos adversarios ha pasado de requerir experiencia en entrenamiento de modelos a requerir solo acceso a tuberías de datos y un modelo de imágenes público. Esto democratiza la capacidad de envenenar conjuntos de datos.
• Vulnerabilidad Forense: Los métodos forenses tradicionales (buscar artefactos de edición manual como IDs fuera de secuencia o entradas duplicadas) fallarán contra datos generados por difusión. Las filas generadas están estadísticamente "limpias" y carecen de las huellas dactilares de la manipulación humana.
• El Techo Semántico: La defensa principal contra este ataque es actualmente la validación semántica a nivel de fila. Aunque el modelo supera las auditorías estadísticas, aún produce filas lógicamente imposibles (por ejemplo, ingresos negativos). Sin embargo, a medida que los modelos mejoren o los atacantes añadan post-procesamiento, esta brecha podría cerrarse.
• Ancla del Mundo Real: El artículo hace referencia al caso de Francesca Gino (una profesora de Harvard acusada de mala conducta en la investigación) para ilustrar las apuestas. Si un adversario pudiera usar un modelo de difusión para generar datos sintéticos que respalden una hipótesis, sería casi imposible distinguirlo de datos reales utilizando la forense estadística actual, lo que potencialmente socavaría la integridad científica y los sistemas de detección de fraudes.

Conclusión: El artículo concluye que la frontera entre "medios" y "evidencia" ha colapsado en el punto de generación. Un modelo de visión sin modificar puede producir datos estructurados que satisfacen las auditorías estadísticas de las tuberías modernas de aprendizaje automático, creando un nuevo vector de bajo costo para la Deriva de la Verdad Terrenal.