💻 computer science

Geometry-Aware Dataset Condensation for Diffusion Model Training

Este artículo propone la Condensación de Conjuntos de Datos con Conciencia Geométrica (GADC, por sus siglas en inglés), un método que reformula la selección de subconjuntos reales como un problema de alineación de distribuciones con conciencia geométrica utilizando transporte óptimo parcial unidireccional y regularización semántica para construir conjuntos de datos compactos que preserven la estructura geométrica y la fidelidad de la distribución requeridas para el entrenamiento efectivo de modelos de difusión.

Autores originales: Xiao Cui, Yulei Qin, Mo Zhu, Wengang Zhou, Hongsheng Li, Houqiang Li

Publicado 2026-06-19

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Xiao Cui, Yulei Qin, Mo Zhu, Wengang Zhou, Hongsheng Li, Houqiang Li

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que quieres enseñarle a un maestro chef (un Modelo de Difusión) a cocinar una comida perfecta. Tradicionalmente, le darías una biblioteca masiva de millones de recetas e ingredientes (el Conjunto de Datos Completo). Aunque esto funciona, toma una eternidad leerlo todo, cuesta una fortuna en almacenamiento y requiere una cocina enorme para procesarlo todo.

La Condensación de Conjuntos de Datos es la idea de crear una pequeña y perfecta "hoja de trucos" con solo unas docenas de recetas que le enseñen al chef todo lo que necesita saber, sin la hinchazón.

Sin embargo, los intentos anteriores de crear estas hojas de trucos tuvieron dos grandes problemas:

Trucos Sintéticos: Algunos intentaron inventar nuevas recetas desde cero. ¿El resultado? Las recetas se veían extrañas y sabían a falsas, confundiendo al chef.
Mala Selección: Otros intentaron simplemente elegir las "mejores" recetas existentes. Pero las eligieron basándose en una puntuación única y simple (como "¿qué tan difícil es esta receta?"). Esto pasó por alto la gran imagen, dejando fuera variaciones importantes y creando un menú sesgado.

Este artículo propone una nueva forma de construir esa hoja de trucos, llamada Condensación de Conjuntos de Datos con Conciencia Geométrica. Así es como funciona, usando analogías simples:

1. El Problema: El error "Unidimensional"

Imagina que el conjunto de datos completo es una ciudad gigante y compleja con vecindarios, parques y rascacielos (la Distribución de Datos).

Método Antiguo (D2C): Este método intentaba elegir las mejores casas clasificándolas en una sola línea recta basada en la "dificultad". Es como intentar elegir las mejores casas de una ciudad 3D mirando únicamente su altura. Podrías elegir un rascacielos alto pero vacío y perderte una cabaña acogente y esencial. Pierdes la forma de la ciudad.
El Objetivo: Necesitamos elegir un pequeño grupo de casas que represente perfectamente la forma completa de la ciudad, manteniendo intactos los parques, las calles y los vecindarios.

2. La Solución: "Transporte Parcial Unilateral"

Los autores utilizan una herramienta matemática llamada Transporte Óptimo, que es como una empresa de logística que intenta mover carga desde un almacén (el Conjunto de Datos Completo) hacia un nuevo almacén más pequeño (el Subconjunto Condensado).

La Forma Antigua (Transporte Equilibrado): Las reglas antiguas decían: "Debes mover cada grano de arena del almacén grande al pequeño, igualando perfectamente el peso".
- El Defecto: Como el almacén pequeño es diminuto, esto obliga a la empresa de logística a arrastrar arena pesada e inútible desde los bordes de la ciudad (áreas de baja densidad) solo para cumplir con la cuota de peso. Esto distorsiona el mapa.
La Nueva Forma (Transporte Parcial Unilateral): Los autores dicen: "Solo necesitamos mover la carga importante. No necesitamos mover la arena de las afueras vacías y de baja densidad".
- El Benefio: Esto permite que el pequeño almacén se concentre enteramente en el "núcleo" de la ciudad: las calles concurridas y los vecindarios populares. Asegura que el pequeño subconjunto capture la verdadera geometría (la forma y estructura) de los datos originales sin ser arrastrado por el ruido.

3. La Red de Seguridad: "Regularización Estadística"

Mover la carga no es suficiente; necesitamos asegurarnos de que el nuevo almacén todavía se sienta como la ciudad original. Los autores añaden dos "redes de seguridad":

Chequeo de Media-Varianza: Se aseguran de que la "altura" promedio y la "dispersión" de los edificios en el pequeño almacén coincidan con la gran ciudad. Si la gran ciudad tiene una mezcla de edificios altos y bajos, la pequeña debe tener esa misma mezcla.
Chequeo de Confianza: Se aseguran de que las casas seleccionadas sean claramente reconocibles. Si una casa parece un desastre borroso que podría ser un granero o un garaje, la rechazan. Esto garantiza que el "chef" no se confunda con ejemplos ambiguos.

4. La Estrategia: "Construcción Voraz + Refinamiento por Intercambio"

¿Cómo se eligen estas casas específicas? ¡No puedes revisar todas las combinaciones posibles (hay demasiadas!). Por lo tanto, utilizan una estrategia de dos pasos:

Construcción Voraz (Greedy): Comienza con un terreno vacío y añade una casa a la vez, eligiendo siempre la que mejore el mapa en ese momento. Es como construir una pieza de rompecabezas pieza por pieza.
El Intercambio: Una vez construido el rompecabezas, buscan errores. "Oye, esta casa en la esquina no está funcionando; vamos a cambiarla por aquella que está afuera". Siguen intercambiando hasta que el mapa es lo más perfecto posible.

Los Resultados

Cuando probaron este método en ImageNet (una base de datos masiva de 1.4 millones de imágenes) para entrenar generadores de imágenes de IA:

Mejor Calidad: La IA generó imágenes que se veían mucho más nítidas y diversas (puntuaciones "FID" más bajas) en comparación con métodos anteriores.
Eficiencia: Pudieron entrenar la IA utilizando solo el 0.8% de los datos originales (10,000 imágenes en lugar de 1.4 millones) y aun así obtuvieron mejores resultados que usando fragmentos aleatorios de los datos completos.
Velocidad: El proceso de selección de estas 10,000 imágenes fue mucho más rápido que los métodos anteriores.

En Resumen:
Este artículo nos enseña que para entrenar una IA poderosa con un conjunto de datos pequeño, no debes simplemente elegir los ejemplos "más difíciles" o "más fáciles". En su lugar, debes seleccionar matemáticamente un grupo diminuto de imágenes que preserve perfectamente la forma, estructura y diversidad del enorme conjunto de datos original, ignorando los bordes vacíos y ruidosos. Es como curar una exhibición de museo que captura el alma de toda una colección de historia del arte en una sola sala.

Resumen Técnico: Condensación de Conjuntos de Datos con Conciencia de la Geometría para el Entrenamiento de Modelos de Difusión

1. Planteamiento del Problema

La condensación de conjuntos de datos tiene como objetivo construir conjuntos de datos compactos a partir de datos reales mediante síntesis o selección para reducir los costes de almacenamiento y computación asociados al entrenamiento de modelos de aprendizaje profundo. Aunque los métodos de condensación existentes han mostrado éxito en tareas discriminativas (p. ej., clasificación), no son adecuados para el entrenamiento de modelos de difusión.

Limitaciones de la Síntesis: Los métodos que generan datos sintéticos mediante la optimización continua de píxeles suelen producir muestras de baja fidelidad. Los modelos de difusión son altamente sensibles al ruido y a las distorsiones estructurales, lo que hace que estas muestras sintéticas no sean aptas para un modelado auténtico.
Limitaciones de la Selección: Los métodos existentes de selección de subconjuntos reales suelen depender de criterios fijos o clasificaciones heurísticas (por ejemplo, D2C clasifica las imágenes según la dificultad de difusión a lo largo de un eje unidimensional). Estos enfoques no logran preservar la compleja geometría de la distribución requerida por los objetivos de verosimilitud de la difusión. A menudo carecen de un objetivo de optimización principista alineado con el entrenamiento de difusión, lo que da lugar a subconjuntos que están mal alineados con la distribución completa de los datos y no logran capturar la estructura de la variedad necesaria.

El desafío central es seleccionar un subconjunto real compacto que preserve la estructura geométrica y la fidelidad de la distribución del conjunto de datos completo, específicamente optimizado para los objetivos de entrenamiento basados en la verosimilitud de los modelos de difusión.

2. Metodología

Los autores proponen la Condensación de Conjuntos de Datos con Conciencia de la Geometría (GADC), que reformula la selección de subconjuntos reales como un problema de alineación de distribuciones con conciencia geométrica. El marco consta de tres componentes principales:

A. Transporte Óptimo Parcial Unilateral (POT)
Para abordar la disparidad de capacidad entre un pequeño subconjunto y el conjunto de datos completo, los autores emplean el transporte óptimo parcial unilateral.

Concepto: A diferencia del OT equilibrado que impone una alineación de masa completa, el POT unilateral permite que la masa de origen (el subconjunto seleccionado) sea totalmente transportada mientras se relaja la masa de destino (el conjunto de datos completo) bajo una restricción de capacidad.
Mecanismo: Esto permite que la masa no emparejada en las regiones periféricas de baja densidad, concentrando el transporte en las regiones dominantes, de alta densidad y geométricamente estables del manifold de los datos.
Implementación: El problema se resuelve eficientemente utilizando una reformulación de "fuente-ficticia" (dummy-source) y regularización entrópica, optimizada mediante iteraciones de Sinkhorn. Esto permite una asignación de masa flexible donde el subconjunto se enfoca en regiones representativas manteniendo la cobertura necesaria.

B. Regularización Estadística y Semántica
Para complementar la alineación geométrica y asegurar la fidelidad de la distribución, se introducen dos términos de regularización ligeros:

Regularización de Media-Varianza ( $L_{sta}$ ): Alinea las estadísticas de primer y segundo orden (media y varianza) de las representaciones de características entre el subconjunto seleccionado y el conjunto de datos completo para preservar la fidelidad de la distribución global.
Regularización de Confianza ( $L_{conf}$ ): Asegura la consistencia semántica penalizando la selección de muestras con probabilidades de clase predichas bajas. Esto evita la inclusión de anclajes geométricos no fiables que podrían comprometer la alineación.

C. Estrategia de Optimización Discreta de Dos Etapas
Dado que la selección de un subconjunto de tamaño fijo es un problema combinatorio, los autores proponen un resolvedor eficiente de dos etapas:

Etapa I (Selección Greedy Guiada por la Geometría): Un proceso de construcción incremental que selecciona muestras para minimizar el objetivo compuesto (pérdida POT + regularizaciones), estableciendo una amplia cobertura del manifold.
Etapa II (Refinamiento Basado en Intercambios): Una fase de refinamiento que realiza intercambios de pares entre muestras seleccionadas y no seleccionadas para corregir elecciones miopes tempranas, optimizando aún más la alineación geométrica global y la consistencia.

3. Contribuciones Clave

Reformulación del Problema: El artículo reformula la condensación de conjuntos de datos para modelos de difusión como un problema de alineación de distribuciones con conciencia de la geometría, alejándose de la clasificación heurística o la selección basada en escalares. Introduce un objetivo de POT unilateral con regularización estadística para seleccionar subconjuntos reales representativos.
Marco de Optimización: Propone un marco de optimización discreta de dos etapas (construcción greedy seguida de refinamiento basado en intercambios) que resuelve eficientemente el problema de alineación, evitando las limitaciones de los muestreos basados en criterios fijos o de clasificación.
Rendimiento Empírico: Experimentos extensos demuestran que el método logra una fidelidad y cobertura de distribución superiores en comparación con enfoques previos en diversas variantes de difusión (DiT, SiT), tamaños de subconjunto, resoluciones de imagen y rondas de entrenamiento.

4. Resultados Experimentales

El método fue evaluado en ImageNet-1K utilizando arquitecturas DiT-L/2 y SiT-L/2 con presupuestos de datos que van desde el 0.8% (10K imágenes) hasta el 8% (100K imágenes).

Métricas de Rendimiento: El método propuesto alcanzó consistentemente la menor Distancia de Fréchet Inception (FID) y la mayor puntuación de Inception (IS), Precisión y Recall en comparación con las líneas base, incluyendo Random Sampling, K-Center, Herding, CCS, DQ y D2C.
- Ejemplo: En ImageNet 256×256 con un presupuesto de 10K datos, el método logró un FID de 3.43, superando a D2C (4.20) y Random (35.86).
- Ejemplo: A una resolución de 512×512 con un presupuesto de 10K, el método logró un FID de 6.17, significativamente mejor que D2C (14.8).
Robustez: Las mejoras persistieron a través de diferentes variantes de difusión (DiT y SiT), diferentes protocolos de evaluación (10K vs. 50K muestras generadas) e iteraciones de entrenamiento extendidas (hasta 300K).
Eficiencia: El proceso de selección es computacionalmente eficiente. En una sola GPU, el método tardó 5.5 horas en seleccionar un subconjunto de 10K de ImageNet, en comparación con las 41.9 horas de D2C y las 30.4 horas de DQ.

Estudios de Ablación:

Eliminar la pérdida POT ( $L_{OT}$ ) degradó el FID y redujo la precisión/recall, confirmando la necesidad de la alineación geométrica.
Reemplazar el POT unilateral con OT equilibrado degradó el rendimiento, validando el beneficio de permitir masa no emparejada en las regiones periféricas.
Eliminar la regularización estadística ( $L_{sta}$ ) o de confianza ( $L_{conf}$ ) provocó un peor FID o IS, respectivamente, resaltando la importancia de las estadísticas globales y la claridad semántica.

5. Significado y Reivindicaciones

El artículo afirma que, al tratar la condensación de conjuntos de datos como un problema de alineación de distribuciones con conciencia de la geometría, logra cerrar la brecha entre la selección de datos y los requisitos específicos del entrenamiento de modelos de difusión.

Eficiencia de Datos: El método permite un modelado generativo de alta calidad en conjuntos de datos condensados, reduciendo significímicamente los costes de almacenamiento y computación asociados al entrenamiento de modelos de difusión.
Fidelidad: A diferencia de los métodos de generación sintética, el enfoque retiene la estructura de alta fidelidad de las muestras reales mientras asegura que el subconjunto se alinee con la geometría de la distribución completa de los datos.
Practicidad: El proceso de optimización de dos etapas propuesto es escalable y computacionalmente eficiente, lo que lo convierte en una solución práctica para entornos con restricciones de recursos.

Los autores concluyen que su método proporciona un sustrato de datos fiable para el entrenamiento generativo de estilo difusión, ofreciendo un camino complementario y centrado en los datos para mejorar la eficiencia junto con las optimizaciones del lado del modelo.