🤖 machine learning

Harpoon: Generalised Manifold Guidance for Conditional Tabular Diffusion

Este artículo presenta HARPOON, un método de guía de variedad generalizado para la difusión tabular condicional que extiende la teoría de variedades a datos discretos y diversos objetivos de inferencia, permitiendo la generación de muestras que satisfagan restricciones específicas sin requerir el reentrenamiento.

Autores originales: Aditya Shankar, Yuandou Wang, Rihan Hai, Lydia Y. Chen

Publicado 2026-06-05

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Aditya Shankar, Yuandou Wang, Rihan Hai, Lydia Y. Chen

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot a dibujar retratos de personas. Quieres que el robot cree rostros realistas, pero también quieres darle instrucciones específicas, como "haz que la persona lleve un sombrero" o "asegúrate de que la persona lleve una camisa roja".

En el mundo de los datos, los "datos tabulares" son como una hoja de cálculo gigante con filas y columnas (por ejemplo, Edad, Ingresos, Cargo). Crear hojas de cálculo realistas que sigan reglas específicas es difícil. Si simplemente le pides a una IA estándar que complete números faltantes o que siga una regla como "La edad debe ser mayor de 18", a menudo se confunde. Podría crear una persona de 150 años, o podría romper la lógica interna de los datos (como que una persona tenga un trabajo pero no tenga ingresos).

Este artículo presenta un nuevo método llamado HARPOON para resolver este problema. Así es como funciona, explicado de forma sencilla:

1. El Problema: El Robot "Fuera de Ruta"

Los modelos de IA actuales para hojas de cálculo son como un robot que ha memorizado un conjunto específico de reglas durante su entrenamiento. Si le pides que haga algo que no ha visto antes (como un nuevo tipo de restricción), se pierde.

La forma antigua: Si quieres que el robot siga una nueva regla, a menudo tienes que detenerte, reentrenar al robot desde cero, o usar un método torpe de "rechazo" donde generas miles de imágenes malas y las descartas hasta encontrar una que funcione. Esto es lento e ineficiente.
El problema con los "Manifolds" (Variedades): Los científicos saben que los datos reales (como personas reales) no existen de forma aleatoria en una nube caótica. Existen en una forma específica y suave (como una hoja de papel curva flotando en un espacio 3D). Esta forma se llama manifold (variedad). Si obligas al robot a dibujar algo que no encaja en esta hoja, el resultado parece falso y roto. Los métodos anteriores podían mantener al robot sobre la hoja, pero solo para cosas simples y continuas (como líneas suaves), no para hojas de cálculo desordenadas con categorías (como "Masculino/Femenino" o "Rojo/Azul").

2. La Solución: El "Arpón"

Los autores se dieron cuenta de que el modelo de IA que utilizan (un "modelo de difusión") es en realidad muy bueno entendiendo esta forma oculta, incluso si no se les enseñó explícitamente.

La analogía del barco y la corriente:
Imagina que la IA es un barco que intenta navegar desde un océano tormentoso (ruido aleatorio) hacia un puerto tranquilo (una hoja de cálculo realista).

El Mapa (El Manifold): El puerto está construido sobre una costa curva y específica. Si el barco intenta navegar directamente hacia el destino pero ignora la línea de la costa, chocará contra las rocas (creando datos poco realistas).
La Brújula (El Modelo): El modelo de IA actúa como una brújula que siempre apunta hacia el punto más cercano en la línea de la costa.
El Arpón (La Guía): Esta es la nueva invención. En lugar de simplemente navegar en línea recta, el barco dispara un arpón que lo atrae a lo largo de la costa. No empuja al barco fuera de la costa; lo guía a lo largo de la curva de la tierra.

3. Cómo funciona HARPOON

HARPOON utiliza una danza inteligente de dos pasos en cada momento del proceso de generación:

El paso hacia adelante: La IA da un paso normal para limpiar los datos (eliminar el ruido).
La corrección tangencial: Inmediatamente después, verifica las "reglas" que le diste (por ejemplo, "Edad > 18"). Calcula un pequeño ajuste que mueve los datos lateralmente a lo largo de la forma de los datos reales, en lugar de empujarlos fuera de la forma.

Piensa en ello como caminar por un sendero sinuoso de montaña.

Los métodos antiguos intentarían caminar en línea recta hacia el destino, cayendo a menudo por un acantilado.
HARPOON observa el camino, da un paso hacia adelante y luego te da un suave empujón para devolverte al sendero si empiezas a desviarte, asegurando que te mantengas en el camino seguro y realista mientras avanzas hacia tu objetivo.

4. Por qué es especial

El artículo afirma tres grandes victorias:

Funciona con datos "desordenados": A diferencia de las teorías anteriores que solo funcionaban con datos continuos y suaves, HARPOON maneja hojas de cálculo con tipos mixtos (números y categorías como "Sí/No") sin necesidad de un entrenamiento especial para cada tipo.
Es flexible: No necesitas reentrenar la IA para cada nueva regla. Puedes enseñarle una vez y, luego, en el momento de la ejecución (inferencia), puedes decirle que siga cualquier regla que quieras —como completar números faltantes, o asegurar que "el salario sea mayor de $50k"— y se ajustará sobre la marcha.
Es rápido y preciso: Los autores probaron esto en muchos conjuntos de datos del mundo real (como impagos de tarjetas de crédito o hábitos de compra). HARPOON completó los datos faltantes mejor que otros métodos de vanguardia y siguió reglas complejas (como "La edad debe estar entre 18 y 65 Y el trabajo debe ser 'Ingeniero'") mucho mejor que sus competidores, sin colapsar ni producir resultados falsos.

Resumen

HARPOON es una nueva forma de guiar a la IA en la generación de hojas de cálculo realistas. En lugar de forzar a la IA a aprender cada regla de antemano, utiliza la "forma" oculta de los datos reales para guiar suavemente a la IA hacia la respuesta correcta. Es como tener un GPS que no solo te dice a dónde ir, sino que también mantiene tu coche de forma segura en la carretera, sin importar lo sinuosa que sea la ruta.

Resumen Técnico: HARPOON – Guía de Variedades Generalizada para la Difusión Tabular Condicional

Declaración del Problema

La generación de datos tabulares sujetos a condiciones específicas (restricciones) es crítica para aplicaciones como la imputación de valores faltantes y la simulación de escenarios "qué pasaría si". Aunque los modelos de difusión han emergido como el estado del arte (SOTA) para tareas generativas, los métodos actuales de difusión tabular condicional enfrentan limitaciones significativas:

Falta de Generalización: Las estrategias en tiempo de entrenamiento (por ejemplo, condicionar el modelo con restricciones específicas) no se generalizan a condiciones no vistas durante la inferencia.
Inflexibilidad: Los métodos actuales tienen dificultades para manejar objetivos diversos en el tiempo de inferencia, particularmente restricciones no lineales como desigualdades de características (por ejemplo, $Edad \ge 10$ ) o combinaciones lógicas complejas.
Brechas Teóricas: Los enfoques geométricos recientes de la difusión (que tratan los datos como si residieran en una variedad de baja dimensión) están limitados a dominios continuos con geometrías planas y pérdidas específicas en el tiempo de inferencia (por ejemplo, error cuadrático). No tienen en cuenta la naturaleza de tipos mixtos de los datos tabulares (características discretas y continuas) ni se generalizan a objetivos diferenciables arbitrarios.

Metodología: HARPOON

Los autores presentan HARPOON, un método de difusión tabular condicional que guía las muestras no condicionadas a lo largo de la geometría de la variedad para satisfacer diversas condiciones en el tiempo de inferencia sin necesidad de reentrenamiento. El enfoque se basa en la extensión de la teoría de variedades a los espacios de datos tabulares.

Fundamentos Teóricos

El artículo establece dos resultados teóricos clave para la difusión tabular operando en el espacio de datos:

Proyección Ortogonal: Los autores demuestran que un modelo de difusión entrenado con la pérdida estándar de error cuadrático aprende implícitamente un mapeo ortogonal sobre la variedad de datos subyacente ( $M_0$ ) a medida que el nivel de ruido se acerca a cero ( $\bar{\alpha}_t \to 1$ ). Esto se mantiene incluso para geometrías curvas, relajando las suposiciones de variedad plana de trabajos previos.
Gradientes del Espacio Tangente: Demuestran que el gradiente de cualquier función de pérdida diferenciable en el tiempo de inferencia ( $L_{inf}$ ) reside dentro del espacio tangente de la variedad de datos en la estimación "sucia" ( $\hat{x}_0$ ). Esto generaliza los hallazgos previos que estaban restringidos a pérdidas de error cuadrático.

Esta teoría implica que, mientras el denoiser actúa como una brújula que apunta hacia la proyección ortogonal en la variedad, los gradientes de las restricciones arbitrarias actúan como anclas que dirigen las actualizaciones tangencialmente a lo largo de la superficie de la variedad, manteniendo las muestras dentro de las capas de la distribución de datos válidas.

Algoritmo

HARPOON intercala pasos de eliminación de ruido (denoising) incondicional con correcciones de gradiente tangencial:

Estimación Sucia: En cada paso $t$ , el modelo computa una estimación "sucia" $\hat{x}_0$ mediante la reversión del proceso de adición de ruido hacia adelante.
Gradiente Tangencial: Se computa el gradiente de la pérdida en el tiempo de inferencia ( $\nabla_{x_t} L_{inf}(\hat{x}_0, c)$ ). Basado en la prueba teórica, este gradiente está restringido al espacio tangente de la variedad.
Actualización Intercalada: La muestra experimenta un paso estándar de eliminación de ruido incondicional, seguido inmediatamente por una actualización tangencial utilizando el gradiente precomputado. Este proceso se repite hasta la convergencia.

Crucialmente, la pérdida en el tiempo de inferencia ( $L_{inf}$ ) puede diferir de la pérdida de entrenamiento. Para datos tabulares, los autores utilizan pérdidas que inducen dispersión (sparsity-inducing) como el Error Absoluto Medio (MAE) y la Entropía Cruzada (CE) para características categóricas, las cuales son más adecuadas para la naturaleza discreta de los datos tabulares que el MSE estándar.

Contribuciones Clave

Teoría: El artículo proporciona los primeros resultados teóricos que vinculan las variedades con la difusión tabular, demostrando que los modelos de difusión actúan como proyectores ortogonales y que los gradientes de cualquier objetivo diferenciable en el tiempo de inferencia residen en el espacio tangente, incluso para geometrías curvas y datos de tipo mixto.
Algoritmo: El diseño de HARPOON, un mecanismo de guía libre de entrenamiento que se adapta a diversas condiciones (imputación, desigualdades, restricciones lógicas) en el tiempo de inferencia sin requerir reentrenamiento o ajuste fino (fine-tuning) por separado.
Validación Empírica: Demostración de que la guía consciente de la variedad mejora significativamente el rendimiento en diversos conjuntos de datos y tareas, particularmente en el manejo de restricciones de desigualdad donde el muestreo de rechazo o el condicionamiento en el tiempo de entrenamiento fallan.

Resultados Experimentales

Los autores evaluaron HARPOON en ocho conjuntos de datos (incluyendo benchmarks de UCI como Adult, Default y Shoppers) a través de dos tareas principales:

1. Imputación

Rendimiento: HARPOON logró un Error Cuadrático Medio (MSE) y una precisión competitivos o superiores en comparación con las líneas base SOTA (DiffPuter, Remasker, GReaT, MIRACLE, GAIN) a través de varias proporciones de valores faltantes (25%, 50%, 75%).
Robustez: A diferencia de los métodos en tiempo de entrenamiento (por ejemplo, Remasker) que se degradan con altas proporciones de valores faltantes debido a su dependencia de máscaras de entrenamiento específicas, HARPOON se mantuvo robusto.
Sensibilidad a la Pérdida: Los estudios de ablación mostraron que el uso de MAE (o MAE + CE) en la inferencia superó el uso de la pérdida MSE del tiempo de entrenamiento, validando la afirmación teórica de que la geometría de la variedad permite una selección flexible de la pérdida en la inferencia.

2. Restricciones de Desigualdad y Lógicas

Satisfacción de Restricciones: Para restricciones de rango (por ejemplo, $Edad \ge 50$ ) y restricciones categóricas, HARPOON logró tasas de violación significativamente menores (por ejemplo, <8% en Adult/Default) en comparación con DiffPuter y GReA, que exhibieron tasas de violación de 74–96% al tratar las restricciones como problemas de imputación.
Lógica Compleja: HARPOON manejó con éxito conjunciones (AND) y disyunciones (OR) de restricciones, manteniendo bajas tasas de violación y alta utilidad descendente (medida por el rendimiento del clasificador XGBoost) donde las líneas base fallaron.
Fidelidad: A pesar de imponer restricciones, HARPOAN mantuvo una alta fidelidad de la muestra (medida por la puntuación $\alpha$ ) y utilidad, indicando que las actualizaciones guiadas por la variedad no empujaron las muestras fuera de la distribución.

Eficiencia

El tiempo de ejecución de HARPOON es aproximadamente 2 veces el de una línea base de difusión incondicional (DiffPuter) debido a los pasos adicionales de computación de gradiente. Sin embargo, sigue siendo significativamente más rápido que los enfoques basados en LLM (GReaT) o en grafos causales (MIRACLE), completando el muestreo en menos de 5 segundos incluso en grandes conjuntos de datos.

Significado y Reivindicaciones

El artículo posiciona a HARPOON como un puente entre la guía de variedades teórica y la generación de datos tabulares práctica. Su significado principal reside en el paradigma de "mantener el entrenamiento simple, escalar en la inferencia":

Generalización: Elimina la necesidad de reentrenar modelos para cada nueva restricción, permitiendo que un único modelo preentrenado se adapte a condiciones no vistas.
Rigor Teórico: Extiende la teoría de la guía de variedades más allá de los dominios continuos y planos hacia la compleja geometría de tipo mixto de los datos tabulares.
Utilidad Práctica: Proporciona un mecanismo robusto para imponer restricciones estrictas (desigualdades, condiciones lógicas) que son comunes en dominios del mundo real (por ejemplo, salud, finanzas) pero difíciles de satisfacer para los modelos generativos estándar sin violar las propiedades de la distribución de los datos.

Los autores concluyen que HARPOON desbloquea beneficios prácticos para el modelado tabular del mundo real al ofrecer un mecanismo de guía general y teóricamente fundamentado que es robusto, adaptable y eficiente.