Improving TabPFN's Synthetic Data Generation by Integrating Causal Structure

Este trabajo mejora la generación de datos tabulares sintéticos del modelo TabPFN integrando la estructura causal mediante condicionamiento basado en grafos acíclicos dirigidos (DAG) y grafos acíclicos dirigidos parcialmente completados (CPDAG), lo que elimina correlaciones espurias y preserva los efectos causales al alinear el orden de generación con las relaciones causales reales.

Lo esencial

¡Claro que sí! Imagina que este paper es como una historia sobre cómo mejorar un chef robot que cocina datos.

Aquí tienes la explicación en español, sencilla y con analogías:

🍳 El Chef Robot (TabPFN) y su Problema de Orden

Imagina que tienes un chef robot muy inteligente llamado TabPFN. Su trabajo es crear "recetas" (datos) nuevas que suenen y sepan exactamente igual a las recetas reales que le das, pero sin copiarlas tal cual (para proteger la privacidad de las personas).

Este chef es increíble porque ha cocinado millones de platos antes y sabe mucho. Pero tiene un defecto: cocina paso a paso, en el orden exacto en que le entregas los ingredientes.

• El problema: Si le entregas los ingredientes en un orden que no tiene sentido lógico, el chef se confunde.
  • Ejemplo: Imagina que quieres cocinar un pastel. La lógica dice: primero pones la harina, luego los huevos, luego el horno.
  • Si le dices al chef: "Primero pon el horno encendido, luego los huevos, y al final la harina", el pastel saldrá horrible. El chef, al no saber la "causa y efecto" real, inventará conexiones falsas (como pensar que el horno encendido hace que salgan los huevos). En el mundo de los datos, esto se llama correlaciones espurias (falsas relaciones).

🧩 La Solución: El Mapa del Tesoro (Estructura Causal)

Los autores del paper dicen: "¡Espera! No le demos los ingredientes al azar. Le demos un mapa del tesoro que le diga qué va antes y qué va después".

En el mundo de los datos, este mapa se llama Estructura Causal (o DAG). Nos dice qué cosa causa qué otra.

• Causalidad: La lluvia causa que el suelo se moje.
• Error del chef: Si el chef ve el suelo mojado y luego intenta "inventar" la lluvia, podría pensar que el suelo mojado causa la lluvia (lo cual es absurdo).

🛠️ Dos nuevas estrategias para el Chef

El paper propone dos formas de darle el mapa al chef para que no se equivoque:

1. El Mapa Completo (DAG-Aware):
   Si tenemos el mapa perfecto (sabemos exactamente qué causa qué), le decimos al chef: "Oye, para cocinar el 'Suelo Mojado', solo mira la 'Lluvia'. Ignora todo lo demás".

   • Resultado: ¡El pastel sale perfecto! Los datos sintéticos son fieles a la realidad y no inventan cosas raras.

2. El Mapa a Medias (CPDAG):
   A veces no tenemos el mapa completo. Solo sabemos algunas partes (por ejemplo, sabemos que la lluvia moja el suelo, pero no sabemos si el suelo mojado afecta a los pájaros).

   • Estrategia: El chef usa lo que sabe con certeza y, para lo que no sabe, actúa como antes (paso a paso).
   • Resultado: Funciona bastante bien, pero depende de cuántas partes del mapa tengamos claras. Si el mapa está muy borroso, el chef sigue confundido.

🏥 ¿Por qué es importante esto? (El ejemplo de la medicina)

Imagina que un laboratorio de fármacos quiere probar un nuevo medicamento. No pueden probarlo en 10,000 personas reales por ética y coste, así que usan datos sintéticos generados por el chef.

• Sin el mapa: El chef inventa que "tomar el medicamento causa que el paciente tenga más hambre". En realidad, no es así. Si los científicos confían en estos datos falsos, podrían gastar millones en un medicamento que no funciona o, peor aún, descartar uno que sí funciona.
• Con el mapa: El chef respeta la lógica real. Si el medicamento funciona, los datos sintéticos dirán que funciona. Si no, dirán que no. Se preservan los efectos reales.

📝 En resumen

Este paper nos enseña que, para crear datos falsos que sean útiles y seguros (especialmente en medicina o finanzas), no basta con tener un modelo inteligente. Tenemos que enseñarle al modelo la lógica de causa y efecto.

• Si le das los datos en orden al azar, el chef inventa mentiras.
• Si le das el orden lógico (causal), el chef crea una realidad virtual tan fiel que puedes tomar decisiones importantes basándote en ella.

Es como decirle a un actor: "No improvises todo, sigue el guion de la historia real, o la película no tendrá sentido". ¡Y así, los datos sintéticos dejan de ser una fantasía y se convierten en una herramienta fiable!

Resumen técnico

1. El Problema: Sensibilidad al Orden y Correlaciones Espurias

El artículo aborda una limitación fundamental en los modelos de generación de datos tabulares basados en arquitecturas autoregresivas, específicamente en TabPFN (Tabular Prior-Data Fitted Network).

• Naturaleza Autoregresiva: TabPFN genera datos secuencialmente, condicionando cada variable ($x_i$) sobre las variables que la preceden en la secuencia de entrada ($x_0, ..., x_{i-1}$).
• El Conflicto Causal: Si el orden de las columnas en los datos de entrada no respeta la estructura causal subyacente (es decir, si se generan efectos antes que sus causas), el modelo puede condicionar variables sobre sus descendientes o colisionadores.
• Consecuencia: Esto introduce correlaciones espurias en los datos sintéticos que no existen en la realidad. Un ejemplo crítico es la estructura de "colisionador" ($X \rightarrow Z \leftarrow Y$), donde $X$ e $Y$ son independientes marginalmente. Si el modelo genera $Z$ antes que $X$ e $Y$, al condicionar $X$ e $Y$ sobre $Z$, induce una dependencia artificial entre ellos, distorsionando la distribución marginal y, crucialmente, alterando las estimaciones de efectos causales (como el Efecto Promedio del Tratamiento, ATE).

2. Metodología: Estrategias de Condicionamiento Causal

Los autores proponen integrar el conocimiento causal (total o parcial) directamente en el proceso de generación de TabPFN para alinear el orden de generación con la estructura causal real. Se proponen dos enfoques principales:

A. Condicionamiento Consciente del DAG (DAG-aware Conditioning)

Cuando se conoce el Grafo Acíclico Dirigido (DAG) completo:

• Estrategia: En lugar de condicionar cada variable sobre todas las variables anteriores en la secuencia, el modelo se condiciona exclusivamente sobre sus padres causales ($pa(X_i)$).
• Orden de Generación: Se utiliza un orden topológico del DAG, garantizando que todos los padres de una variable se generen antes que la variable misma.
• Fórmula: $C(x_{\pi(i)}) = \{x_j : x_j \rightarrow x_{\pi(i)} \text{ en } G\}$.

B. Estrategia Basada en CPDAG (Completed Partially Directed Acyclic Graph)

En escenarios reales donde el DAG completo es desconocido y solo se dispone de un CPDAG (que contiene aristas dirigidas donde la orientación es única y aristas no dirigidas donde hay ambigüedad):

• Estrategia Híbrida: Se define un orden de generación $\sigma$ que prioriza las variables con padres causales conocidos (aristas dirigidas).
  • Si una variable tiene padres definidos en el CPDAG, se condiciona solo sobre ellos.
  • Si una variable no tiene padres definidos (o solo tiene aristas no dirigidas), el modelo recurre al condicionamiento secuencial estándar (sobre todos los predecesores en el orden).
• Objetivo: Aprovechar la información causal disponible sin comprometer la generación con orientaciones de aristas incorrectas.

3. Contribuciones Clave

1. Identificación de la Sensibilidad: Demostraron que la calidad de los datos sintéticos de TabPFN depende críticamente del orden de las características, incluso con tamaños de entrenamiento grandes, debido a la falta de razonamiento causal explícito.
2. Propuesta de Estrategias Causales: Introdujeron métodos de condicionamiento que utilizan estructuras DAG completas y CPDAGs parciales, demostrando mejoras tanto en la fidelidad de la distribución como en la preservación de efectos causales.
3. Cuantificación del Impacto en Decisiones: Evaluaron cómo los errores en la generación de datos sintéticos se propagan a la estimación de efectos de tratamiento (ATE), mostrando que las estrategias causales evitan decisiones erróneas en aplicaciones críticas como el desarrollo de fármacos.

4. Resultados Experimentales

Los experimentos se realizaron en tres tipos de conjuntos de datos: un SCM (Modelo Causal Estructural) personalizado con colisionadores, seis datasets del benchmark CSuite (Microsoft) y un simulador clínico realista de diabetes tipo 1 (SimGlucose).

Calidad de los Datos Sintéticos

• Orden Topológico vs. Original: Incluso sin cambiar el mecanismo de condicionamiento, simplemente reordenar las columnas de forma topológica (padres antes que hijos) mejoró significativamente la calidad de los datos en comparación con el orden original o inverso.
• DAG-aware vs. TabPFN Estándar: El condicionamiento consciente del DAG superó consistentemente a la versión "vanilla" de TabPFN en métricas de:
  • Diferencia de Matriz de Correlación (CMD): Mejor preservación de la estructura de dependencia.
  • Distancia de Variación Total (kMTVD): Mejor fidelidad en las distribuciones marginales y bivariadas.
  • Precisión Adversarial de Vecino Más Cercano (NNAA): Mejor privacidad (los datos sintéticos son indistinguibles de los reales).
• CPDAG: La estrategia basada en CPDAG mostró mejoras moderadas, dependiendo de cuántas aristas estuvieran orientadas correctamente. Si el grafo descubierto tenía muchas aristas mal orientadas, el rendimiento podía degradarse, lo que subraya la importancia de la precisión en la orientación.

Preservación del Efecto del Tratamiento (ATE)

• Reducción de Errores: Los métodos con condicionamiento causal redujeron drásticamente el error absoluto en la estimación del ATE ($\Delta ATE$), especialmente en escenarios con pocos datos de entrenamiento ($N=20$ a $N=100$).
• Robustez: Las mejoras persistieron incluso bajo ruido más alto ($\sigma = 10^{-2}$) y en datasets con alta dimensionalidad (SimGlucose con 38 variables).
• Riesgo de Grafos Incorrectos: El uso de grafos descubiertos por algoritmos como REX (que fuerzan la orientación de todas las aristas) con baja precisión resultó en una degradación significativa, confirmando que es mejor ser conservador (usar CPDAGs con aristas no dirigidas) que asumir orientaciones incorrectas.

5. Significado e Implicaciones

Este trabajo es fundamental para la aplicación de modelos fundacionales (foundation models) en dominios de alto riesgo como la salud y las finanzas:

• Validación de Datos Sintéticos: Demuestra que la generación de datos sintéticos no es solo una tarea de ajuste de distribución, sino que debe respetar la lógica causal para ser útil en la inferencia.
• Aplicaciones en Salud: En ensayos clínicos o desarrollo de fármacos, donde los datos reales son escasos y privados, el uso de datos sintéticos generados con causalidad incorrecta podría llevar a la aprobación de medicamentos ineficaces o al rechazo de tratamientos prometedores debido a estimaciones de efecto sesgadas.
• Dirección Futura: Sugiere que la integración de conocimiento causal (o su descubrimiento conservador) es un paso necesario para hacer que los modelos autoregresivos sean fiables para la toma de decisiones basada en datos.

En resumen, el artículo establece que inyectar estructura causal en la generación autoregresiva de TabPFN mejora la fiabilidad, la estabilidad y la utilidad causal de los datos sintéticos, mitigando los sesgos introducidos por el orden arbitrario de las características.