Improving TabPFN's Synthetic Data Generation by Integrating Causal Structure

Este artigo propõe e avalia duas estratégias que integram estruturas causais (DAGs e CPDAGs) ao modelo TabPFN para corrigir a geração de dados sintéticos baseada em ordem arbitrária, demonstrando que essa abordagem melhora a fidelidade estrutural, a preservação de efeitos causais e a estabilidade dos dados sintéticos gerados.

O essencial

Imagine que você é um chef de cozinha muito talentoso, capaz de criar receitas de pratos deliciosos apenas lendo um livro de culinária. Esse chef é o TabPFN, uma inteligência artificial muito avançada que aprendeu a criar dados (como tabelas de pacientes, clientes ou produtos) lendo milhões de exemplos fictícios.

O problema é que esse chef tem um hábito peculiar: ele cozinha um ingrediente de cada vez, seguindo a ordem em que eles aparecem na lista. Se a lista diz "Farinha, depois Ovo, depois Açúcar", ele faz exatamente isso.

O Problema: A Ordem Errada Cria Sabores Falsos

Aqui está a pegadinha: na vida real, os ingredientes têm uma causa e efeito.

• Causa: Você quebra o ovo.
• Efeito: O ovo sai da casca.

Se o seu chef for desorganizado e colocar o "Ovo fora da casca" na lista antes do "Quebrar o ovo", ele vai tentar criar o ovo quebrado sem saber que ele precisa ser quebrado antes. Para compensar, o cérebro da IA começa a inventar conexões que não existem. Ela pode pensar: "Ah, se o ovo já está quebrado, talvez a farinha tenha caído sozinha!".

Isso cria correlações falsas. No mundo dos dados, isso é perigoso. Se usarmos esses dados para decidir se um remédio funciona, a IA pode achar que o remédio cura uma doença só porque, na receita bagunçada, os dois apareceram juntos por acaso.

A Solução: O "Mapa da Causa"

Os autores deste paper descobriram que, se ensinarmos ao chef a ordem lógica das causas (o "Mapa da Causa"), ele para de inventar coisas.

Eles propuseram duas formas de fazer isso:

1. O Mapa Completo (DAG): Imagine que você tem o mapa completo da cozinha, sabendo exatamente o que causa o quê.

   • Como funciona: Em vez de seguir a ordem da lista, o chef olha o mapa e pergunta: "Quem é o pai deste ingrediente?". Ele só gera o ingrediente depois de gerar os pais dele.
   • Resultado: A receita fica perfeita. Os dados sintéticos (fictícios) são tão reais que preservam a verdade sobre o que causa o quê.

2. O Mapa Parcial (CPDAG): Na vida real, nem sempre temos o mapa completo. Às vezes sabemos que "A causa B", mas não sabemos a relação entre "C" e "D".

   • Como funciona: O chef usa o que sabe. Para os ingredientes que ele conhece a causa, ele segue a lógica. Para os que não sabe, ele usa o método antigo (tentar adivinhar a ordem).
   • Resultado: Ainda é melhor do que fazer tudo no escuro, mas depende de quão bom é o mapa parcial que você tem.

O Que Eles Descobriram (Os Resultados)

Eles testaram isso em várias situações, desde receitas simples até dados complexos de diabetes:

• Sem o mapa: A IA cria dados que parecem bons, mas escondem armadilhas. Se você tentar calcular o efeito de um tratamento médico, ela pode errar feio, dizendo que um remédio ruim é ótimo.
• Com o mapa completo: A IA cria dados incrivelmente fiéis. Ela não inventa conexões falsas. Se o remédio não funciona na realidade, ela não vai fingir que funciona nos dados falsos.
• Com o mapa parcial: Funciona bem, especialmente se as partes que sabemos são as mais importantes (como o centro da receita).

Por que isso importa para você?

Pense em privacidade. Hoje, muitas empresas não podem compartilhar dados reais de pacientes por causa de leis de privacidade. Elas usam "dados sintéticos" (cópias falsas) para treinar médicos e cientistas.

Se esses dados falsos tiverem "sabores inventados" (correlações espúrias), os médicos podem tomar decisões erradas. Podem aprovar um remédio que não serve ou descartar um que salva vidas.

A lição do paper: Para criar cópias falsas de dados que sejam úteis e seguras, não basta apenas copiar os números. É preciso entender a história por trás deles (quem causou o quê). Ao ensinar a IA a respeitar essa história, tornamos a inteligência artificial mais confiável para salvar vidas e tomar decisões importantes.

Em resumo: É como dar um GPS ao chef. Sem o GPS, ele inventa rotas que não existem. Com o GPS (a estrutura causal), ele chega ao destino certo, garantindo que a receita (os dados) fique perfeita.

Resumo técnico

Resumo Técnico: Aprimorando a Geração de Dados Sintéticos do TabPFN Integrando Estrutura Causal

1. O Problema

A geração de dados tabulares sintéticos é crucial para mitigar a escassez de dados e preocupações de privacidade em domínios como saúde e finanças. O TabPFN (Tabular Prior-Data Fitted Network) é um modelo de base (foundation model) recente que demonstra alta qualidade na geração de dados sintéticos, pré-treinado em milhões de conjuntos de dados derivados de Modelos Causais Estruturais (SCMs).

No entanto, o TabPFN opera de forma autoregressiva: gera variáveis sequencialmente, condicionando cada nova variável a todas as anteriores na sequência de entrada. O artigo identifica uma limitação fundamental:

• Sensibilidade à Ordem e Viés de Colisor: Se a ordem das colunas de entrada não respeitar a estrutura causal subjacente (por exemplo, gerar um efeito antes de suas causas), o modelo pode introduzir correlações espúrias.
• Exemplo Crítico: Em uma estrutura de colisor ($X \to Z \leftarrow Y$), onde $X$ e $Y$ são independentes marginalmente, condicionar na geração de $X$ e $Y$ sobre o efeito comum $Z$ (se $Z$ aparecer antes na sequência) cria uma dependência artificial entre $X$ e $Y$. Isso distorce a distribuição marginal dos dados sintéticos e compromete a preservação de efeitos causais, como o Efeito Médio de Tratamento (ATE).

2. Metodologia

Os autores propõem integrar o conhecimento causal (total ou parcial) diretamente no processo de geração do TabPFN para alinhar a ordem de condicionamento com a estrutura causal real. São propostas duas estratégias principais:

1. Condicionamento Consciente de DAG (DAG-aware Conditioning):

   • Assume-se que o Grafo Acíclico Direcionado (DAG) completo é conhecido.
   • As variáveis são geradas seguindo uma ordenação topológica (pais antes dos filhos).
   • Crucialmente, cada variável $x_i$ é condicionada apenas aos seus pais causais diretos ($pa(x_i)$), e não a todas as variáveis geradas anteriormente na sequência.
   • Isso evita que o modelo condicione em descendentes ao gerar ancestrais, eliminando a indução de dependências espúrias.

2. Estratégia Baseada em CPDAG (Completed Partially Directed Acyclic Graph):

   • Projetada para cenários onde o grafo causal completo é desconhecido, mas uma estrutura parcial (CPDAG) está disponível (com algumas arestas orientadas e outras não).
   • Define-se uma ordem de geração híbrida: variáveis com pais causalmente conhecidos (arestas direcionadas) são geradas primeiro, condicionadas apenas a esses pais.
   • Variáveis sem orientação causal clara ou cujos pais não foram totalmente identificados revertem ao condicionamento sequencial padrão (sobre todos os predecessores na ordem).
   • O objetivo é maximizar o uso de conhecimento causal disponível sem forçar orientações incorretas.

3. Contribuições Principais

• Identificação de Limitação: Demonstração empírica de que a qualidade dos dados sintéticos do TabPFN depende criticamente da ordem das features devido à falta de raciocínio causal explícito, mesmo com tamanhos de treinamento grandes.
• Novas Estratégias de Condicionamento: Proposta de métodos que alinham a geração autoregressiva com a estrutura causal (DAG e CPDAG), superando a abordagem "vanilla" que ignora dependências causais.
• Análise de Propagação de Erros: Quantificação de como erros na geração de dados sintéticos se propagam para a estimativa de efeitos de tratamento (ATE), mostrando que dados sintéticos flawed podem levar a decisões incorretas em áreas críticas como desenvolvimento de fármacos.
• Avaliação Abrangente: Testes em benchmarks controlados (SCMs personalizados), conjuntos de dados CSuite (Microsoft) e um simulador realista de Diabetes Tipo 1 (SimGlucose).

4. Resultados

Os experimentos foram avaliados usando métricas de fidelidade estrutural (CMD), fidelidade distribucional (kMTVD), privacidade (NNAA) e preservação de efeitos causais (ATE).

• Impacto da Ordenação Topológica: Mesmo sem condicionalismo causal explícito, apenas reordenar as colunas para uma ordem topológica (pais antes de filhos) já melhora significativamente a qualidade dos dados e a preservação do ATE em comparação à ordem original ou reversa.
• Superioridade do Condicionamento DAG-aware:
  • A geração consciente de DAG superou consistentemente o TabPFN "vanilla" (com ordem original) na maioria das configurações.
  • Houve melhorias significativas na preservação da estrutura de dependência (CMD) e na redução de erros de ATE, especialmente em tamanhos de treinamento menores ($N=20$ a $N=100$).
  • O método eliminou quase completamente as correlações espúrias em estruturas de colisor, algo que o TabPFN padrão falhou em fazer.
• Eficácia do CPDAG:
  • Estratégias baseadas em CPDAG "mínimo" (orientando apenas estruturas V) mostraram melhorias moderadas, dependendo da quantidade de arestas orientadas corretamente.
  • CPDAGs descobertos a partir dos dados (usando o algoritmo PC-stable) tiveram desempenho misto: quando a precisão da orientação das arestas era baixa, o método tendia a degradar o desempenho, revertendo para o condicionamento sequencial padrão ou introduzindo erros.
• Robustez: Os benefícios do condicionamento causal persistiram mesmo em regimes de maior ruído ($\sigma = 10^{-2}$) e em dados com 38 variáveis (SimGlucose), onde a ordem correta se tornou ainda mais crítica.

5. Significado e Implicações

Este trabalho é pioneiro ao combinar um modelo de base (foundation model) com estrutura causal explícita para geração de dados tabulares. As implicações são profundas:

• Confiabilidade em Aplicações Críticas: Para domínios como saúde e política, onde dados sintéticos são usados para simular ensaios clínicos ou avaliar políticas, a preservação de efeitos causais é vital. O método proposto reduz o risco de estimativas de tratamento distorcidas.
• Superação de Limitações Autoregressivas: Demonstra que a sensibilidade à ordem em modelos autoregressivos não é um defeito irremediável, mas sim um problema de alinhamento com a causalidade que pode ser corrigido com conhecimento estrutural.
• Direção Futura: O estudo sugere que, na ausência de um DAG completo, o uso de algoritmos de descoberta causal conservadores (que deixam arestas não orientadas em vez de forçar orientações erradas) combinados com estratégias híbridas é a abordagem mais segura.

Em suma, a integração de estrutura causal no processo de geração do TabPFN transforma dados sintéticos de meras aproximações estatísticas em representações mais fiéis da realidade causal, aumentando sua utilidade para tomada de decisão baseada em dados.