Hierarchical Synthetic Tabular Data Generation: A Hybrid Top-Down and Bottom-Up Framework

Resumo Técnico: Geração Hierárquica de Dados Tabulares Sintéticos

Declaração do Problema
As abordagens atuais para geração de dados tabulares sintéticos enfrentam limitações significativas quando aplicadas a cenários complexos em escala empresarial. Os métodos existentes geralmente se enquadram em duas categorias: modelos puramente generativos (por exemplo, CTGAN, TVAE, TabDDPM) e abordagens baseadas em Modelos de Linguagem de Grande Escala (LLMs) (por exemplo, GReaT, REaLTabFormer).

• Modelos Generativos: Embora eficazes na aproximação de distribuições, eles frequentemente exigem grandes volumes de dados de treinamento, lutam com tipos de recursos heterogêneos e sofrem de colapso de modos. Consequentemente, falham frequentemente em capturar eventos raros e distribuições de cauda, que são críticos em domínios como detecção de fraudes. Em regimes de poucos dados, esses modelos tendem a sobreajustar e produzir amostras de baixa diversidade.
• Métodos Baseados em LLM: Estes aproveitam a aprendizagem em contexto e priores semânticos, mas frequentemente falham em impor consistência estrutural, restrições lógicas ou dependências funcionais entre atributos. A geração autoral de tokens pode levar a amostras inválidas ou incoerentes, e a tokenização sequencial de linhas enfraquece a modelagem de interações numéricas-categoriais heterogêneas.
• O Desafio Central: Uma questão mais profunda, frequentemente negligenciada, é que a geração de dados sintéticos é frequentemente tratada como um problema puramente generativo, ignorando a natureza altamente estruturada, heterogênea e multimodal dos dados empresariais reais. Confiar exclusivamente em dados gerados por modelos introduz riscos de colapso de distribuição, onde o treinamento recursivo sobre saídas sintéticas erosiona progressivamente a distribuição de dados subjacente, particularmente nas caudas.

Metodologia: A Estrutura H-TDBU
Os autores propõem uma estrutura Hierárquica Híbrida de Topo para Baixo e de Baixo para Topo (H-TDBU). Esta abordagem desacopla estruturas semânticas de texturas estocásticas, integrando capacidades generativas com construção hierárquica de regras. A estrutura opera através de três fases distintas:

1. Caminho de Topo para Baixo (Estrutura):

   • Objetivo: Definir o esqueleto lógico e a estrutura semântica dos dados.
   • Mecanismo: Regras de estrutura são definidas via instruções humanas ou prompts de LLM. Isso cria um modelo estrutural $S$ que atua como uma espinha dorsal, decompondo fatores abstratos em atributos concretos e amostráveis.
   • Papel dos LLMs: Os LLMs são usados apenas nesta etapa para gerar o esquema representando regras de estrutura (por exemplo, mapeando variáveis-alvo para texto de sentimento). Eles não geram as linhas tabulares reais.

2. Caminho de Baixo para Topo (Textura):

   • Objetivo: Aprender padrões estatísticos locais e "textura" realista a partir de dados reais.
   • Mecanismo: Geradores tabulares leves e de baixo custo computacional (por exemplo, métodos de ensemble como Random Forests ou XGBoost, ou modelos generativos como CTGAN) são treinados em dados reais ($D_{real}$).
   • Saída: Esses modelos produzem uma representação de espaço latente ($Z$) que captura padrões detalhados e complexos semelhantes a dados reais, mas podem não seguir inerentemente as regras lógicas definidas na fase de topo para baixo.

3. Síntese e Reconciliação:

   • Objetivo: Unificar o esqueleto lógico ($S$) com a textura latente ($Z$).
   • Mecanismo: Um motor de síntese unificado, denotado como $X_{Syn} := G(z \in Z | S)$, gera dados a partir de ruído latente consistente com as restrições lógicas de $S$. Este gerador condicional reconcilia os dois caminhos.
   • Loop de Feedback: O sistema emprega um loop de feedback iterativo. Se os dados sintéticos ($D_{syn}$) falharem em métricas de fidelidade cross-modal ($X_{Modal}$), isso dispara um sinal de "Retreinar Modelo". Se falhar na validação de restrições, isso dispara um sinal de "Ajustar Restrições" para o provedor de Topo para Baixo. Isso garante integridade lógica e previne deriva do modelo.

Contribuições Principais

• Desacoplamento de Estrutura e Textura: O artigo introduz uma estrutura que separa a definição de regras semânticas/lógicas da geração de textura estatística, abordando as limitações de modelos generativos monolíticos.
• Arquitetura Híbrida: Integra organicamente o poder generativo de agentes leves (Random Forest, XGBoost) com o raciocínio estrutural de LLMs, usando LLMs estritamente para definição de regras em vez de geração direta de dados.
• Mecanismo de Feedback Iterativo: A inclusão de um loop de reconciliação que valida métricas cross-modal e restrições lógicas permite o refinamento dinâmico tanto das regras de topo para baixo quanto dos modelos de baixo para topo.
• Benchmarks Multimodais Fracos: Os autores avaliam a estrutura em benchmarks financeiros multimodais fracos que combinam dados tabulares com dados de texto de sentimento, um cenário onde os métodos existentes lutam com alinhamento e consistência.

Resultados Experimentais
A estrutura foi avaliada em quatro benchmarks: dois benchmarks multimodais fracos (Manual e gerado por Gemini) e dois benchmarks apenas tabulares (Renda Adulta e Crédito Alemão).

• Utilidade a Jusante (TSTR): No benchmark multimodal fraco especificado manualmente, métodos condicionais baseados em árvores (RandomForest e XGBoost) superaram as bases neurais (CTGAN, TVAE). Por exemplo, o RandomForest alcançou um AUROC de 0,9188 e F1 de 0,6122, comparado ao AUROC de 0,8827 e F1 de 0,5581 do TVAE.
• Alinhamento Estrito (Benchmark Gemini): Ao usar um provedor de regras gerado por LLM que impunha alinhamento mais estrito (Alvo 1 alinhado apenas com texto positivo), geradores condicionais mostraram melhoria significativa. O RandomForest alcançou métricas quase perfeitas (0,9998 AUROC, 0,9878 F1), superando as bases neurais que também melhoraram, mas permaneceram ligeiramente inferiores.
• Fidelidade Cross-Modal: Foi observada uma compensação entre utilidade a jusante e fidelidade cross-modal ($X_{Modal}$). Enquanto o RandomForest se destacou em utilidade, a Cópula Gaussiana e o TVAE às vezes alcançaram valores de $X_{Modal}$ mais baixos (melhor alinhamento distribucional de texto e alvos tabulares).
• Estudos de Ablação: Os resultados indicaram que o desempenho é impulsionado pela interação entre o número de colunas de condicionamento e a estrita das regras de topo para baixo. As regras geradas pelo Gemini (mais estritas) beneficiaram-se de menos colunas de condicionamento, enquanto as regras manuais (mais permissivas) beneficiaram-se de contextos de condicionamento mais ricos.

Significado e Alegações
O artigo alega que a síntese guiada por regras hierárquicas fornece um mecanismo eficaz para equilibrar controlabilidade, coerência semântica e fidelidade estatística na geração de dados sintéticos.

Os autores enfatizam que sua abordagem não depende de geração recursiva de LLMs cara para cada ponto de dados. Em vez disso, ao usar LLMs apenas para a construção de topo para baixo do "espaço de cobertura" e empregar modelos de agentes mais baratos para a geração de baixo para topo, a estrutura alcança alto realismo e consistência lógica. Os resultados sugerem que essa abordagem híbrida é particularmente eficaz em regimes de poucos dados e cenários multimodais complexos onde modelos puramente generativos falham em capturar eventos raros ou dependências lógicas, e onde a geração pura por LLM carece de rigor estrutural. A estrutura é apresentada não como uma dominância universal de um tipo de gerador, mas como uma estrutura de benchmark flexível onde o fluxo de trabalho se adapta à estrutura específica do conjunto de dados.