Hierarchical Synthetic Tabular Data Generation: A Hybrid Top-Down and Bottom-Up Framework

Technische Samenvatting: Hiërarchische Synthetische Generatie van Tabulaire Data

Probleemstelling
Huidige benaderingen voor de generatie van synthetische tabulaire data ondervinden aanzienlijke beperkingen bij toepassing op complexe scenario's op ondernemingsniveau. Bestaande methoden vallen over het algemeen in twee categorieën: puur generatieve modellen (bijv. CTGAN, TVAE, TabDDPM) en methoden gebaseerd op Large Language Models (LLM's) (bijv. GReaT, REaLTabFormer).

• Generatieve Modellen: Hoewel ze effectief zijn in het benaderen van verdelingen, vereisen ze vaak aanzienlijke trainingsdata, worstelen ze met heterogene functietypes en lijden ze onder modale ineenstorting. Bijgevolg slagen ze er vaak niet in zeldzame gebeurtenissen en staartverdelingen te vangen, wat kritiek is in domeinen zoals fraudeopsporing. In regimes met weinig data neigen deze modellen naar overfitting en produceren ze steekproeven met weinig diversiteit.
• Op LLM gebaseerde Methoden: Deze maken gebruik van leren in context en semantische priors, maar slagen er vaak niet in structurele consistentie, logische beperkingen of functionele afhankelijkheden tussen attributen af te dwingen. Autoregressieve token-generatie kan leiden tot ongeldige of incoherente steekproeven, en sequentiële rij-tokenisatie verzwakt de modellering van heterogene interacties tussen numerieke en categorische variabelen.
• De Kernuitdaging: Een dieper, vaak over het hoofd gezien probleem is dat synthetische datageneratie vaak wordt behandeld als een puur generatief probleem, waarbij de sterk gestructureerde, heterogene en multimodale aard van echte ondernemingsdata wordt genegeerd. Uitsluitend vertrouwen op modelgegenereerde data introduceert risico's van verdelingsineenstorting, waarbij recursieve training op synthetische output de onderliggende dataverdeling geleidelijk erodeert, met name in de staarten.

Methodologie: Het H-TDBU-kader
De auteurs stellen een Hiërarchisch Hybride Top-Down en Bottom-Up (H-TDBU)-kader voor. Deze benadering ontkoppelt semantische structuren van stochastische textuur, en integreert generatieve capaciteiten met hiërarchische regelconstructie. Het kader werkt via drie distincte fasen:

1. Top-Down Pad (Structuur):

   • Doel: De logische skelet en semantische structuur van de data definiëren.
   • Mechanisme: Structuurregels worden gedefinieerd via menselijke instructies of LLM-prompten. Dit creëert een structureel sjabloon $S$ dat fungeert als een ruggengraat, waarbij abstracte factoren worden ontbonden in concrete, bemonsterbare attributen.
   • Rol van LLM's: LLM's worden alleen in dit stadium gebruikt om het schema te genereren dat structuurregels vertegenwoordigt (bijv. het mappen van doelvariabelen naar sentimenttekst). Ze genereren niet de daadwerkelijke tabulaire rijen.

2. Bottom-Up Pad (Textuur):

   • Doel: Lokale statistische patronen en realistische "textuur" leren uit echte data.
   • Mechanisme: Lichtgewicht, rekenkundig efficiënte tabulaire generators (bijv. ensemble-methoden zoals Random Forests of XGBoost, of generatieve modellen zoals CTGAN) worden getraind op echte data ($D_{real}$).
   • Output: Deze modellen produceren een representatie van de latente ruimte ($Z$) die gedetailleerde, complexe patronen vastlegt die lijken op echte data, maar mogelijk niet inherent de logische regels volgen die in het top-down stadium zijn gedefinieerd.

3. Synthese en Verzoening:

   • Doel: Het logische skelet ($S$) verenigen met de latente textuur ($Z$).
   • Mechanisme: Een geünificeerde synthese-engine, aangeduid als $X_{Syn} := G(z \in Z | S)$, genereert data uit latente ruis die consistent is met de logische beperkingen van $S$. Deze conditionele generator verzoent de twee paden.
   • Feedbacklus: Het systeem hanteert een iteratieve feedbacklus. Als de synthetische data ($D_{syn}$) faalt in cross-modale fideliteitsmetingen ($X_{Modal}$), wordt een signaal "Model Hertrainen" geactiveerd. Als het faalt in beperkingsvalidatie, wordt een signaal "Beperkingen Aanpassen" naar de Top-Down-provider gestuurd. Dit zorgt voor logische integriteit en voorkomt modeldrift.

Belangrijkste Bijdragen

• Ontkoppeling van Structuur en Textuur: Het artikel introduceert een kader dat de definitie van semantische/logische regels scheidt van de generatie van statistische textuur, waarmee de beperkingen van monolithische generatieve modellen worden aangepakt.
• Hybride Architectuur: Het integreert organisch het generatieve vermogen van lichtgewicht agents (Random Forest, XGBoost) met het structurele redeneren van LLM's, waarbij LLM's strikt worden gebruikt voor regeldefinitie in plaats van directe datageneratie.
• Iteratief Feedbackmechanisme: De opname van een verzoeningslus die cross-modale metingen en logische beperkingen valideert, staat dynamische verfijning toe van zowel de top-down regels als de bottom-up modellen.
• Zwakke Multimodale Benchmarking: De auteurs evalueren het kader op zwakke multimodale financiële benchmarks die tabulaire data combineren met sentiment-tekstdata, een scenario waarbij bestaande methoden worstelen met uitlijning en consistentie.

Experimentele Resultaten
Het kader werd geëvalueerd op vier benchmarks: twee zwakke multimodale benchmarks (Handmatig en door Gemini gegenereerd) en twee benchmarks uitsluitend voor tabulaire data (Adult Income en German Credit).

• Downstream Nut (TSTR): In de handmatig gespecificeerde zwakke multimodale benchmark presteerden conditionele methoden op basis van bomen (RandomForest en XGBoost) beter dan neurale baselines (CTGAN, TVAE). Zo bereikte RandomForest een AUROC van 0,9188 en een F1 van 0,6122, vergeleken met TVAE's 0,8827 AUROC en 0,5581 F1.
• Strikte Uitlijning (Gemini Benchmark): Bij gebruik van een door een LLM gegenereerde regelprovider die strengere uitlijning afdwong (Doel 1 uitsluitend uitgelijnd met positieve tekst), vertoonden conditionele generators aanzienlijke verbetering. RandomForest bereikte bijna perfecte metrieken (0,9998 AUROC, 0,9878 F1) en presteerde beter dan neurale baselines, die ook verbeterden maar iets lager bleven.
• Cross-Modale Fideliteit: Er werd een afweging waargenomen tussen downstream nut en cross-modale fideliteit ($X_{Modal}$). Hoewel RandomForest uitblonk in nut, behaalden Gaussian Copula en TVAE soms lagere $X_{Modal}$-waarden (betere distributieve uitlijning van tekst en tabulaire doelen).
• Ablatiestudies: Resultaten gaven aan dat prestaties worden gedreven door de interactie tussen het aantal conditionerende kolommen en de strengheid van de top-down regels. De door Gemini gegenereerde regels (strenger) profiteerden van minder conditionerende kolommen, terwijl de handmatige regels (meer permissief) profiteerden van rijkere conditionerende contexten.

Betekenis en Claims
Het artikel claimt dat hiërarchische, regelgeleide synthese een effectief mechanisme biedt voor het balanceren van controleerbaarheid, semantische coherentie en statistische fideliteit bij synthetische datageneratie.

De auteurs benadrukken dat hun aanpak niet vertrouwt op dure, recursieve LLM-generatie voor elk datapunt. In plaats daarvan bereikt het kader hoge realisme en logische consistentie door LLM's uitsluitend te gebruiken voor de top-down constructie van de "dekkingruimte" en goedkopere agent-modellen in te zetten voor de bottom-up generatie. De resultaten suggereren dat deze hybride aanpak bijzonder effectief is in regimes met weinig data en complexe multimodale scenario's, waar puur generatieve modellen falen in het vangen van zeldzame gebeurtenissen of logische afhankelijkheden, en waar pure LLM-generatie structurele strengheid mist. Het kader wordt niet gepresenteerd als een universele dominantie van één generator-type, maar als een flexibel benchmarkkader waarbij de workflow zich aanpast aan de specifieke structuur van de dataset.