Prior-Aligned Data Cleaning for Tabular Foundation Models

1. Probleemstelling: De Prior-mismatch

Het artikel adresseert een kritieke beperking bij het inzetten van Tabular Foundation Models (TFM's) zoals TabPFN v2 op real-world data.

• De Kernkwestie: TFM's bereiken state-of-the-art zero-shot nauwkeurigheid door meta-learning over synthetische data-generatieprocessen. Hun interne "prior" ($P_{synth}$) gaat uit van ongeveer schone, Gaussische-marginaal inputs met lage rates van ontbrekende waarden.
• De Mismatch: Real-world tabulaire data ($P_{dirty}$) bevat vaak ontbrekende waarden, outliers, duplicaten en distributieverschuivingen. Het invoeren van deze "vuile" data in een TFM creëert een prior-mismatch.
• Gevolgen: Deze mismatch degradeert zowel de voorspellende nauwkeurigheid als de betrouwbaarheidskalibratie (Expected Calibration Error, ECE).
• De Aantal-Rijen-Straf: In tegenstelling tot standaardmodellen, vertrouwen TFM's op In-Context Learning (ICL). De voorspellende onzekerheid van ICL schaalt als $O(1/\sqrt{n})$, waarbij $n$ de contextgrootte (aantal rijen) is. Agressieve schoonmaakstrategieën (bijvoorbeeld het verwijderen van rijen om outliers te elimineren) verhogen de onzekerheid disproportioneel omdat ze de contextgrootte niet-lineair verkleinen. Bestaande schoonmaakframeworks houden geen rekening met deze specifieke straf.
• De Uitdaging: Data-opschoning is een sequentieel beslissingsprobleem (bijvoorbeeld: het imputeren vóór versus na het verwijderen van outliers verandert de distributie die door volgende operatoren wordt gezien). Statische voorverwerkingsregels kunnen geen optimale sequenties anticiperen voor specifieke foutprofielen.

2. Methodologie: Het L2C2 Framework

De auteurs introduceren L2C2 (Learn2Clean), een diep Reinforcement Learning (RL) framework dat data-opschoning herformuleert als prior-uitlijning.

A. Markov Decision Process (MDP) Formulering

• State ($s_t$): Een 9-dimensionale vector die de huidige datasetkwaliteit vertegenwoordigt:
  • Kwaliteitsblok (6 dimensies): Rate van ontbrekende waarden, gemiddelde Wasserstein-1 afstand (drift), scheefheid, kurtosis, klasse-balans, en ratio van behouden rijen.
  • Geschiedenisblok (3 dimensies): Binaire vlaggen die aangeven of imputatie, outlier-schoonmaak of schaling al is toegepast in de episode.
• Actie ($a_t$): Een geparametriseerde schoonmaakoperatie uit drie families:
  • Imputeerders: Gemiddelde, Mediaan, KNN (met instelbare $k$).
  • Outlier-schoonmakers: IQR of Z-score (met instelbare drempels).
  • Scalers: Min-max, Z-score, Quantile.
• Transitie: Deterministische toepassing van de operator op de dataset, gevolgd door herbeoordeling van de state.
• Horizon: Vastgesteld op $T=6$ stappen per episode.

B. De Beloningsfunctie Suite

Een centrale bijdrage is de systematische analyse van beloningsontwerp. De auteurs testten zeven beloningsfuncties ($R1$–$R7$):

1. Triviale Ineenstortingen: Beloningen die uitsluitend gebaseerd zijn op volledigheid of vervorming (zonder feedback van downstream taken) stortten in tot degeneratieve strategieën (bijvoorbeeld niets doen of alle rijen verwijderen).
2. Multi-Objective Baselines: Beloningen die nauwkeurigheid (Random Forest), behoud en kwaliteitsmetrieken combineerden, toonden veelbelovende resultaten maar waren niet TFM-bewust.
3. TFMAwareReward ($R7$, Voorgesteld): De nieuwe beloningsfunctie specifiek ontworpen voor TFM's:
   $$R_{TFM} = w_{acc} \cdot Acc_{TabPFN} + w_{ret} \cdot \left(\frac{n'}{n_0}\right)^\alpha + w_{qual} \cdot Q(X') - \lambda \cdot W_1$$
   • Kerninnovatie: Het behoudsterm gebruikt een kwadratische exponent ($\alpha=2$). Dit straalt rijverwijdering niet-lineair af, wat de $O(1/\sqrt{n})$ onzekerheidsschaal van ICL weerspiegelt. Het verliezen van 20% van de rijen resulteert in een veel grotere straf dan een lineair model zou suggereren.
   • Componenten: Het balanceert TabPFN v2-nauwkeurigheid, rijbehoud, datakwaliteit (volledigheid/duplicaatverwijdering) en Wasserstein-drift.

C. Architectuur

• Policy: Diepe policy-netwerken (PPO, DQN, A2C) geïmplementeerd via Stable-Baselines3.
• Observer: Een lichtgewicht DataQualityObserver berekent de state-vector in milliseconden.
• Evaluatie: De beloning wordt berekend door TabPFN v2 uit te voeren op een vastgehouden split van de opgeschoonde data.

3. Belangrijkste Bijdragen & Experimenten

Het artikel valideert L2C2 via zes experimenten over 10 OpenML benchmark datasets:

• C1: Beloning Taxonomie: Toonde aan dat 3 van de 7 beloningsontwerpen instorten tot triviale strategieën. Alleen multi-objective beloningen die downstream taakprestaties bevatten (specifiek TFM-nauwkeurigheid) leveren zinvolle pipeline-rangschikkingen op.
• C2: Prior-Aligned vs. RF-Reward:
  • Vergelijking van pipelines geselecteerd door een Random Forest (RF) beloning versus de voorgestelde TFMAwareReward.
  • Resultaat: TFMAwareReward selecteerde structureel verschillende pipelines op 4/10 datasets (voorkeur voor gemiddelde/mediaan-imputatie boven KNN om globale marginale momenten te behouden).
  • Prestatie: De TFM-uitgelijnde aanpak behaalde hogere TabPFN v2-nauwkeurigheid bij afwijkende gevallen (Gemiddeld 0,851 vs. 0,843) en werd nooit verslagen.
• C3: Kalibratie Herstel: Prior-aligned schoonmaak verminderde de Expected Calibration Error (ECE) significant over alle fouttypes (MCAR, MAR, outliers, duplicaten), bewijzend dat schoonmaak het modelvertrouwen verbetert, niet alleen de nauwkeurigheid.
• C4: Foutgevoeligheid: Het nauwkeurigheidsvoordeel van prior-aligned schoonmaak is niet-monotoon met betrekking tot injectierates van fouten. Het hangt af van de distributie-structuur van de fouten in plaats van alleen het volume van ontbrekende data.
• C5: Geparametriseerde Acties: Het toestaan aan de policy om sub-parameters in te stellen (bijvoorbeeld KNN $k$, outlier-drempels) verbeterde de beste gevonden pipeline-beloning op 9/10 datasets in vergelijking met een discrete, vast-parameter baseline.
• C6: Transfer Learning: Een policy die vooraf is getraind op één bron-dataset (Ionosphere) en is fine-gefineerd op vastgehouden datasets (Phoneme, Adult, Bank) overtrof de prestaties van een model dat vanaf nul is getraind op het 2.000-stap checkpoint op alle drie de doelen. Dit toont aan dat "prior-uitlijningskennis" overdraagbaar is tussen domeinen.

4. Samenvatting Resultaten

• Nauwkeurigheid: L2C2 met TFMAwareReward kwam consistent overeen met of overtrof de beste greedy oracle baselines.
• Kalibratie: Significante verbeteringen in ECE, met name voor injectie van duplicaten en MAR (Missing At Random) scenario's.
• Efficiëntie: Het RL-beleid amortiseert de zoekkosten voor het vinden van optimale schoonmaaksequenties, generaliserend naar nieuwe datasets zonder hertraining vanaf nul.
• Statistische Significantie: Wilcoxon signed-rank tests bevestigden dat geparametriseerde acties resultaten significant verbeteren ($p=0.004$) en dat de TFM-uitgelijnde beloning onderscheidende, superieure pipelines selecteert in afwijkende gevallen ($p=0.063$ voor de 4 afwijkende datasets).

5. Betekenis en Impact

• Paradigmaverschuiving: Verplaatst data-opschoning van een statische, heuristische voorverwerkingsstap naar een geleerd, sequentieel beslissingsproces geoptimaliseerd voor de specifieke prior van het foundation model.
• Wetenschappelijk Inzicht: Vestigt dat beloningsontwerp het meest kritieke component is in RL-gebaseerde schoonmaak; naïeve beloningen leiden tot degeneratieve strategieën. De voorgestelde TFMAwareReward biedt een principiële manier om nauwkeurigheid, datakwaliteit en de unieke beperkingen van in-context learning in evenwicht te brengen.
• Praktische Nut: Biedt een framework voor practitioners om TFM's in te zetten op rommelige real-world data zonder grote geannoteerde corpora voor fine-tuning nodig te hebben, door de inputdistributie uit te lijnen met de synthetische prior van het model.
• Open Source: De code en datasets zijn publiek beschikbaar, wat verder onderzoek in data-centric AI en deployment van foundation modellen faciliteert.

Concluderend stelt het artikel dat voor Tabular Foundation Models, data-preparatie een eersteklas hulpmiddel is voor onzekerheidsmanagement, en dat het uitlijnen van de inputdistributie met de synthetische prior van het model via geleerde RL-beleidslijnen superieure nauwkeurigheid en kalibratie oplevert in vergelijking met standaard statische voorverwerking.