Constraint-Aware Synthetic Tabular Data Generation via Inter-Column Constraint Discovery with LLM Agents

Nell'era digitale, enormi quantità di informazioni sono racchiuse in fogli di calcolo, che registrano di tutto: dagli orari dei voli alle domande di credito, dalle statistiche del basket alle cartelle cliniche. Quando i dati reali sono scarsi, sensibili o difficili da condividere, ricercatori e ingegneri si rivolgono ai dati sintetici: record generati dal computer che imitano i modelli statistici del mondo reale. Questi dataset artificiali permettono ai team di costruire e testare software, addestrare l'intelligenza artificiale ed esplorare scenari senza rischiare la privacy o esporre dettagli riservati. Tuttavia, un problema significativo affligge da tempo questo campo. Sebbene i computer siano eccellenti nel copiare la forma generale dei dati — assicurando che l'età media o la distribuzione del reddito sembrino corretti — spesso non riescono a comprendere le profonde regole logiche che legano tra loro le colonne. Un computer potrebbe generare un ordine sintetico in cui un pacco viene consegnato prima ancora che sia stato acquistato, o un record finanziario in cui il costo totale non corrisponde al prezzo moltiplicato per la quantità. Questi errori, noti come violazioni strutturali, rendono i dati simili al vero in superficie, ma li fanno crollare sotto semplici controlli logici, rendendoli inutilizzabili per analisi serie o processi decisionali.

Un team di ricercatori ha sviluppato un nuovo metodo per correggere questo difetto, creando un sistema che insegna all'intelligenza artificiale a scoprire e applicare le regole logiche nascoste di un dataset. Invece di cercare di costringere il generatore di dati a seguire regole rigide sin dall'inizio, il che spesso distorce i dati o richiede complessi riaddestramenti, il loro approccio funge da sofisticato passaggio di post-elaborazione. Il sistema utilizza innanzitutto i grandi modelli linguistici — strumenti di IA avanzati addestrati su enormi quantità di testo — per leggere le descrizioni e i record di esempio del dataset. Questi modelli agiscono come auditor curiosi, proponendo ipotesi su come le diverse colonne dovrebbero relazionarsi tra loro. Potrebbero suggerire che una data di consegna debba essere sempre successiva a una data di ordine, o che un tipo specifico di prodotto possa essere spedito solo tramite determinati metodi.

L'innovazione risiede nel modo in cui queste proposte vengono testate e perfezionate. Invece di accettare ciecamente le intuizioni dell'IA, il sistema traduce ogni idea in un'istruzione rigorosa e leggibile dalle macchine che può essere verificata su ogni singola riga dei dati originali. Se una proposta di regola fallisce anche solo poche volte, il sistema non la scarta immediatamente. Al contrario, mostra all'IA gli esempi specifici in cui la regola è stata violata, permettendo al modello di rivedere la propria ipotesi. Questo ciclo di proposta, test e correzione continua finché il sistema non si stabilizza su un insieme di regole che si dimostrano valide per l'intero dataset. I ricercatori si sono concentrati su tre tipi principali di relazioni: equazioni in cui un numero è il risultato esatto di altri, disuguaglianze in cui un valore deve essere maggiore o minore di un altro, e dipendenze logiche in cui la categoria di un elemento determina le categorie consentite di un altro.

Una volta scoperte e verificate le regole, il sistema le applica ai dati sintetici generati da qualsiasi strumento standard. Esso agisce come un coordinatore, correggendo gli errori in un ordine specifico per garantire che la correzione di un errore non ne crei un altro. Per esempio, se una regola richiede che un totale sia la somma di due parti, il sistema corregge prima il totale basandosi sulle parti, e solo successivamente adatta le parti per adattarsi a eventuali limiti più ampi. Questa attenta sequenza garantisce che il dataset finale rispetti simultaneamente tutte le leggi scoperte. Negli esperimenti, i ricercatori hanno testato questo flusso di lavoro su sette diversi dataset pubblici, che spaziavano dai record dei voli al consumo energetico dell'industria siderurgica, utilizzando quattro diversi tipi di generatori di dati. Prima della correzione, i dati sintetici contenevano spesso centinaia di violazioni, con alcuni dataset che mostravano che quasi ogni singolo record generato violava almeno una regola. Dopo che il sistema ha applicato le sue correzioni, il numero di violazioni è sceso a zero per ogni regola che poteva essere applicata.

Fondamentalmente, questa rigorosa pulizia non ha rovinato l'utilità dei dati. I ricercatori hanno misurato quanto bene i dati puliti performassero in compiti del mondo reale, come l'addestramento di un modello per prevedere il rischio di credito o i ritardi dei voli. Nella maggior parte dei casi, l'utilità dei dati è effettivamente migliorata e, nei casi peggiori, il calo delle prestazioni è stato trascurabile. Il sistema ha anche preservato le caratteristiche individuali dei dati, assicurando che la distribuzione dei valori in ogni colonna rimanesse fedele all'originale. Lo studio dimostra che trattando le regole logiche come un sistema di vincoli interagenti piuttosto che come controlli isolati, è possibile generare dati sintetici che non sono solo statisticamente simili al vero, ma anche strutturalmente solidi. Questo approccio offre una strada pratica per la creazione di dati sintetici affidabili, garantendo che i record artificiali utilizzati per addestrare i nostri sistemi futuri siano costruiti su una base di verità logica.