Sintesi Tecnica: K-IPO (Kendall-Constrained Importance-Preserving Oversampling)

1. Definizione del Problema

Lo squilibrio delle classi nella classificazione tabulare supervisionata rimane una sfida significativa, portando spesso i modelli a favorire i pattern della classe maggioritaria e risultando in confini decisionali distorti. Sebbene l'oversampling sia una strategia ampiamente adottata per affrontare questo problema, i metodi esistenti (che spaziano dalla replica casuale ai modelli generativi profondi) ottimizzano principalmente il bilanciamento delle classi, la fedeltà distributiva o l'utilità predittiva a valle. Un limite critico, spesso trascurato, è che questi metodi possono distorcere la classificazione dell'importanza delle caratteristiche (feature importance ranking) che sta alla base delle spiegazioni del modello.

Nei domini ad alto rischio (ad esempio, sanità, finanza), la spiegabilità è fondamentale. Se l'oversampling altera quali predittori appaiono più influenti per un modello addestrato, le spiegazioni risultanti potrebbero non riflettere più il compito di predizione originale, minando la fiducia e la riproducibilità. Gli attuali framework trattano questo "drift della spiegazione" (explanation drift) principalmente come un problema diagnostico post-hoc piuttosto che prevenirlo durante il processo di aumento dei dati.

2. Metodologia: Framework K-IPO

Gli autori propongono K-IPO (Kendall-constrained Importance-Preserving Oversampling), un framework "generatore-agnostico" basato sul paradigma "genera-e-seleziona", progettato per preservare la classificazione dell'importanza delle caratteristiche del set di dati originale durante l'aumento.

Flusso di Lavoro Principale

1. Profilazione di Riferimento: Prima dell'aumento, il framework calcola una classificazione di riferimento dell'importanza delle caratteristiche ($s_{ref}$) dal dataset sbilanciato originale utilizzando uno stimatore di importanza $\phi$ (ad esempio, punteggio F di ANOVA, SHAP o Permutation Feature Importance).
2. Generazione di Candidati: Un generatore esterno $\mathcal{G}$ (ad esempio, SMOTE, CTGAN, Copula, TabDDPM) produce iterativamente un blocco di campioni candidati della classe minoritaria.
3. Accettazione con Preservazione dell'Importanza:
   • Il framework forma un dataset tentativo concatenando i dati aumentati correnti con un sottoinsieme di candidati.
   • Ricalcola i punteggi di importanza delle caratteristiche ($s_{aug}$) per questo insieme tentativo.
   • Vincolo di Kendall's $\tau$: Il sottoinsieme viene accettato solo se il coefficiente di correlazione di rango di Kendall tra $s_{ref}$ e $s_{aug}$ soddisfa o supera una soglia predefinita dall'utente ($\tau_0$).
   • Vincoli Top-K (Opzionali): Possono essere applicati vincoli più stretti per garantire che l'insieme delle prime-$k$ caratteristiche (Top-K Set) o il loro ordine interno (Top-K Rank) rimangano invariati.
4. Ricerca Adattiva Block-and-Chunk: Se un intero blocco di candidati viene rifiutato, K-IPO non lo scarta interamente. Invece, lo partiziona ricorsivamente in chunk più piccoli (dimezzandone la dimensione iterativamente) e li valuta sequenzialmente. I chunk accettati vengono aggiunti immediatamente al dataset, assicurando che le valutazioni successive tengano conto dei dati aggiornati. Questo processo continua fino al raggiungimento del numero target di campioni sintetici ($N^*$) o quando viene colpito un "limite di prova" (massimo numero di rifiuti consecutivi).

Strategia Computazionale

K-IPO introduce un carico computazionale aggiuntivo dovuto alle ripetute valutazioni dell'importanza delle caratteristiche. Tuttavia, impiega una strategia di screening a livello di blocco per minimizzare tali costi. Se un blocco viene accettato senza partizione, il numero di ricalcoli dell'importanza viene minimizzato. Il framework è agnostico rispetto al generatore sottostante, consentendo agli utenti di scegliere i generatori in base alle caratteristiche dei dati pur facendo affidamento su K-IPO per filtrare i campioni che causano il drift della spiegazione.

3. Contributi Chiave

• Passaggio da Diagnostico a Preventivo: A differenza dei lavori precedenti che misurano il drift dell'importanza delle caratteristiche dopo la generazione, K-IPO lo previene attivamente integrando la stabilità della spiegazione direttamente nel meccanismo di accettazione dell'oversampling.
• Design Generatore-Agnostico: Il framework può essere accoppiato con qualsiasi metodo di oversampling (SMOTE, GAN, VAE, modelli di Diffusione) o sintetizzatore tabulare, agendo come un filtro universale per garantire la fedeltà strutturale.
• Preservazione del Rango tramite Kendall's $\tau$: L'uso della correlazione di rango di Kendall fornisce una misura ordinale robusta per garantire che l'ordine relativo dell'importanza delle caratteristiche rimanga coerente con i dati originali.
• Meccanismo di Ricerca Adattiva: La ricerca ricorsiva block-and-chunk bilancia il compromesso tra vincoli di preservazione rigorosi e l'utilizzo dei candidati, evitando l'inefficienza di valutare i campioni singolarmente pur impedendo il rifiuto di interi blocchi validi a causa di pochi outlier.

4. Risultati Sperimentali

Gli autori hanno valutato K-IPO su 20 dataset di classificazione binaria sbilanciata utilizzando tre classificatori (Random Forest, MLP, GAMI-Net) e molteplici metodi di spiegazione (SHAP, SOFI, intrinseco di GAMI-Net).

Evidenze delle Prestazioni

• Preservazione dell'Importanza delle Caratteristiche: K-IPO ha ottenuto il miglior valore (o il pareggio per il primato) di Kendall's $\tau$ su tutti i 20 dataset, superando sensibilmente i baseline (SMOTE, CTGAN, TVAE, Gaussian Copula, TabDDPM). Ha registrato 20 vittorie in questa metrica, contro le 3 del secondo miglior concorrente.
• Consistenza della Spiegabilità: K-IPO ha ottenuto il punteggio di consistenza della spiegabilità ($I$) più elevato in 15 dei 20 dataset, dimostrando che i modelli addestrati su dati aumentati con K-IPO si allineano più strettamente ai ranking di riferimento delle caratteristiche derivati da metodi basati su filtri.
• Prestazioni Predittive: Nonostante i vincoli strutturali, K-IPO è rimasto altamente competitivo nelle metriche predittive. Ha ottenuto il maggior numero di vittorie in Accuratezza Bilanciata (9), F1-score (9), MCC (9) e nel punteggio predittivo composito $P$ (9).
• Separabilità delle Classi: K-IPO ha ottenuto il miglior valore (o il pareggio per il primato) nell'indicatore di separabilità delle classi ($1-N_3$) in 13 dei 20 dataset, suggerendo che il metodo filtra i campioni sintetici che renderebbero sfocati i confini di classe.
• Significatività Statistica: I test post-hoc di Friedman e Nemenyi hanno confermato che la superiorità di K-IPO nelle metriche di interpretabilità (Kendall's $\tau$, $I$ e separabilità) è statisticamente significativa rispetto a tutti i baseline. Per le metriche predittive, K-IPO è stato statisticamente paragonabile o migliore dei competitor, sebbene alcuni modelli generativi profondi (come CTGAN) siano rimasti competitivi in specifici compiti predittivi.

Overhead Computazionale

K-IPO ha mostrato un tempo di esecuzione medio più elevato (9,6s) rispetto a metodi leggeri come SMOTE (1,1s) o Gaussian Copula (0,6s), principalmente a causa delle ripetute valutazioni dell'importanza. Tuttavia, il suo tempo di esecuzione mediano (3,2s) è comparabile ai modelli generativi profondi (CTGAN: 2,8s, TVAE: 2,8s). Gli autori osservano che K-IPO può essere più veloce dei baseline generativi profondi nei casi in cui i blocchi di candidati validi vengono accettati precocemente, evitando la costosa fase di fitting del modello richiesta da GAN e VAE.

5. Significato e Rivendicazioni

L'articolo sostiene che K-IPO affronti una lacuna metodologica critica: l'oversampling non dovrebbe solo generare campioni plausibili della classe minoritaria, ma anche preservare la struttura dell'importanza delle caratteristiche derivata dai dati originali.

• Fiducia e Affidabilità: Prevenendo il "drift della spiegazione", K-IPO assicura che i modelli addestrati su dati aumentati producano spiegazioni che riflettono le vere relazioni sottostanti del compito originale, il che è vitale per l'audit e il supporto decisionale in domini ad alto rischio.
• Nessun Sacrificio del Compromesso: I risultati suggeriscono che la preservazione esplicita dei ranking di importanza delle caratteristiche non compromette sistematicamente le prestazioni di classificazione. Al contrario, filtrando gli istanze sintetiche che distorcono i confini decisionali, K-IPO spesso migliora la separabilità delle classi e la robustezza predittiva.
• Utilità Pratica: Il framework offre un paradigma "genera-e-seleziona" che consente ai professionisti di utilizzare generatori potenti e complessi mitigando la loro tendenza ad alterare il ragionamento del modello, fornendo un equilibrio tra utilità predittiva e consistenza della spiegazione.

Gli autori concludono che, sebbene K-IPO introduca costi computazionali, questi sono accettabili date le conquiste in termini di interpretabilità e fedeltà strutturale, e delineano direzioni future come implementazioni parallele ed estensioni a scenari multi-classe/multi-label.