Riepilogo Tecnico: Apprendimento PU Focalizzato da Dati Sbilanciati

1. Enunciato del Problema

Il documento affronta la sfida dell'apprendimento Positive-Unlabeled (PU) in scenari caratterizzati da squilibrio di classe severo ed esempi positivi difficili da rilevare. In molte applicazioni reali (ad esempio, rilevamento di frodi, identificazione di geni associati a malattie, rilevamento di errori contabili), i dati di addestramento consistono in un piccolo insieme di istanze positive etichettate e un vasto pool di istanze non etichettate. Il pool non etichettato è dominato da istanze negative ma contiene esempi positivi nascosti.

I metodi esistenti di apprendimento PU spesso si basano su ipotesi semplificative che falliscono in contesti pratici:

• Squilibrio di Classe: Molti metodi assumono distribuzioni bilanciate o si affidano a positivi etichettati sufficienti, il che è raramente il caso quando la classe positiva è sottorappresentata.
• Meccanismi di Etichettatura: La maggior parte dei metodi assume l'ipotesi Selected Completely At Random (SCAR), dove i positivi etichettati sono un sottoinsieme casuale di tutti i positivi. Tuttavia, i dati reali spesso seguono l'ipotesi Selected At Random (SAR) o l'ipotesi Probabilistic Gap (PG), dove gli esempi positivi che assomigliano ai negativi hanno meno probabilità di essere etichettati.
• Positivi Difficili: Quando gli esempi positivi si sovrappongono significativamente alla distribuzione negativa (scenario PG), i stimatori di rischio standard faticano a distinguerli, portando a prestazioni scadenti.

Gli autori sostengono che i metodi attuali all'avanguardia (ad esempio nnPU, PUHDT) falliscono sotto le ipotesi SAR/PG o si affidano a manipolazioni dei dati (ricampionamento, filtraggio in due fasi) che potrebbero non essere robuste in contesti fortemente sbilanciati.

2. Metodologia

Il metodo proposto, denominato iFPU (Imbalanced Focused PU), introduce un nuovo stimatore di rischio non negativo che integra la Focal Loss nel framework di apprendimento PU.

2.1 Fondamenta Teoriche

L'approccio si basa sugli stimatori di rischio non distorti per l'apprendimento PU (uPU) e sugli stimatori di rischio non negativi (nnPU). Nell'apprendimento PU standard, il rischio $R(g)$ è approssimato utilizzando i positivi etichettati ($P$) e i dati non etichettati ($U$) sostituendo il termine di rischio negativo $R_N^-(g)$ con un'espressione che coinvolge $U$ e $P$:
$$\tilde{R}_{PU}(g) = \pi_P \tilde{R}_P^+(g) - \pi_P \tilde{R}_P^-(g) + \tilde{R}_U^-(g)$$
dove $\pi_P$ è la probabilità a priori di classe. Per prevenire rischi empirici negativi (che causano overfitting nelle reti neurali), il metodo nnPU applica un vincolo non negativo: $\max\{0, \tilde{R}_U^-(g) - \pi_P \tilde{R}_P^-(g)\}$.

2.2 Stimatore di Rischio Focalizzato

Gli autori osservano che, in contesti sbilanciati, il rischio standard è dominato dai dati non etichettati, causando il disprezzo da parte del modello dei pochi esempi positivi difficili da distinguere. Per affrontare ciò, sostituiscono la funzione di perdita a entropia incrociata standard con la Focal Loss [50].

La Focal Loss riduce il peso degli esempi facili (quelli con alta probabilità di classificazione corretta) e aumenta il peso degli esempi difficili. La focal loss per una probabilità $p_t$ è definita come:
$$FL(p_t) = -(1-p_t)^\gamma \log(p_t)$$
dove $\gamma$ controlla il parametro di focalizzazione.

Gli autori derivano lo stimatore di rischio iFPU sostituendo i termini di perdita standard nell'equazione del rischio PU con la formulazione della focal loss:
$$\tilde{R}_{iFPU}(g) = \frac{1}{n_P} \sum_{i=1}^{n_P} -\pi_P (1-g(x_i))^\gamma \log(g(x_i)) + \max\left\{0, \frac{1}{n_U} \sum_{i=1}^{n_U} -(g(x_i))^\gamma \log(1-g(x_i)) - \frac{1}{n_P} \sum_{i=1}^{n_P} -\pi_P (g(x_i))^\gamma \log(1-g(x_i)) \right\}$$

2.3 Procedura di Addestramento

Il processo di addestramento utilizza l'ottimizzazione stocastica (SGD). Una caratteristica chiave dell'algoritmo è la gestione del vincolo non negativo:

• Se il termine $(\tilde{R}_U^-(g) - \pi_P \tilde{R}_P^-(g))$ è non negativo, il modello aggiorna i parametri utilizzando il gradiente del rischio completo.
• Se il termine è negativo (indicando potenziale overfitting o violazione del vincolo non negativo), il modello esegue un passo di ascesa del gradiente sul termine di differenza per spingerlo nuovamente verso la non negatività, invece di ignorare semplicemente il gradiente.

Il metodo è progettato per essere end-to-end, compatibile con qualsiasi classificatore basato sulla minimizzazione dei costi (ad esempio MLP, XGBoost), senza richiedere pre-elaborazione dei dati o ricampionamento.

3. Contributi Chiave

1. Nuovo Stimatore di Rischio: La derivazione di uno stimatore di rischio non negativo specificamente adattato per dati PU sbilanciati utilizzando la Focal Loss, che prende di mira esplicitamente gli esempi positivi difficili da classificare.
2. Rilassamento delle Ipotesi: Il metodo è valutato sotto entrambe le ipotesi SCAR e SAR, dimostrando robustezza in scenari dove esiste un bias di etichettatura (cioè, i positivi che assomigliano ai negativi hanno meno probabilità di essere etichettati).
3. Integrazione End-to-End: A differenza dei metodi in due fasi che richiedono prima l'identificazione di negativi affidabili, iFPU si integra direttamente nel ciclo di addestramento dei classificatori standard (MLP e XGBoost).
4. Validazione nel Mondo Reale: Il metodo è applicato a un problema reale complesso: rilevamento di errori contabili, dove i dati PU sorgono naturalmente a causa del rilevamento ritardato degli errori.

4. Risultati Sperimentali

Gli autori hanno valutato iFPU su 14 dataset pubblici sbilanciati e su un dataset finanziario reale.

4.1 Dataset di Riferimento

• Configurazione: 14 dataset con diversi rapporti di squilibrio. Gli esperimenti sono stati eseguiti sotto le ipotesi SCAR e SAR con il 25%, 50% e 75% degli esempi positivi etichettati.
• Comparatori: Confronto contro uPU, nnPU, i-nnPU, NNIF (due fasi), PUHDT, PUHRF, LBE e SAREM.
• Prestazioni:
  • Sotto SCAR, iFPU (utilizzando XGBoost) ha ottenuto risultati comparabili allo stato dell'arte PUHRF (PU Hellinger Random Forest), senza differenze statisticamente significative nella maggior parte dei casi.
  • Sotto l'ipotesi più impegnativa SAR, iFPU ha superato significativamente la maggior parte dei concorrenti. Nello scenario più difficile (25% di positivi etichettati), iFPU ha superato PUHRF di 5 punti percentuali in PR-AUC.
  • Il metodo ha mostrato robustezza rispetto a stime errate della probabilità a priori di classe, mantenendo le prestazioni anche quando la probabilità a priori era sottostimata in modo significativo.

4.2 Applicazione nel Mondo Reale: Rilevamento di Errori Contabili

• Contesto: Rilevamento di errori contabili nei rapporti annuali (2003–2014) dove le irregolarità sono rare e spesso non rilevate per anni (scenario SAR/PG).
• Configurazione: Confronto contro baseline supervisionate (TabTransformer con focal loss calibrata, Fin-SVM, RUSBoost) e metodi PU (PUHRF).
• Risultati:
  • Il proposto iFPUXGB ha raggiunto la più alta R-precision del 19,95%, superando il precedente modello all'avanguardia TabTransformer (17,63%) e PUHRF (18,22%).
  • I risultati indicano che modellare il problema come apprendimento PU (riconoscendo i positivi nascosti) produce prestazioni significativamente migliori rispetto al trattare i dati non etichettati come negativi.

5. Significato e Affermazioni

Il documento afferma che iFPU rappresenta una soluzione all'avanguardia per l'apprendimento PU in contesti sbilanciati, in particolare dove vale l'ipotesi del Probabilistic Gap.

• Robustezza: La capacità del metodo di performare bene sotto le ipotesi SAR senza richiedere manipolazioni complesse dei dati o ricampionamento è evidenziata come un vantaggio maggiore rispetto ai metodi esistenti basati su alberi o a due fasi.
• Praticità: La riuscita applicazione al rilevamento di errori contabili dimostra l'utilità del metodo in domini reali ad alto rischio, dove i dati etichettati sono scarsi e distorti.
• Flessibilità: Affidandosi a un framework di minimizzazione del rischio compatibile con vari classificatori (MLP, XGBoost), l'approccio offre un'alternativa flessibile agli algoritmi PU specializzati.

Gli autori notano modestamente che, sebbene abbiano evitato la regolazione degli iperparametri per garantire un confronto equo, un'ulteriore ottimizzazione dei parametri di XGBoost e della focal loss potrebbe potenzialmente produrre risultati ancora più forti. Identificano inoltre la scalatura della temperatura per la calibrazione e le estensioni a contesti multiclasse come direzioni di ricerca future.