Auxiliary-Enhanced Survey Calibration: A Novel Framework for Reject Inference under Sample Selection Bias

Sintesi Tecnica: Calibrazione di Sondaggi Potenziata da Variabili Ausiliarie per l'Inferenza dei Rifiuti (Reject Inference)

Definizione del Problema
I modelli di credit scoring sono tipicamente addestrati su richiedenti accettati, creando un bias di selezione del campione in cui la distribuzione di addestramento $P(Y|X, Z=1)$ differisce dalla distribuzione della popolazione target $P(Y|X)$. Questo fenomeno, noto come problema dell'inferenza dei rifiuti (reject inference), sorge perché i prestatori rifiutano sistematicamente i richiedenti che ritengono ad alto rischio, portando a un insieme di addestramento arricchito da "pagatori buoni". Di conseguenza, i modelli addestrati esclusivamente su dati di soggetti accettati tendono a sottostimare i tassi di insolvenza nell'intero pool di richiedenti. I metodi esistenti di inferenza dei rifiuti rientrano generalmente in due categorie: quelli che imputano gli esiti mancanti per i richiedenti rifiutati (ad esempio, modelli di aumentazione, riclassificazione, modelli generativi) e quelli che riponderano il campione accettato (ad esempio, il peso del Propensity Score Inverso o IPS). Gli autori sostengono che i metodi basati sull'imputazione siano fondamentalmente difettosi perché fabbricano etichette utilizzando un modello già corrotto dal bias di selezione, propagando e amplificando così la distorsione. Al contrario, i metodi di riponderazione standard soffrono spesso di instabilità a causa di pesi estremi quando viene violata l'ipotesi di positività.

Metodologia
Il documento propone un nuovo framework basato sulla teoria della calibrazione dei sondaggi (Deville e Sarndal, 1993) che evita completamente l'imputazione degli esiti. Il meccanismo centrale consiste nel calcolare pesi a livello di osservazione per i richiedenti accettati al fine di forzare la distribuzione delle covariate del campione ponderato a corrispondere ai totali noti della popolazione per le variabili ausiliarie.

1. Configurazione del Framework:

   • Sia $U$ la popolazione totale dei richiedenti, $A$ l'insieme degli accettati e $R$ l'insieme dei rifiutati.
   • Le caratteristiche sono partizionate in variabili comuni $X^{(c)}$ (osservate per tutti i richiedenti, utilizzate per la ponderazione) e variabili non comuni/di sottoscrizione $X^{(u)}$ (osservate solo per i richiedenti accettati, utilizzate per il modello di esito finale).
   • L'obiettivo è stimare il parametro di popolazione $\theta^*$ massimizzando una log-verosimiglianza ponderata sull'insieme degli accettati $A$.

2. Pesi di Calibrazione:

   • I pesi $w_i$ sono derivati risolvendo un problema di ottimizzazione vincolata che minimizza una funzione di distanza $D(w_i, d_i)$ (dove $d_i$ è un peso di design, tipicamente 1) soggetta al vincolo che la somma ponderata delle variabili comuni sia uguale ai totali di popolazione noti: $\sum_{i \in A} w_i X^{(c)}_i = T^{(c)}$.
   • Gli autori utilizzano funzioni di distanza limitate (specificamente le distanze logit limitata e lineare troncata) piuttosto che funzioni non limitate (come il raking o l'esponenziale). Ciò garantisce che i pesi rimangano entro un intervallo specificato dall'utente $[L, U]$, evitando il collasso della dimensione effettiva del campione ed evitando l'instabilità associata alla ponderazione IPS.

3. Stima:

   • I pesi vengono calcolati utilizzando un algoritmo Newton-Raphson per risolvere i moltiplicatori di Lagrange.
   • Il modello di regressione logistica finale viene adattato massimizzando la log-verosimiglianza calibrata: $\tilde{\ell}(\theta; w) = \sum_{i \in A} w_i [Y_i(\beta_0 + \beta^\top X_i) - \log(1 + \exp(\beta_0 + \beta^\top X_i))]$.
   • Fondamentalmente, la fase di ponderazione utilizza solo $X^{(c)}$, mentre il modello di esito utilizza l'intero vettore di caratteristiche $X = (X^{(c)}, X^{(u)})$. Ciò consente al metodo di sfruttare dati di sottoscrizione più ricchi disponibili solo per gli accettati, una capacità che i metodi di imputazione non possiedono.

Contributi Chiave

1. Framework Senza Imputazione: Gli autori introducono uno stimatore di inferenza dei rifiuti che non fabbrica etichette. Basandosi esclusivamente sulla riponderazione, evita di ereditare il bias del modello iniziale basato solo sugli accettati, un difetto intrinseco nei metodi di aumentazione e riclassificazione.
2. Garanzie Teoriche: Il documento dimostra che lo stimatore calibrato è consistente e $\sqrt{n}$-asintoticamente normale sotto l'ipotesi MAR (Missing At Random). Deriva una varianza asintotica in forma chiusa e uno stimatore della varianza sandwich per tenere conto dell'incertezza introdotta dalla stima dei pesi.
3. Caratterizzazione della Proiezione della Popolazione: Gli autori chiariscono che, in caso di errata specificazione del modello, lo stimatore basato solo sugli accettati converge alla proiezione del campione selezionato della verità, mentre lo stimatore di calibrazione punta alla proiezione della popolazione. È in questa distinzione che il metodo fornisce valore rispetto al baseline.
4. Stabilità dei Pesi: Utilizzando funzioni di distanza limitate, il metodo evita i pesi estremi e il collasso della dimensione effettiva del campione che affliggono le tecniche di riponderazione non limitate come l'IPS o il raking.

Risultati Sperimentali
Lo studio valuta il metodo contro nove strategie (inclusi l'aumentazione fuzzy, la riclassificazione, l'IPS, il metodo a due fasi di Heckman e i modelli generativi) su tre dataset: il dataset Lending Club, un benchmark semi-sintetico Taiwan Credit (con etichette di verità fondamentale per i rifiutati) e simulazioni controllate.

• Discriminazione (AUC): Sul dataset Lending Club, il metodo di calibrazione mantiene la discriminazione al livello del baseline (AUC $\approx$ 0,703 rispetto a 0,706 per il baseline con tutte le caratteristiche). Al contrario, i metodi basati sull'imputazione degradano le prestazioni, perdendo fino a 11 punti di AUC nel benchmark Taiwan e 3,6 punti su Lending Club. Gli autori attribuiscono i lievi guadagni nei modelli con tutte le caratteristiche alla capacità di utilizzare le variabili di sottoscrizione ($X^{(u)}$), che i metodi di imputazione non possono accedere.
• Calibrazione (Stima del Rischio): Il vantaggio principale della calibrazione è nella stima del rischio di popolazione. Su Lending Club, la calibrazione ha ridotto l'Errore di Calibrazione Atteso (ECE) di quasi tre volte (da 0,0112 a 0,0042) rispetto al baseline. Nel regime di errata specificazione di Taiwan, la riduzione è stata di sei volte. I metodi di imputazione hanno aumentato significativamente l'errore di calibrazione (fino a 16 volte).
• Errata Specificazione: Negli studi di simulazione in cui il modello era errato (omissione di un termine di interazione), lo stimatore di calibrazione rimaneva vicino all'oracolo (verità della popolazione), mentre il baseline basato solo sugli accettati divergeva significativamente all'aumentare della forza della selezione.
• Limite MNAR: Come previsto, il metodo non è riuscito a recuperare i parametri di popolazione sotto una selezione MNAR (Missing Not At Random, dove il rifiuto dipende dall'esito non osservato), confermando il confine teorico dell'approccio.

Significato e Rivendicazioni
Il documento afferma che la calibrazione offre un default sicuro per l'inferenza dei rifiuti. Poiché impostare tutti i pesi a uno recupera esattamente il baseline, il metodo non può performare peggio del modello basato solo sugli accettati. La sua importanza risiede nel:

• Correggere il Rischio di Popolazione: Fornisce un modo statisticamente valido per stimare i tassi di insolvenza a livello di popolazione e le metriche di calibrazione, che sono critiche per il pricing e la provvigione del capitale, senza il rischio di propagazione del bias intrinseco all'imputazione.
• Robustezza all'Errata Specificazione: Supera il baseline quando il modello di lavoro è errato, stimando efficacementmente il parametro di popolazione piuttosto che il parametro distorto del campione selezionato.
• Stabilità Pratica: L'uso di distanze limitate risolve l'instabilità numerica comune in altre tecniche di riponderazione.

Gli autori concludono che, sebbene il metodo non risolva la selezione MNAR né elimini la necessità di un supporto comune tra accettati e rifiutati, esso rappresenta un'alternativa superiore alle strategie basate sull'imputazione, in particolare per garantire l'affidabilità delle stime del rischio a livello di popolazione nelle valutazioni del credito.