Auxiliary-Enhanced Survey Calibration: A Novel Framework for Reject Inference under Sample Selection Bias

Résumé Technique : Calibrage par Sondage Amélioré par Variables Auxiliaires pour l'Inférence de Rejet

Énoncé du Problème
Les modèles de score de crédit sont généralement entraînés sur des candidats acceptés, ce qui crée un biais de sélection de l'échantillon où la distribution d'entraînement $P(Y|X, Z=1)$ diffère de la distribution de la population cible $P(Y|X)$. Ce phénomène, connu sous le nom d'inférence de rejet, survient car les prêteurs rejettent systématiquement les candidats qu'ils jugent trop risqués, ce qui conduit à un ensemble d'entraînement enrichi en « bons payeurs ». Par conséquent, les modèles entraînés uniquement sur des données acceptées ont tendance à sous-estimer les taux de défaut dans l'ensemble complet des candidats. Les méthodes existantes d'inférence de rejet se divisent généralement en deux catégories : celles qui imputent les résultats manquants pour les candidats rejetés (par exemple, l'augmentation, la reclassification, les modèles génératifs) et celles qui repondèrent l'échantillon accepté (par exemple, la pondération par le score de propension inverse ou IPS). Les auteurs soutiennent que les méthodes basées sur l'imputation sont fondamentalement défectueuses car elles fabriquent des étiquettes à partir d'un modèle déjà corrompu par le biais de sélection, propageant ainsi et amplifiant la distorsion. À l'inverse, les méthodes de repondération standard souffrent souvent d'instabilité en raison de poids extrêmes lorsque l'hypothèse de positivité est violée.

Méthodologie
Le papier propose un nouveau cadre basé sur la théorie du calibrage de sondage (Deville et Sarndal, 1993) qui évite totalement l'imputation de résultats. Le mécanisme central consiste à calculer des poids au niveau de l'observation pour les candidats acceptés afin de forcer la distribution des covariables de l'échantillon pondéré à correspondre aux totaux de population connus des variables auxiliaires.

1. Configuration du Cadre :

   • Soit $U$ la population complète des candidats, $A$ l'ensemble des acceptés, et $R$ l'ensemble des rejetés.
   • Les caractéristiques sont partitionnées en variables communes $X^{(c)}$ (observées pour tous les candidats, utilisées pour la pondération) et variables non communes/de souscription $X^{(u)}$ (observées uniquement pour les candidats acceptés, utilisées pour le modèle de résultat final).
   • L'objectif est d'estimer le paramètre de population $\theta^*$ en maximisant une log-vraisemblance pondérée sur l'ensemble accepté $A$.

2. Poids de Calibrage :

   • Les poids $w_i$ sont dérivés en résolvant un problème d'optimisation sous contrainte qui minimise une fonction de distance $D(w_i, d_i)$ (où $d_i$ est un poids de conception, typiquement 1) sous la contrainte que la somme pondérée des variables communes soit égale aux totaux de population connus : $\sum_{i \in A} w_i X^{(c)}_i = T^{(c)}$.
   • Les auteurs utilisent des fonctions de distance bornées (spécifiquement les distances logit borné et linéaire tronquée) plutôt que des fonctions non bornées (comme le raking ou l'exponentielle). Cela garantit que les poids restent dans un intervalle défini par l'utilisateur $[L, U]$, évitant ainsi l'effondrement de la taille d'échantillon effective et l'instabilité associée à la pondération par score de propension inverse (IPS).

3. Estimation :

   • Les poids sont calculés en utilisant un algorithme de Newton-Raphson pour résoudre les multiplicateurs de Lagrange.
   • Le modèle de régression logistique final est ajusté en maximisant la log-vraisemblance calibrée par pondération : $\tilde{\ell}(\theta; w) = \sum_{i \in A} w_i [Y_i(\beta_0 + \beta^\top X_i) - \log(1 + \exp(\beta_0 + \beta^\top X_i))]$.
   • Crucialement, l'étape de pondération utilise uniquement $X^{(c)}$, tandis que le modèle de résultat utilise le vecteur de caractéristiques complet $X = (X^{(c)}, X^{(u)})$. Cela permet à la méthode de tirer parti de données de souscription plus riches, disponibles uniquement pour les acceptés, une capacité que les méthodes d'imputation n'ont pas.

Contributions Clés

1. Cadre sans Imputation : Les auteurs introduisent un estimateur d'inférence de rejet qui ne fabrique aucune étiquette. En s'appuyant uniquement sur la repondération, il évite d'hériter du biais du modèle initial fondé uniquement sur les acceptés, un défaut inhérent aux méthodes d'augmentation et de reclassification.
2. Garanties Théoriques : Le papier prouve que l'estimateur calibré par pondération est cohérent et suit une loi normale asymptotiquement $\sqrt{n}$ sous l'hypothèse de données manquantes au hasard (MAR). Il dérive une variance asymptotique en forme close et un estimateur de variance sandwich pour tenir compte de l'incertitude introduite par l'estimation des poids.
3. Caractérisation de la Projection de Population : Les auteurs précisent que sous spécification erronée du modèle, l'estimateur basé uniquement sur les acceptés converge vers la projection de la vérité sur l'échantillon sélectionné, tandis que l'estimateur de calibrage cible la projection de la population. C'est là que la méthode apporte sa valeur par rapport à la référence.
4. Stabilité des Poids : En employant des fonctions de distance bornées, la méthode évite les poids extrêmes et l'effondrement de la taille d'échantillon effective qui frappent les techniques de repondération non bornées comme l'IPS ou le raking.

Résultats Expérimentaux
L'étude évalue la méthode par rapport à neuf stratégies (incluant l'augmentation floue, la reclassification, l'IPS, le Heckman en deux étapes et les modèles génératifs) à travers trois jeux de données : le jeu de données Lending Club, un benchmark semi-synthétique Taiwan Credit (avec des étiquettes de vérité de terrain pour les rejetés) et des simulations contrôlées.

• Discrimination (AUC) : Sur le jeu de données Lending Club, la méthode de calibrage maintient la discrimination au niveau de la référence (AUC $\approx$ 0,703 contre 0,706 pour la référence utilisant les caractéristiques complètes). En revanche, les méthodes d'imputation dégradent les performances, perdant jusqu'à 11 points d'AUC sur le benchmark Taiwan et 3,6 points sur Lending Club. Les auteurs attribuent les légers gains des modèles à caractéristiques complètes à la capacité d'utiliser les variables de souscription ($X^{(u)}$), auxquelles les méthodes d'imputation n'ont pas accès pour les rejetés.
• Calibrage (Estimation du Risque) : Le gain principal du calibrage réside dans l'estimation du risque de population. Sur Lending Club, le calibrage a réduit l'Erreur de Calibrage Attendue (ECE) de près de trois fois (de 0,0112 à 0,0042) par rapport à la référence. Dans le régime de spécification erronée de Taiwan, la réduction est de six fois. Les méthodes d'imputation augmentent considérablement l'erreur de calibrage (jusqu'à 16 fois).
• Spécification Erronée : Dans les études de simulation où le modèle était mal spécifié (omission d'un terme d'interaction), l'estimateur de calibrage est resté proche de l'oracle (vérité de la population), tandis que la référence basée uniquement sur les acceptés divergeait de manière significative à mesure que la force de sélection augmentait.
• Limitation MNAR : Comme prévu, la méthode n'a pas réussi à récupérer les paramètres de population sous une sélection Non Manquant au Hasard (MNAR) (où le rejet dépend du résultat non observé), confirmant la limite théorique de l'approche.

Signification et Revendications
Le papier affirme que le calibrage offre une option par défaut sûre pour l'inférence de rejet. Puisque fixer tous les poids à un revient exactement à la référence, la méthode ne peut pas être moins performante que le modèle basé uniquement sur les acceptés. Sa signification réside dans :

• Correction du Risque de Population : Elle fournit un moyen statistiquement valide d'estimer les taux de défaut et les métriques de calibrage au niveau de la population, qui sont critiques pour la tarification et la dotation en capital, sans le risque de propagation du biais inhérent à l'imputation.
• Robustesse à la Spécification Erronée : Elle surpasse la référence lorsque le modèle de travail est mal spécifié, estimant efficacement le paramètre de la population plutôt que le paramètre biaisé de l'échantillon sélectionné.
• Stabilité Pratique : L'utilisation de distances bornées résout l'instabilité numérique courante dans les autres approches de repondération.

Les auteurs concluent que bien que la méthode ne résolve pas la sélection MNAR ni n'élimine le besoin d'un support commun entre les acceptés et les rejetés, elle représente une alternative supérieure aux stratégies d'imputation, particulièrement pour garantir la fiabilité des estimations de risque au niveau de la population dans le scoring de crédit.