📈 economics

Hard and Soft Label Assignment for Cost-Sensitive Semi-Supervised Reject Inference in Credit Scoring

Cet article propose RI-CSCEM, un cadre d'espérance-maximisation semi-supervisé sensible aux coûts qui attribue des pseudo-étiquettes dures ou douces aux demandeurs rejetés dans l'évaluation du crédit, atténuant efficacement le biais de sélection d'échantillon et les coûts de classification erronée asymétriques pour surpasser les modèles de référence basés uniquement sur les acceptés sur les données de Lending Club.

Auteurs originaux : Abderrahim EL AMRANI, Mounir EL ANNAS, Badreddine BENYACOUB, Mohammed EL HAJ TIRARI

Publié 2026-06-30

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Abderrahim EL AMRANI, Mounir EL ANNAS, Badreddine BENYACOUB, Mohammed EL HAJ TIRARI

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un directeur de banque essayant de décider qui obtient un prêt. Vous avez une longue liste de candidats, mais vous n'avez vu les résultats que pour les personnes que vous avez acceptées. Vous savez qui a remboursé ses prêts et qui a fait défaut. Mais qu'en est-il des milliers de personnes que vous avez rejetées ? Vous n'avez aucune idée de savoir si elles auraient été de bons emprunteurs ou de mauvais emprunteurs. Vous les avez simplement écartées.

Cela crée un angle mort. Si vous n'apprenez que des personnes que vous avez acceptées, votre « score de risque » pourrait être biaisé car vous n'avez jamais testé vos règles sur les personnes auxquelles vous avez dit « non ». C'est ce qu'on appelle l'inférence de rejet (Reject Inference) : essayer de deviner ce qui se serait passé pour les personnes que vous avez rejetées.

Cependant, il existe un second problème : en matière de prêt, les erreurs ne sont pas égales.

Erreur A : Vous rejetez une bonne personne. Vous perdez un peu de revenus d'intérêts.
Erreur B : Vous acceptez une mauvaise personne (un défaut de paiement). Elle ne vous rembourse pas et vous perdez la totalité du montant du prêt. L'erreur B est bien plus coûteuse. La plupart des modèles informatiques standards traitent ces deux erreurs comme si elles coûtaient la même chose, ce qui revient à dire que perdre un dollar est la même chose que perdre une maison.

La solution : RI-CSCEM

Les auteurs de cet article ont construit un nouvel outil appelé RI-CSCEM. Voyez cela comme un enseignant intelligent et sensible aux coûts qui apprend à la fois des élèves qui ont réussi (les candidats acceptés) et des élèves qui ont été expulsés de la classe (les candidats rejetés).

Voici comment cela fonctionne, en utilisant des analogies simples :

1. Le choix « Doux » vs « Dur »

Lorsque le modèle examine un candidat rejeté, il doit deviner : « Cette personne aurait-elle remboursé le prêt ? »

La méthode « Dure » (ancienne méthode) : Le modèle impose un choix binaire. Il dit : « Cette personne est définitivement un bon payeur » ou « Cette personne est définitivement un mauvais payeur ». C'est comme un arbitre qui siffle et déclare une action « Safe » ou « Out » avec une certitude de 100 %. Le problème est que si l'arbitre est incertain, forcer une décision peut gâcher le jeu.
La méthode « Douce » (l'innovation de cet article) : Le modèle dit : « Cette personne a 60 % de chances d'être un bon payeur et 40 % de chances d'être un mauvais payeur. » Il attribue une responsabilité douce. Au lieu d'une étiquette unique, il répartit le candidat entre les deux possibilités.
- Analogie : Imaginez un jury. Au lieu de voter « Coupable » ou « Non coupable », ils votent « 60 % Coupable, 40 % Non coupable ». Cela préserve la nuance et l'incertitude, ce qui aide le modèle à mieux apprendre les schémas.

2. L'équilibre « Sensible au Coût »

Le modèle sait que débusquer un « mauvais payeur » est plus important que d'éviter une « fausse alerte ».

Il utilise une échelle spéciale. Si le modèle pense que quelqu'un pourrait être un défaut de paiement, il pèse cette possibilité beaucoup plus lourdement que s'il pensait qu'il pourrait être un bon payeur.
Il possède également une règle pour maintenir l'équilibre. Il veille à ce que le nombre de « mauvais payeurs » qu'il devine parmi les rejetés corresponde au taux réel de mauvais payeurs observé dans le groupe des acceptés. Cela empêche le modèle de devenir fou et de décider que tout le monde est un mauvais payeur juste pour être prudent.

3. La boucle d'apprentissage (la méthode de l'« Enseignant »)

Le modèle utilise une technique appelée Classification EM (Expectation-Maximization). Imaginez un enseignant essayant de noter un examen où la moitié des réponses sont manquantes :

Étape 1 (La supposition) : L'enseignant fait une meilleure supposition sur les réponses manquantes en fonction de ce qu'il sait déjà.
Étape 2 (La leçon) : L'enseignant utilise ces suppositions pour réétudier toute la classe (les réponses connues et les suppositions) afin d'améliorer ses règles de notation.
Étape 3 (Répétition) : L'enseignant fait de nouvelles suppositions plus précises basées sur les règles améliorées, et le cycle se répète jusqu'à ce que les règles de notation soient parfaites.

Qu'ont-ils découvert ?

Les auteurs ont testé cet outil sur des données réelles de Lending Club (une énorme plateforme de prêt en ligne). Ils ont comparé leur nouvel outil à 12 autres méthodes, y compris des modèles standards et d'autres astuces d'« inférence de rejet ».

Le résultat : Leur nouvel outil (RI-CSCEM) a performé aussi bien que les meilleurs modèles qui ne regardaient que les candidats acceptés. Il n'est pas devenu miraculeusement surhumain, mais il a réussi à utiliser les données des « rejetés » sans nuire aux performances.
La découverte clé : La méthode « Douce » était la recette secrète. Lorsqu'ils forçaient le modèle à faire des suppositions « Dures » (définitivement bon/mauvais), le modèle devenait confus et perdait sa capacité à distinguer les bons des mauvais emprunteurs. Lorsqu'ils utilisaient des suppositions « Douces » (probabilités), la capacité du modèle à faire la distinction (appelée AUC) bondissait considérablement.
Le « Pourquoi » : L'article explique que puisque les règles de rejet de la banque étaient basées sur des données visibles (comme les scores de crédit), le groupe des « rejetés » n'était pas secrètement rempli de génies cachés ou de criminels cachés. C'était simplement un mélange similaire au groupe des acceptés. Le modèle n'avait donc pas besoin d'être un magicien pour deviner leurs résultats ; il avait juste besoin de faire attention à ne pas commettre d'erreurs coûteuses.

L'essentiel à retenir

Cet article introduit une manière plus intelligente pour les banques d'apprendre des personnes qu'elles ont rejetées. En traitant les candidats rejetés comme « peut-être bons, peut-être mauvais » (étiquettes douces) plutôt qu'en forçant une décision oui/non, et en pesant lourdement le coût de la perte d'argent, le modèle devient plus robuste. Il ne prédit pas nécessairement l'avenir mieux que les méthodes existantes lorsque les règles de rejet sont équitables, mais il garantit que le modèle ne s'effondre pas lorsqu'il tente d'apprendre à partir de données incomplètes.

Résumé Technique : Attribution de Labels Hard et Soft pour l'Inférence de Rejet Semi-Supervisée Sensible aux Coûts dans le Scoring de Crédit

1. Énoncé du Problème

Les modèles de notation de risque de crédit sont traditionnellement entraînés exclusivement sur les demandeurs acceptés, car seuls ces individus disposent d'un historique de remboursement enregistré. Cette pratique introduit un biais de sélection d'échantillon, provoquant des modèles qui performent bien sur la population acceptée mais mal sur l'ensemble plus large des demandeurs. De plus, les approches de classification standard ignorent souvent les coûts asymétriques de la classification erronée dans le scoring de crédit : le coût d'un Faux Négatif (approuver un défaut de paiement) est nettement plus élevé que celui d'un Faux Positif (rejeter un bon payeur).

Les méthodes existantes d'inférence de rejet échouent souvent à traiter ces problèmes simultanément. Beaucoup supposent des distributions de classes équilibrées ou traitent les erreurs de classification comme ayant un coût égal, ce qui conduit à des résultats économiques sous-optimaux. De plus, bien que l'apprentissage semi-supervisé traite les demandeurs rejetés comme des instances avec des labels manquants, peu de cadres fournissent des garanties théoriques formelles concernant la cohérence sous des mécanismes de rejet spécifiques (par exemple, l'absence de données manquantes étant aléatoire - Missing at Random) tout en intégrant des objectifs sensibles aux coûts.

2. Méthodologie : RI-CSCEM

Le papier propose le RI-CSCEM (Reject Inference - Cost-Sensitive Classification Expectation-Maximisation), un cadre unifié qui intègre la régression logistique semi-supervisée avec l'apprentissage sensible aux coûts. La méthode opère sur un ensemble de données $D = D_l \cup D_u$ , où $D_l$ contient les demandeurs étiquetés (acceptés) et $D_u$ les demandeurs non étiquetés (rejetés).

2.1 Algorithme Central

L'algorithme suit une procédure de Classification EM (CEM) avec deux étapes alternées :

Étape E (Attribution de Labels) :
Au lieu d'attribuer un label unique "hard" aux demandeurs rejetés, la méthode emploie un mécanisme de responsabilité "soft" (soft responsibility). Pour chaque demandeur non étiqueté $j$ , un critère de différence pondéré par les coûts est calculé :
$\text{Diff}(j) = C_{FN} \log(1 + e^{-z_j}) - C_{FP} \log(1 + e^{z_j})$
où $z_j = \beta^\top x_j$ , et $C_{FN}, C_{FP}$ sont les coûts des faux négatifs et des faux positifs, respectivement.

Ce critère est projeté sur une probabilité de défaut "soft" $q_j \in (0, 1)$ via une fonction sigmoïde calibrée par un paramètre de température $\tau$ . Crucialement, l'attribution est contrainte par une contrainte d'équilibre : la proportion attendue de défauts parmi les rejetés doit être égale au taux de défaut empirique $r$ observé dans l'ensemble accepté ( $D_l$ ). Cela empêche les solutions dégénérées où tous les rejetés seraient attribués à une seule classe.

Une variante à labels "hard" est également définie comme un cas particulier, où les $\lfloor r \cdot m \rfloor$ demandeurs rejetés présentant la perte la plus faible pondérée par les coûts se voient attribuer un label dur de 1 (défaut), et les autres un label 0.

Étape M (Estimation des Paramètres) :
Le modèle réajuste une régression logistique avec pénalité $\ell_1$ sensible aux coûts sur l'ensemble de données augmenté. La fonction d'objectif $L(\beta, q)$ combine :

Une perte logistique pondérée sur les données étiquetées ( $D_l$ ).
Une perte pondérée sur les données non étiquetées ( $D_u$ ), ajustée par un hyperparamètre $\lambda \in [0, 1]$ .
Une pénalité $\ell_1$ ( $\mu \|\beta\|_1$ ) pour la sélection de variables et la parcimonie.

La contribution des données non étiquetées est mise à l'échelle par $\lambda$ , permettant l'interpolation entre les régimes purement supervisés ( $\lambda=0$ ) et pleinement semi-supervisés ( $\lambda=1$ ).

2.2 Garanties Théoriques

Le papier fournit deux résultats théoriques clés :

Descente Monotone : Pour la variante à labels "hard", les étapes alternées E et M garantissent une fonction d'objectif monotone non croissante, assurant la convergence.
Cohérence sous MAR : Sous l'hypothèse de l'absence de données manquantes étant aléatoires (MAR) — où la décision de rejet dépend uniquement des covariables observées et non du résultat de défaut non observé — l'estimateur RI-CSCEM est cohérent. Les auteurs prouvent que sous MAR, l'estimateur basé uniquement sur les acceptés est déjà sans biais ; ainsi, la procédure d'inférence de rejet n'améliore pas asymptotiquement l'estimateur mais sert d'outil de diagnostic pour mesurer quand l'inférence de rejet apporte de la valeur (spécifiquement lorsque MAR ne tient pas).

3. Contributions Clés

Cadre Unifié : RI-CSCEM unifie l'apprentissage semi-supervisé et l'apprentissage sensible aux coûts au sein d'un cadre de vraisemblance pénalisée unique, traitant simultanément le biais de sélection d'échantillon et le déséquilibre des classes.
Attribution Soft vs Hard : Le papier introduit une attribution de responsabilité "soft" qui distribue les demandeurs rejetés entre les classes selon des critères pondérés par les coûts. Les résultats empiriques montrent que cela préserve le pouvoir de discrimination que le pseudo-étiquetage "hard" détruit.
Rigueur Théorique : Le travail établit des garanties formelles de descente monotone pour la variante "hard" et de cohérence sous MAR, fournissant un cadre contrôlé pour évaluer la nécessité de l'inférence de rejet.
Benchmarking Rigoureux : L'étude utilise un design expérimental robuste impliquant 30 tirages stratifiés et des tests statistiques (tests de Friedman et de Nemenyi) contre 12 modèles concurrents, incluant l'inférence de rejet traditionnelle, les stratégies de rééchantillonnage et les bases semi-supervisées.

4. Résultats Expérimentaux

La méthode a été évaluée sur les données de Lending Club (environ 1,27 million de demandes acceptées et 2,06 millions de demandes rejetées).

Performance : À travers 30 tirages stratifiés, RI-CSCEM a atteint un coût total de mauvaise classification moyen de 1120,3.
Comparaison : Cette performance est statistiquement indiscernable des meilleures bases de référence basées uniquement sur les acceptés : la Régression Logistique Sensible aux Coûts (1070,4) et la Régression Logistique Équilibrée par SMOTE (1104,7).
Étude d'Ablation :
- Pondération Sensible aux Coûts : Passer d'un modèle CEM de base à une pondération sensible aux coûts (CEM+CS) a significativement réduit le coût (de 1401,5 à 1215,6) et a éloigné le modèle de la solution triviale "tous non-défaut".
- Responsabilité Soft : Remplacer les labels "hard" par des responsabilités "soft" (le RI-CSCEM complet) a encore réduit le coût à 1120,3 et a récupéré la discrimination, faisant monter l'AUC de 0,589 à 0,614.
- Hard vs Soft : La variante à labels "hard" (RI-CSCEM-hard) a performé de manière similaire à CEM+CS (1214,3 contre 1215,6), confirmant que l'attribution "soft" est le principal moteur de l'amélioration de l'AUC.
Signification Statistique : Le test de Friedman a rejeté l'hypothèse nulle d'égalité de performance entre tous les modèles ( $p < 10^{-3}$ ). Le test post-hoc de Nemenyi a confirmé que RI-CSCEM appartient au même groupe statistiquement significatif que les meilleures bases de référence basées uniquement sur les acceptés.

5. Signification et Revendications

Le papier affirme que RI-CSCEM fournit une ligne de base diagnostique pour la littérature du scoring de crédit. Sa principale signification réside dans la démonstration que sous un mécanisme de rejet de type Missing at Random (MAR), l'inférence de rejet apporte peu de valeur par rapport à un modèle bien ajusté et sensible aux coûts basé uniquement sur les acceptés. Les auteurs soutiennent que l'estimateur basé uniquement sur les acceptés est déjà sans biais sous MAR, et le cadre proposé confirme cela théoriquement et empiriquement.

Le papier conclut modestement que le véritable bénéfice de l'inférence de rejet devrait émerger dans des scénarios de type Missing Not at Random (MNAR), où le rejet dépend de facteurs non observés. Le présent travail établit une fondation rigoureuse pour de telles extensions futures en prouvant la cohérence sous MAR et en isolant les composantes spécifiques (sensibilité aux coûts et attribution soft) qui améliorent la performance du modèle lorsque l'inférence de rejet est appliquée. Les auteurs ne prétendent pas que RI-CSCEM surpasse universellement toutes les bases de référence dans tous les régimes, mais qu'il égale les bases de référence les plus fortes sous MAR tout en offrant un mécanisme robuste et théoriquement fondé pour gérer les données non étiquetées lorsque le mécanisme de rejet est ignorable.