📈 economics

Hard and Soft Label Assignment for Cost-Sensitive Semi-Supervised Reject Inference in Credit Scoring

Dieses Paper schlägt RI-CSCEM vor, ein kostensensitives semi-überwachtes Expectation-Maximization-Framework, das abgelehnte Antragsteller mit harten oder weichen Pseudo-Labels in der Kreditbewertung versieht und dadurch effektiv den Stichproben-Selektionsbias sowie asymmetrische Fehlklassifizierungskosten mildert, um auf Lending Club-Daten die auf nur akzeptierte Fälle beschränkten Baselines zu übertreffen.

Ursprüngliche Autoren: Abderrahim EL AMRANI, Mounir EL ANNAS, Badreddine BENYACOUB, Mohammed EL HAJ TIRARI

Veröffentlicht 2026-06-30

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Abderrahim EL AMRANI, Mounir EL ANNAS, Badreddine BENYACOUB, Mohammed EL HAJ TIRARI

Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Bankmanager, der entscheiden muss, wer einen Kredit erhält. Sie haben eine lange Liste von Antragstellern, aber Sie haben bisher nur die Ergebnisse der Personen gesehen, die Sie akzeptiert haben. Sie wissen, wer seine Kredite zurückgezahlt hat und wer zahlungsunfähig wurde. Aber was ist mit den Tausenden von Menschen, die Sie abgelehnt haben? Sie haben keine Ahnung, ob sie gute Kreditnehmer oder schlechte gewesen wären. Sie haben sie einfach aussortiert.

Dies erzeugt einen blinden Fleck. Wenn Sie nur von den Menschen lernen, die Sie akzeptiert haben, könnte Ihr „Risikoscore“ verzerrt sein, weil Sie Ihre Regeln nie an den Personen getestet haben, denen Sie „Nein“ gesagt haben. Dies nennt man Reject Inference (Ablehnungs-Inferenz): der Versuch zu erraten, was bei den abgelehnten Personen passiert wäre.

Es gibt jedoch ein zweites Problem: Beim Kreditwesen sind Fehler nicht gleichwertig.

Fehler A: Sie lehnen eine gute Person ab. Sie verlieren ein wenig Zinsertrag.
Fehler B: Sie akzeptieren eine schlechte Person (einen Zahlungsausfall). Sie zahlen den Kredit nicht zurück, und Sie verlieren den gesamten Kreditbetrag.
Fehler B ist weita-raus teurer. Die meisten Standard-Computermodelle behandeln diese beiden Fehler so, als ob sie gleich viel kosten würden – das ist so, als würde man sagen, der Verlust eines Dollars sei dasselbe wie der Verlust eines Hauses.

Die Lösung: RI-CSCEM

Die Autoren dieser Arbeit haben ein neues Werkzeug namens RI-CSCEM entwickelt. Betrachten Sie es als einen intelligenten, kostenbewussten Lehrer, der sowohl von den Schülern lernt, die bestanden haben (akzeptierte Antragsteller), als auch von den Schülern, die aus dem Unterricht geworfen wurden (abgelehnte Antragsteller).

So funktioniert es, unter Verwendung einfacher Analogien:

1. Das „weiche“ vs. „harte“ Raten

Wenn das Modell einen abgelehnten Antragsteller betrachtet, muss es raten: „Hätte diese Person den Kredit zurückgezahlt?“

Der harte Weg (Alte Methode): Das Modell erzwingt eine binäre Entscheidung. Es sagt: „Diese Person ist definitiv ein guter Zahler“ oder „Diese Person ist definitiv ein schlechter Zahler“. Es ist wie ein Schiedsrichter, der eine Pfeife bläst und ein Spielzug als „Sicher“ oder „Aus“ bezeichnet – mit 100 % Sicherheit. Das Problem ist: Wenn der Schiedsrichter unsicher ist, kann das Erzwingen einer Entscheidung das Spiel ruinieren.
Der weiche Weg (Die Innovation dieses Papers): Das Modell sagt: „Diese Person liegt zu 60 % wahrscheinlich bei den guten Zahlern und zu 40 % bei den schlechten Zahlern.“ Es weist eine weiche Verantwortung zu. Anstatt eines einzelnen Labels verteilt es den Antragsteller auf beide Möglichkeiten.
- Analogie: Stellen Sie sich eine Jury vor. Anstatt mit „Schuldig“ oder „Nicht schuldig“ zu stimmen, stimmt sie mit „60 % schuldig, 40 % nicht schuldig“. Dies bewahrt die Nuance und die Unsicherheit, was dem Modell hilft, bessere Muster zu lernen.

2. Das „kosten-sensible“ Gleichgewicht

Das Modell weiß, dass es wichtiger ist, einen „schlechten Zahler“ zu erwischen, als einen „Fehlalarm“ zu vermeiden.

Es verwendet eine spezielle Skala. Wenn das Modell glaubt, dass jemand zahlungsunfähig werden könnte, gewichtet es diese Möglichkeit viel stärker, als wenn es glaubt, dass jemand ein guter Zahler sein könnte.
Es hat auch eine Regel, um die Dinge im Gleichgewicht zu halten. Es stellt sicher, dass die Anzahl der „schlechten Zahler“, die es unter den Abgelehnten vermutet, der tatsächlichen Rate der schlechten Zahler entspricht, die es in der akzeptierten Gruppe gesehen hat. Dies verhindert, dass das Modell durchdreht und entscheidet, dass jeder ein schlechter Zahler ist, nur um auf Nummer sicher zu gehen.

3. Die Lernschleife (Die „Lehrer“-Methode)

Das Modell verwendet eine Technik namens Classification EM (Expectation-Maximization). Stellen Sie sich einen Lehrer vor, der versucht, einen Test zu bewerten, bei dem die Hälfte der Antworten fehlt:

Schritt 1 (Die Vermutung): Der Lehrer macht eine beste Schätzung der fehlenden Antworten basierend auf dem, was er bisher weiß.
Schritt 2 (Die Lektion): Der Lehrer nutzt diese Vermutungen, um die gesamte Klasse (sowohl die bekannten Antworten als auch die geratenen) erneut zu studieren, um seine Bewertungsregeln zu verbessern.
Schritt 3 (Wiederholung): Der Lehrer macht neue, bessere Vermutungen basierend auf den verbesserten Regeln, und der Zyklus wiederholt sich, bis die Bewertungsregeln perfekt sind.

Was haben sie herausgefunden?

Die Autoren haben dies mit echten Daten von Lending Club getestet (einer riesigen Online-Lending-Plattform). Sie verglichen ihr neues Werkzeug mit 12 anderen Methoden, einschließlich Standardmodellen und anderen „Reject Inference“-Tricks.

Das Ergebnis: Ihr neues Werkzeug (RI-CSCEM) schnitt genauso gut ab wie die besten Modelle, die nur die akzeptierten Antragsteller betrachteten. Es wurde nicht magischerweise überlegen, aber es nutzte die „abgelehnten“ Daten erfolgreich, ohne die Leistung zu beeinträchtigen.
Die entscheidende Entdeckung: Die „weiche“ Methode war das Geheimrezept. Als sie das Modell zwangen, „harte“ Vermutungen (definitiv gut/schlecht) anzustellen, wurde das Modell verwirrt und verlor die Fähigkeit, zwischen guten und schlechten Kreditnehmern zu unterscheiden. Als sie jedoch „weiche“ Vermutungen (Wahrscheinlichkeiten) verwendeten, sprang die Fähigkeit des Modells, zwischen den Klassen zu unterscheiden (genannt AUC), signifikant an.
Das „Warum“: Das Paper erklärt, dass die Ablehnungsregeln der Bank auf sichtbaren Daten (wie Kredit-Scores) basierten, die „abgelehnte“ Gruppe also nicht heimlich voller Genies oder Krimineller war. Sie waren lediglich eine Mischung, die der akzeptierten Gruppe ähnelte. Daher musste das Modell kein Magier sein, um ihre Ergebnisse zu erraten; es musste lediglich vorsichtig sein, keine teuren Fehler zu machen.

Das Fazit

Dieses Paper führt eine intelligentere Art und Weise ein, wie Banken von den Menschen lernen können, die sie abgelehnt haben. Indem es die abgelehnten Antragsteller als „vielleicht gut, vielleicht schlecht“ (weiche Labels) behandelt, anstatt eine Ja/Nein-Entscheidung zu erzwingen, und indem es den Verlust von Geld stark gewichtet, wird das Modell robuster. Es ist nicht unbedingt besser darin, die Zukunft vorherzusagen, als bestehende Methoden, wenn die Ablehnungsregeln fair sind, aber es stellt sicher, dass das Modell nicht zusammenbricht, wenn es versucht, aus unvollständigen Daten zu lernen.

Technisches Resümee: Hard und Soft Label Assignment für kostensensitive semi-überwachte Reject Inference im Kreditscoring

1. Problemstellung

Kreditrisiko-Scorecards werden traditionell ausschließlich auf Basis akzeptierter Antragsteller trainiert, da nur für diese Personen registrierte Rückzahlungsereignisse vorliegen. Diese Praxis führt zu einem Stichproben-Selektionsbias (Sample Selection Bias), der dazu führt, dass Modelle bei der akzeptierten Population gut abschneiden, aber bei der breiteren Gesamtheit der Antragsteller schlecht performen. Darüber hinaus ignorieren Standard-Klassifizierungsansätze oft die asymmetrischen Kosten von Fehlklassifikationen im Kreditscoring: Die Kosten eines False Negative (die Genehmigung eines Ausfallers) sind signifikant höher als die eines False Positive (die Ablehnung eines guten Zahlers).

Bestehende Reject-Inference-Methoden versäumen es oft, diese Probleme gleichzeitig anzugehen. Viele setzen entweder ausgeglichene Klassenverteilungen voraus oder behandeln Fehlklassifikationsfehler als gleichwertig kostengleich, was zu suboptimalen wirtschaftlichen Ergebnissen führt. Zudem bieten wenige Frameworks, die semi-überlearning nutzen, um abgelehnte Antragsteller als Instanzen mit fehlenden Labels zu behandeln, formale theoretische Garantien hinsichtlich der Konsistenz unter spezifischen Ablehnungsmechanismen (z. B. Missing at Random) bei gleichzeitiger Integration kostensensitiver Zielsetzungen.

2. Methodik: RI-CSCEM

Das Paper schlägt RI-CSCEM (Reject Inference - Cost-Sensitive Classification Expectation-Maximisation) vor, ein einheitliches Framework, das semi-überwachtes logistisches Regressionsverfahren mit kostensensitivem Lernen integriert. Die Methode operiert auf einem Datensatz $D = D_l \cup D_u$ , wobei $D_l$ gelabelte (akzeptierte) Antragsteller und $D_u$ ungelabelte (abgelehnte) Antragsteller enthält.

2.1 Kernalgorithmus

Der Algorithmus folgt einem Classification EM (CEM) Verfahren mit zwei alternierenden Schritten:

E-Step (Label Assignment):
Anstatt einem abgelehnten Antragsteller ein einzelnes Hard-Label zuzuweisen, verwendet die Methode einen Mechanismus der weichen Verantwortung (soft responsibility). Für jeden ungelabelten Antragsteller $j$ wird ein kostengewichtetes Differenzkriterium berechnet:
$\text{Diff}(j) = C_{FN} \log(1 + e^{-z_j}) - C_{FP} \log(1 + e^{z_j})$
wobei $z_j = \beta^\top x_j$ und $C_{FN}, C_{FP}$ die Kosten für False Negatives bzw. False Positives sind.

Dieses Kriterium wird mittels einer Sigmoid-Funktion, die durch einen Temperaturparameter $\tau$ kalibriert ist, auf eine weiche Ausfallwahrscheinlichkeit $q_j \in (0, 1)$ abgebildet. Entscheidend ist, dass die Zuweisung durch eine Balance-Beschränkung (balance constraint) eingeschränkt wird: Der erwartete Anteil der Ausfälle innerhalb der abgelehnten Menge muss der empirischen Ausfallrate $r$ entsprechen, die in der akzeptierten Menge ( $D_l$ ) beobachtet wurde. Dies verhindert degenerative Lösungen, bei denen alle Ablehner einer einzigen Klasse zugewiesen werden.

Eine Hard-Label-Variante ist ebenfalls definiert, bei der die $\lfloor r \cdot m \rfloor$ abgelehnten Antragsteller mit dem geringsten kostengewichteten Verlust einem Hard-Label von 1 (Ausfall) zugewiesen werden und der Rest 0.

M-Step (Parameter-Schätzung):
Das Modell passt eine kostensensitive $\ell_1$ -penalisierte logistische Regression auf den erweiterten Datensatz an. Die Zielfunktion $L(\beta, q)$ kombiniert:

Gewichteten logistischen Verlust auf den gelabelten Daten ( $D_l$ ).
Den durch Soft-Assignment gewichteten Verlust auf den ungelabelten Daten ( $D_u$ ), skaliert durch einen Hyperparameter $\lambda \in [0, 1]$ .
Eine $\ell_1$ -Strafe ( $\mu \|\beta\|_1$ ) zur Merkmalsselektion und Sparsity.

Der Beitrag der ungelabelten Daten wird durch $\lambda$ skaliert, was eine Interpolation zwischen rein überwachten ( $\lambda=0$ ) und voll-semi-überwachten ( $\lambda=1$ ) Regimen ermöglicht.

2.2 Theoretische Garantien

Das Paper liefert zwei zentrale theoretische Ergebnisse:

Monotoner Abstieg: Für die Hard-Label-Variante garantieren die alternierenden E- und M-Schritte eine monoton fallende bzw. nicht-steigende Zielfunktion, was die Konvergenz sicherstellt.
Konsistenz unter MAR: Unter der Annahme von Missing at Random (MAR) – wobei die Ablehnungsentscheidung nur von beobachteten Kovariaten und nicht vom unobservierten Ausfallereignis abhängt – ist der RI-CSCEM-Schätzer konsistent. Die Autoren belegen, dass der Schätzer, der nur auf Akzeptierten basiert, unter MAR bereits erwartungstreu (unbiased) ist; daher verbessert das Reject-Inference-Verfahren den Schätzer asymptotisch nicht, sondern dient als diagnostisches Werkzeug, um zu messen, wann Reject Inference einen Mehrwert bietet (speziell wenn MAR nicht zutrifft).

3. Zentrale Beiträge

Einheitliches Framework: RI-CSCEM vereint semi-überwachtes Lernen und kostensensitives Lernen innerhalb eines einzigen penalisierten Likelihood-Frameworks und adressiert damit sowohl den Selektionsbias als auch das Klassenungleichgewicht simultan.
Soft vs. Hard Assignment: Das Paper führt eine Soft-Responsibility-Zuweisung ein, die abgelehnte Antragsteller basierend auf kostengewichteten Kriterien über Klassen verteilt. Empirische Ergebnisse zeigen, dass dies die Diskriminationskraft bewahrt, die durch Hard Pseudo-Labelling zerstört würde.
Theoretische Stringenz: Die Arbeit etabliert formale Garantien für den monotonen Abstieg der Hard-Variante sowie die Konsistenz unter MAR und bietet somit einen kontrollierten Rahmen, um die Notwendigkeit von Reject Inference zu evaluieren.
Striktes Benchmarking: Die Studie nutzt ein robustes experimentelles Design mit 30 stratifizierten Stichproben und statistischen Tests (Friedman- und Nemenyi-Tests) gegen 12 konkurrierende Modelle, einschließlich traditioneller Reject-Inference-, Resampling-Strategien und semi-überwachter Baselines.

4. Experimentelle Ergebnisse

Die Methode wurde mit Lending Club Daten (ca. 1,27 Millionen akzeptierte und 2,06 Millionen abgelehnte Anträge) evaluiert.

Performance: Über 30 stratifizierte Stichproben hinweg erreichte RI-CSCEM einen mittleren Gesamtfehlklassifikationskostenwert von 1120,3.
Vergleich: Diese Performance ist statistisch nicht unterscheidbar von den besten Accepted-only-Baselines: Cost-Sensitive Logistic Regression (1070,4) und SMOTE-balanced Logistic Regression (1104,7).
Ablationsstudie:
- Kostensensitive Gewichtung: Der Übergang von einem Basis-CEM-Modell zu einer kostensensitiven Gewichtung (CEM+CS) reduzierte die Kosten signifikant (von 1401,5 auf 1215,6) und entfernte das Modell von der trivialen "Alle-kein-Ausfall"-Lösung.
- Soft Responsibility: Der Ersatz von Hard-Labels durch Soft-Responsibilities (das volle RI-CSCEM) reduzierte die Kosten weiter auf 1120,3 und stellte die Diskriminationskraft wieder her, wodurch der AUC von 0,589 auf 0,614 stieg.
- Hard vs. Soft: Die Hard-Label-Variante (RI-CSCEM-hard) performte ähnlich wie CEM+CS (1214,3 vs. 1215,6), was bestätigt, dass die Soft-Assignment der primäre Treiber für die Verbesserung des AUC ist.
Statistische Signifikanz: Der Friedman-Test lehnte die Nullhypothese gleicher Performance über alle Modelle hinweg ab ( $p < 10^{-3}$ ). Der Nemenyi-Post-hoc-Test bestätigte, dass RI-CSCEM zur selben statistisch signifikanten Gruppe wie die leistungsstärksten Accepted-only-Baselines gehört.

5. Bedeutung und Behauptungen

Das Paper behauptet, dass RI-CSCEM eine diagnostische Baseline für die Literatur zum Kreditscoring darstellt. Seine primäre Bedeutung liegt in dem Nachweis, dass unter einem Missing at Random (MAR) Ablehnungsmechanismus Reject Inference wenig Mehrwert gegenüber einem gut abgestimmten, kostensensitiven Accepted-only-Modell bietet. Die Autoren argumentieren, dass der Accepted-only-Schätzer unter MAR bereits erwartungstreu ist, und das vorgeschlagene Framework bestätigt dies sowohl theoretisch als auch empirisch.

Das Paper schließt bescheiden mit der Feststellung, dass der wahre Nutzen von Reject Inference in Missing Not at Random (MNAR) Szenarien entstehen sollte, in denen die Ablehnung von nicht beobachteten Faktoren abhängt. Die vorliegende Arbeit etabliert eine rigorose Grundlage für solche zukünftigen Erweiterungen, indem sie die Konsistenz unter MAR beweist und die spezifischen Komponenten (Kostensensitivität und Soft-Assignment) isoliert, die die Modellleistung verbessern, wenn Reject Inference angewendet wird. Die Autoren behaupten nicht, dass RI-CSCEM universell alle Baselines in allen Regimen übertrifft, sondern dass es unter MAR die stärksten Baselines erreicht und dabei einen robusten, theoretisch fundierten Mechanismus zur Handhabung ungelabelter Daten bietet, wenn der Ablehnungsmechanismus ignorierbar ist.