Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

Jedes Mal, wenn eine Bank entscheidet, ob sie Geld verleiht, stützt sie sich auf ein Modell, um die Finanzhistorie einer Person gegen das Risiko eines Zahlungsausfalls abzuwägen. Jahrzehntelang waren diese Modelle einfach genug, dass ein Mensch der Logik folgen konnte: Wenn man Zahlungen versäumte, sank der Score. Doch als Banken begannen, leistungsfähigere Computersysteme zu nutzen, um subtile Muster in riesigen Datenmengen zu finden, verbarg sich die Logik in einer „Black Box“. Diese fortschrittlichen Systeme konnten das Risiko mit großer Genauigkeit vorhersagen, konnten aber nicht erklären, warum sie eine bestimmte Entscheidung getroffen hatten. Dies schuf ein ernstes Problem. Gesetze in vielen Regionen schreiben Kreditgebern nun vor, ihre Entscheidungen gegenüber den Antragstellern zu begründen, und ohne einen klaren Grund fühlt sich eine Ablehnung von Krediten willkürlich und unfair an. Die Herausforderung für Wissenschaftler bestand darin, einen Weg zu finden, die hohe Genauigkeit dieser komplexen Systeme beizubehalten und gleichzeitig die Black Box zu öffnen, um die dahinterstehende Argumentation offenzulegen.

Zwei neue Werkzeuge sind entstanden, um dieses Rätsel zu lösen. Das erste ist eine Methode, die wie eine Lupe wirkt und genau zeigt, welche Informationen – wie etwa der Kontostand eines Girokontos oder die Dauer eines Kredits – das Modell zu einem bestimmten Schluss getrieben haben. Das zweite Werkzeug gleicht eher einem „Was-wäre-wenn“-Simulator. Es bittet den Computer, sich die kleinstmöglichen Änderungen vorzustellen, die eine Person in ihrem Finanzprofil vornehmen könnte, um eine Ablehnung in eine Zusage umzuwandeln. Während jedes Werkzeug für sich genommen nützlich ist, fragten sich Forscher der Arizona State University, ob die Kombination dieser beiden Methoden ein klareres Bild ergeben würde. Sie machten sich daran zu testen, ob die Verwendung dieser beiden Methoden zusammen nicht nur erklären könnte, warum eine Entscheidung getroffen wurde, sondern auch einen praktischen, fairen Weg nach vorne für die Person aufzeigen könnte, die abgelehnt wurde.

Um diese Idee zu testen, verwendeten die Forscher einen bekannten Datensatz, der tausend echte Kreditanträge aus Deutschland enthält. Sie erstellten zwei verschiedene Arten von Vorhersagemodellen, um deren Verhalten zu untersuchen. Ein Modell nutzte einen geradlinigen, linearen Ansatz, während das andere ein komplexeres System verwendete, das viele Entscheidungsbäume aufbaut, um Muster zu finden. Sie wandten dann ihre kombinierte Erklärungsmethode auf beide Modelle an. Die Ergebnisse zeigten, dass das komplexe Modell in Bezug auf die Gesamtgenauigkeit tatsächlich nicht wesentlich besser abschnitt als das einfache, aber die beiden Modelle machten unterschiedliche Arten von Fehlern. Das einfache Modell war besser darin, Personen zu erfassen, die wahrscheinlich zahlungsunfähig werden würden, während das komplexe Modell besser darin war, Fehlalarme zu vermeiden. Wichtiger noch: Die kombinierte Erklärungsmethode funktionierte bemerkenswert gut. Indem sie zuerst das „Lupen“-Werkzeug verwendeten, um die wichtigsten Faktoren zu identifizieren, konnten die Forscher den „Was-wäre-wenn“-Simulator dazu führen, die besten Lösungen viel schneller zu finden.

Die Studie ergab, dass dieser kombinierte Ansatz die Erklärungen signifikant effizienter machte. Als die Forscher den Computer fragten, die minimalen Änderungen zu finden, die nötig waren, um eine Ablehnung in eine Zusage zu verwandeln, erforderte die alte Methode von einem Antragsteller, sich etwa drei verschiedene Dinge gleichzeitig vorzustellen. Mit der neuen, geführten Methode musste sich der Antragsteller nur etwa zwei Dinge vorstellen. Diese Reduzierung der Komplexität macht die Beratung für einen Menschen leichter verständlich und umsetzbar. Das System generierte hundertprozentig gültige Vorschläge, was bewies, dass es zuverlässig einen Weg zu einem anderen Ergebnis finden kann, ohne die Regeln des Modells zu verletzen.

Über die bloße Verdeutlichung des Prozesses hinaus nutzten die Forscher diesen Rahmen, um nach Unfairness zu suchen. Sie entdeckten, dass die Modelle verschiedene Personengruppen unterschiedlich behandelten, selbst wenn die Antragsteller ähnliche Finanzprofile aufwiesen. Beispielsweise wurden ledige Männer häufiger als Hochrisikogruppe eingestuft als verheiratete oder verwitwete Männer, selbst wenn ihre finanzielle Situation vergleichbar war. Die Analyse zeigte, dass das Modell strenger mit den ledigen Männern war und von ihnen größere finanzielle Verbesserungen verlangte, um eine Zusage zu erhalten. Durch den Einsatz der kombinierten Werkzeuge konnten die Forscher genau bestimmen, wo diese Voreingenommenheit auftrat. Sie sahen, dass das Fehlen eines Girokontos die Scores der ledigen Männer stärker belastete als die der verheirateten Männer, was darauf hindeutete, dass das Modell eine versteckte Voreingenommenheit aus den historischen Daten, mit denen es trainiert wurde, erlernt hatte.

Die Forscher fanden auch heraus, dass die einflussreichsten Faktoren bei diesen Entscheidungen keine demografischen Details wie Alter oder Geschlecht waren, sondern konkrete finanzielle Realitäten. Der Status eines Girokontos und die Historie der Kreditrückzahlung waren die dominierenden Kräfte, die die Entscheidungen vorantrieben. Dies ist ein beruhigendes Ergebnis, da es darauf hindeutet, dass sich die Modelle auf die tatsächliche Rückzahlungsfähigkeit konzentrieren und nicht auf irrelevante persönliche Merkmale. Die Studie verdeutlicht jedoch auch, dass selbst wenn die Hauptfaktoren fair sind, die Art und Weise, wie das Modell diese gewichtet, dennoch zu ungleichen Ergebnissen für verschiedene Gruppen führen kann. Die kombinierte Erklärungsmethode war in der Lage, diese subtilen Ungleichheiten aufzudecken und genau aufzuzeigen, wie viel mehr Anstrengung eine Gruppe im Vergleich zu einer anderen aufwenden musste, um das gleiche Ergebnis zu erzielen.

Letztlich legt diese Arbeit nahe, dass wir uns nicht zwischen einem intelligenten Modell und einem fairen, verständlichen Modell entscheiden müssen. Indem wir die Fähigkeit, die Vergangenheit zu erklären, mit der Fähigkeit, eine bessere Zukunft vorzuschlagen, miteinander verweben, können Finanzinstitute Systeme schaffen, die sowohl präzise als auch transparent sind. Die Studie zeigt, dass wir, wenn wir die Suche nach Lösungen mithilfe der wichtigsten Faktoren leiten, den Antragstellern klare, handlungsorientierte Ratschläge geben können, die ihre spezifischen Umstände respektieren. Dieser Ansatz geht über das bloße Mitteilen einer Ablehnung hinaus; er bietet einen konkreten, fairen Fahrplan, wie sie ihre Stellung verbessern könnten, und stellt sicher, dass die Technologie, die unser Finanzleben beeinflusst, gegenüber den Menschen, die sie betrifft, rechenschaftspflichtig bleibt.