SHAP and LIME Explainability in Financial Machine Learning: A Systematic Review of Methods, Evaluation Gaps, and Barriers to Deployment
Diese systematische Übersicht über 297 Studien zeigt, dass SHAP und LIME zwar weit verbreitet für die Erklärbarkeit im Bereich des Financial Machine Learning – insbesondere für die Kreditmodellierung – eingesetzt werden, jedoch unter einem kritischen Mangel an formaler Evaluierung leiden, wobei nur 9,1 % der Arbeiten die Qualität der Erklärungen bewerten, was die dringende Notwendigkeit stärkerer Validierungs- und Einsatzstandards unterstreicht, um die Einhaltung regulatorischer Vorschriften und Vertrauen zu gewährleisten.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen Finanzwelt verlassen sich Banken, Versicherungen und Handelsunternehmen stark auf komplexe Computerprogramme, um hochriskante Entscheidungen zu treffen. Diese Programme, die oft als Machine-Learning-Modelle bezeichnet werden, können vorhersagen, ob eine Person einen Kredit zurückzahlen wird, eine Transaktion als betrügerisch kennzeichnet oder den Preis einer Versicherungspolice bestimmt. Obwohl diese Werkzeuge unglaublich leistungsstark sind, agieren sie oft als „Black Boxes“. Das bedeutet, dass selbst die Menschen, die sie entwickelt haben, nicht ohne Weiteres nachvollziehen können, wie der Computer zu einer bestimmten Antwort gelangt ist. Wenn ein Kredit abgelehnt oder ein Konto gesperrt wird, müssen der Kunde, der Prüfer und die Aufsichtsbehörde wissen, warum. Um dieses Problem zu lösen, haben Forscher das Feld der „Explainable AI“ (Erklärbare KI) entwickelt. Dies sind Werkzeuge, die darauf ausgelegt sind, Licht in die Black Box zu bringen und die komplexe Mathematik des Computers in menschenlesbare Gründe zu übersetzen. Zwei der bekanntesten Werkzeuge für diese Aufgabe sind als SHAP und LIME bekannt. Sie fungieren wie Übersetzer, die eine fertige Vorhersage nehmen und rückwärts arbeiten, um zu zeigen, welche Faktoren, wie etwa das Einkommen oder die Ausgabenhistorie, am wichtigsten waren. Allein die Tatsache, dass ein Werkzeug eine Erklärung erzeugen kann, bedeutet jedoch nicht, dass diese Erklärung korrekt, stabil oder vertrauenswürdig genug ist, um in einem echten Gerichtssaal oder einer Bankfiliale verwendet zu werden.
Ein Forschungsteam von der Boston University, der University of California, Irvine, der Sharda University und dem Indian Institute of Technology Kanpur beschloss zu untersuchen, wie gut diese Werkzeuge in der realen Finanzwelt eingesetzt werden. Sie betrachteten nicht nur neue Ideen; sie führten eine massive, systematische Überprüfung von fast 300 wissenschaftlichen Studien durch, die zwischen 2016 und 2026 veröffentlicht wurden. Ihr Ziel war es, die Beweise zu prüfen. Sie wollten sehen, ob Forscher lediglich schöne Bilder davon zeigten, wie ein Modell funktioniert, oder ob sie tatsächlich bewiesen, dass diese Bilder präzise und zuverlässig waren. Das Team folgte einem strengen Protokoll, durchsuchte tausende akademische Datensätze und fand nur jene Studien, in denen SHAP oder LIME tatsächlich auf Finanzdaten wie Kreditbewertungen oder Betrugserkennung angewendet wurden. Sie untersuchten dann jedes Detail: Welche Art von Finanzproblem gelöst wurde, welche Art von Computermodell erklärt wurde und – am wichtigsten – ob die Forscher die Qualität ihrer Erklärungen getestet hatten.
Die Ergebnisse dieser Untersuchung zeigen eine signifikante Lücke zwischen der Geschwindigkeit, mit der diese Werkzeuge übernommen werden, und der Sorgfalt, mit der sie getestet werden. Die Forscher stellten fest, dass sich das Feld sehr schnell entwickelt hat. Die große Mehrheit der von ihnen analysierten Studien, etwa 74 Prozent, konzentrierte sich auf einfache Ja-oder-Nein-Entscheidungen, wie die Genehmigung eines Kredits oder das Aufspüren von Betrug. In diesen Studien war das Werkzeug namens SHAP der klare Favorit und tauchte in fast 94 Prozent aller Arbeiten auf. Diese Popularität liegt vor allem daran, dass SHAP sehr gut mit den spezifischen Arten von Computermodellen funktioniert, die Banken am häufigsten verwenden. Das zweite Werkzeug, LIME, wurde viel seltener verwendet und meist nur als Randnotiz zu SHAP, statt als primäre Methode. Während die Forscher feststellten, dass fast jede Studie berichtete, wie gut ihr Computermodell das Ergebnis vorhersagte, änderte sich die Geschichte völlig, als sie sich die Erklärungen selbst ansah.
Die auffälligste Erkenntnis war, dass fast niemand tatsächlich prüfte, ob seine Erklärungen auch gut waren. Von den 297 untersuchten Studien führten nur 21, also etwa 7 Prozent, einen formalen Test durch, um zu sehen, ob die Erklärung dem tatsächlichen Verhalten des Modells entsprach. Weitere 6 Studien lieferten einige begrenzte Belege, aber die überwältigende Mehrheit generierte einfach eine Erklärung und setzte voraus, dass diese korrekt sei. Die Forscher merkten an, dass dies ein gefährliches Versäumnis ist. In der Finanzwelt ist eine Erklärung nicht nur ein visuelles Hilfsmittel; sie ist ein kritischer Teil des Entscheidungsprozesses. Wenn eine Bank einem Kunden mitteilt, dass sein Kredit abgelehnt wurde, weil seine Kreditwürdigkeit nicht ausreichte, die Erklärung aber in Wirklichkeit falsch oder instabil ist, entstehen rechtliche und ethische Risiken. Die Untersuchung ergab, dass Forscher oft den Akt des Generierens einer Erklärung mit der Validierung derselben gleichsetzten, doch die Beweise zeigen, dass dies zwei sehr unterschiedliche Dinge sind.
Die Studie untersuchte auch die Hürden, die einer sicheren Nutzung dieser Werkzeuge in realen Systemen entgegenstehen. Die Forscher fanden heraus, dass 72 Prozent der Studien technische oder datenbezogene Barrieren erwähnten. Das am häufigsten genannte Problem war „Class Imbalance“ (Klassenungleichgewicht), eine Situation, in der das vorhergesagte Ereignis, wie ein Kreditausfall oder ein Betrugsfall, im Vergleich zu Normalfällen sehr selten eintritt. Diese Seltenheit macht es schwierig für die Erklärungswerkzeuge, konsistente Antworten zu geben. Andere Barrieren waren die Notwendigkeit schneller Ergebnisse, Datenschutzbedenken und die Tatsache, dass sich Finanzdaten im Laufe der Zeit verändern. Die Überprüfung verdeutlichte jedoch einen Widerspruch: Während Forscher diese Barrieren häufig als Probleme auflisteten, testeten sie selten, wie diese Probleme die Qualität der Erklärungen tatsächlich beeinträchtigten. Sie benannten die Hindernisse, aber sie maßen den Schaden nicht.
Als die Forscher untersuchten, wie Wissenschaftler versuchten, Vertrauen in ihre Ergebnisse aufzubauen, fanden sie heraus, dass die meisten auf schwache Methoden zurückgriffen. Etwa 36 Prozent der Studien erwähnten eine Form der Validierung, aber der häufigste Ansatz war schlicht der Vergleich der Ergebnisse von SHAP mit LIME. Wenn die beiden Werkzeuge übereinstimmten, nahmen Forscher oft an, dass die Erklärung korrekt sei. Die Untersuchung argumentiert, dass dies kein ausreichender Beweis ist, da beide Werkzeuge auf die gleiche Weise falsch liegen könnten. Stärkere Methoden, wie etwa das Testen, wie standhält die Erklärung, wenn sich Daten leicht ändern, oder das Bitten von menschlichen Experten, die Ergebnisse zu beurteilen, wurden nur in einem winzigen Bruchteil der Studien angewandt. Die Autoren kamen zu dem Schluss, dass das Feld die Kunst der Erklärungsgenerierung zwar beherrscht, aber weitgehend daran gescheitert ist, zu beweisen, dass diese Erklärungen vertrauenswürdig sind. Sie schlagen einen neuen Standard für die zukünftige Forschung vor und fordern Wissenschaftler auf, aufzuhören, die Generierung einer Erklärung als den letzten Schritt zu behandeln. Stattdessen müssen sie die Erklärung selbst als ein Produkt betrachten, das einer strengen Prüfung bedarf – genau wie das Finanzmodell, das sie beschreibt –, bevor sie jemals dazu verwendet wird, Entscheidungen zu treffen, die das Leben von Menschen beeinflussen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.