Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision
Diese Arbeit befasst sich mit dem Mangel an Messrahmenwerken für algorithmische Monokulturen in der Kreditintermediation, indem sie zwischen Lieferkettenkonzentration und Entscheidungskonvergenz unterscheidet, ein Modell entwickelt, das zeigt, dass gemeinsam genutzte Modelle die Kreditversorgung destabilisieren können, wenn die Fehlerkorrelation schneller steigt, als die Varianz sinkt, und einen Ansatz zur Überwachung von Referenzportfolios vorschlägt, um die Fehlerkorrelation zu schätzen, während sie gleichzeitig gegen vorzeitige Kapitalaufschläge zugunsten des Aufbaus robuster Messkapazitäten argumentiert.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Welt des Bankwesens sahen sich Kreditgeber schon immer mit einer einfachen, aber gefährlichen Wahrheit konfrontiert: Wenn alle Banken ihre Entscheidungen auf der Grundlage derselben Informationen treffen, werden sie auch alle zur gleichen Zeit dieselben Fehler machen. Dies ist keine neue Befürchtung; es ist das finanzielle Äquivalent zu einem Landwirt, der eine einzige Nutzpflanze über einen ganzen Kontinent hinweg pflanzt. Wenn eine Krankheit diese spezifische Pflanze befällt, fällt die gesamte Ernte aus, und der Landwirt hat keine Absicherung. Jahrzehntelang haben Regulierungsbehörden die Banken beobachtet, um sicherzustellen, dass sie nicht alle an dieselben Unternehmen oder Personen verleihen, denn wenn diese Kreditnehmer ausfallen, scheitern die Banken gemeinsam. Doch eine neue Art von Risiko ist entstanden, die schwerer zu erkennen ist. Anstatt an dieselben Menschen zu verleihen, beginnen Banken nun, dieselben Computerprogramme zu verwenden, um zu entscheiden, wer einen Kredit erhält. Diese Programme, die oft auf massiven, gemeinsam genutzten Systemen der künstlichen Intelligenz basieren, können Millionen von Anträgen in Sekundenschnelle verarbeiten. Die Sorge ist, dass diese Systeme, wenn sie alle auf demselben zugrunde liegenden Code oder denselben Daten beruhen, gleichzeitig dieselben guten Kreditnehmer ablehnen oder dieselben schlechten genehmigen könnten, was einen plötzlichen, systemweiten Kreditstopp auslösen würde, den keine einzelne Bank kommen sah.
Ein Team von Forschern hat sich zum Ziel gesetzt, diese unsichtbare Gefahr zu messen, die sie „algorithmische Monokultur“ nennen. Ihre Arbeit konzentriert sich auf die Lücke zwischen dem, was Regulierungsbehörden sehen können, und dem, was sie tatsächlich wissen müssen. Derzeit können Aufsichtsbehörden leicht zählen, wie viele Banken einen bestimmten Cloud-Anbieter oder einen bestimmten Softwarehersteller nutzen. Sie können die Lieferkette sehen. Sie können jedoch das Ergebnis nicht sehen. Zwei Banken können exakt dieselbe Software verwenden, aber wenn sie diese unterschiedlich anpassen oder mit unterschiedlichen Daten füttern, können ihre Entscheidungen dennoch einzigartig sein. Umgekehrt könnten zwei Banken völlig unterschiedliche Software verwenden, aber wenn sie dasselbe Problem mit ähnlichen Daten lösen, könnten sie am Ende identische Fehler machen. Die Forscher argumentieren, dass das Zählen der Softwareanbieter eine schlechte Art und Weise ist, um das eigentliche Risiko zu messen, bei dem es nicht darum geht, wer das Werkzeug gebaut hat, sondern ob die Werkzeuge zur gleichen Zeit dieselben Fehler machen.
Um den Einsatz zu verdeutlichen, haben die Autoren ein mathematisches Modell erstellt, wie Kredite durch die Wirtschaft fließen. Sie stellten sich eine Welt vor, in der Banken ein gemeinsames, hochpräzises System der künstlichen Intelligenz nutzen. Dieses System ist besser als die alten, unabhängigen Systeme; es macht insgesamt weniger Fehler. Da es jedoch geteilt wird, macht jede Bank, wenn das System einen Fehler macht, diesen Fehler gemeinsam. Die Forscher fanden einen kritischen Wendepunkt. Wenn das gemeinsame System nur geringfügig besser ist als die alten Systeme, wird der Vorteil, weniger Fehler zu machen, durch die Gefahr zunichtegemacht, dass alle Fehler gleichzeitig auftreten. In ihren Simulationen konnte selbst ein System, das fünfzig Prozent genauer war als die alten Methoden, das gesamte Bankensystem noch instabiler machen, wenn es dazu führte, dass die Fehler der Banken hochgradig korreliert waren. Der Gewinn an Genauigkeit reicht nicht aus, um die Kosten des gemeinsamen Scheiterns zu bezahlen. Das System wird volatiler und schwankt heftig zwischen zu viel und zu wenig Kreditvergabe, einfach weil alle die Welt durch dieselbe Linse betrachten.
Das Papier wendet sich dann der Frage zu, wie man dieses Problem erkennen kann, bevor eine Krise entsteht. Die Autoren schlagen eine neue Methode vor, das Risiko mit Daten zu messen, die Regulierungsbehörden bereits sammeln, aber auf eine neue Weise. Anstatt die Banken nur zu fragen, welche Modelle sie verwenden, würden die Aufsichtsbehörden einer Gruppe von Banken denselben Satz hypothetischer Kreditanträge mit bekannten Ergebnissen vorlegen – im Wesentlichen ein Test, bei dem die Antworten bereits feststehen. Durch den Vergleich, wie jedes Bankmodell diese identischen Anträge bewertet, könnten die Regulierungsbehörden berechnen, wie stark die Fehler der Banken gemeinsam verlaufen. Wenn die Banken alle dieselben falschen Vorhersagen für dieselben Antragsteller treffen, ist das System in Gefahr. Die Forscher entdeckten, dass diese Messung überraschend schwierig präzise durchzuführen ist. Es bedarf einer großen Anzahl von Kreditausfällen in den Daten, damit sie statistisch aussagekräftig sind. Für Kleingewerbekredite oder große Unternehmenskredite, bei denen Ausfälle selten sind, sind die Daten zu dünn, um eine klare Antwort zu geben. Aber für alltägliche Konsumkredite, wie etwa Kreditkarten, gibt es genügend Daten, um eine präzise Messung vorzunehmen.
Trotz der Existenz eines Weges, das Risiko zu messen, sprechen sich die Autoren gegen die offensichtlichsten Lösungen aus. Sie schlagen vor, dass Regulierungsbehörden nicht einfach Banken dazu zwingen sollten, unterschiedliche Modelle zu verwenden oder zusätzliche Kapitalanforderungen basierend darauf zu stellen, wie ähnlich ihre Modelle sind. Das Erzwingen von Diversität könnte nach hinten losgehen, indem Banken gezwungen werden, schlechtere, weniger genaue Modelle zu verwenden, nur um anders auszusehen, was Kreditnehmer schaden würde, die auf diese Systeme angewiesen sind, um faire Kredite zu erhalten. Stattdessen schlägt das Papier einen praktischeren Ansatz vor. Regulierungsbehörden sollten sich darauf konzentrieren, sicherzustellen, dass jede Bank einen „Fallback“-Plan hat. Wenn eine Bank stark von einem gemeinsamen, externen KI-System abhängt, muss sie nachweisen können, dass sie in der Lage ist, auf eine andere, unabhängige Methode für einen signifikanten Teil ihres Geschäfts umzustellen, falls dieses gemeinsame System ausfällt oder beginnt, korrelierte Fehler zu machen. Dies stellt sicher, dass das System über eine Rückversicherung verfügt, die nicht mit dem Hauptrisiko verbunden ist.
Die Forscher merken vorsichtig an, dass diese Krise noch nicht eingetreten ist. Aktuelle Umfragen zeigen, dass zwar viele Banken künstliche Intelligenz nutzen, aber nur sehr wenige die fortschrittlichsten, geteilten Basismodelle für ihre Kernentscheidungen bei der Kreditvergabe verwenden. Das Risiko ist prospektiv, was bedeutet, dass es etwas ist, das passieren könnte, sobald die Technologie verbreiteter wird. Die Dringlichkeit ihres Vorschlags liegt nicht darin, dass die Gefahr heute besteht, sondern dass es unmöglich sein wird, das „normale“ Risikoniveau zu bestimmen, sobald Banken diese gemeinsamen Systeme vollständig übernommen haben. Wenn Regulierungsbehörden warten, bis das Problem sichtbar wird, um mit der Messung zu beginnen, werden sie die Basislinie verloren haben, die nötig ist, um zu verstehen, wie schlimm es geworden ist. Das Papier schließt mit dem Argument, dass die Zeit ist, die Messwerkzeuge jetzt aufzubauen, während sich das System noch verändert, damit die Aufsichtsbehörden den Wandel in Echtzeit sehen können, anstatt den Schaden erst im Nachhinein feststellen zu müssen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.