Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision
Dit artikel behandelt het gebrek aan meetkaders voor algoritmische monocultuur in kredietbemiddeling door onderscheid te maken tussen concentratie in de toeleveringsketen en besluitvormingsconvergentie, een model te ontwikkelen dat aantoont dat gedeelde modellen de kredietvoorziening kunnen destabiliseren wanneer de foutencorrelatie sneller stijgt dan de variantie afneemt, en een toezichtbenadering op basis van een referentieportfolio voor te stellen om de foutencorrelatie te schatten, terwijl het pleit tegen voortijdige kapitaaltoevoegingen ten gunste van het opbouwen van robuuste meetcapaciteiten.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de wereld van het bankwezen hebben kredietverleners altijd een simpele maar gevaarlijke waarheid onder ogen gestaan: als elke bank beslissingen neemt op basis van dezelfde informatie, zullen ze allemaal tegelijkertijd dezelfde fouten maken. Dit is geen nieuwe angst; het is het financiële equivalent van een boer die een enkel gewas over een heel continent plant. Als een ziekte dat specifieke gewas treft, mislukt de hele oogst en heeft de boer geen back-up. Decennialang hebben toezichthouders banken in de gaten gehouden om ervoor te zorgen dat ze niet allemaal aan dezelfde bedrijven of personen lenen, want als die kredietnemers falen, falen de banken samen. Maar er is een nieuw soort risico ontstaan, een dat moeilijker te zien is. In plaats van te lenen aan dezelfde mensen, zijn banken nu begonnen met het gebruik van dezelfde computerprogramma's om te beslissen wie een lening krijgt. Deze programma's, vaak gebouwd op massieve, gedeelde kunstmatige intelligentiesystemen, kunnen miljoens aanvragen in seconden verwerken. De zorg is dat als deze systemen allemaal vertrouwen op dezelfde onderliggende code of data, ze allemaal tegelijkertijd dezelfde goede kredietnemers kunnen afwijzen of dezelfde slechte kredieten kunnen goedkeuren, wat een plotselinge, systeembrede bevriezing van de kredietverlening kan veroorzaken die geen enkele bank had zien aankomen.
Een team van onderzoekers heeft zich gericht op het meten van dit onzichtbare gevaar, dat zij "algoritmische monocultuur" noemen. Hun werk richt zich op de kloof tussen wat toezichthouders kunnen zien en wat ze eigenlijk moeten weten. Momenteel kunnen toezichthouders gemakkelijk tellen hoeveel banken een specifieke cloudprovider of een specifieke softwareleverancier gebruiken. Ze kunnen de toeleveringsketen zien. Echter, ze kunnen het resultaat niet zien. Twee banken kunnen exact dezelfde software gebruiken, maar als ze deze verschillend aanpassen of er verschillende data in voeden, kunnen hun beslissingen nog steeds uniek zijn. Omgekeerd kunnen twee banken totaal verschillende software gebruiken, maar als ze hetzelfde probleem oplossen met vergelijkbare data, kunnen ze uiteindelijk identieke fouten maken. De onderzoekers betogen dat het tellen van de softwareleveranciers een gebrekkige manier is om het werkelijke risico te meten, dat niet gaat over wie de tool heeft gebouwd, maar over de vraag of de tools op hetzelfde moment dezelfde fouten maken.
Om de inzet te begrijpen, bouwden de auteurs een wiskundig model van hoe krediet door de economie stroomt. Ze stelden zich een wereld voor waarin banken een gedeeld, zeer accuraat kunstmatig intelligentiesysteem gebruiken. Dit systeem is beter dan de oude, onafhankelijke systemen; het maakt minder fouten in totaal. Echter, omdat het gedeeld is, maakt elk bankbedrijf wanneer het een fout maakt, diezelfde fout gezamenlijk. De onderzoekers vonden een kritiek kantelpunt. Als het gedeelde systeem slechts iets beter is dan de oude systemen, wordt het voordeel van minder fouten tenietgedaan door het gevaar dat alle fouten tegelijkertijd optreden. In hun simulaties kon zelfs een systeem dat vijftig procent nauwkeuriger was dan de oude methoden, het gehele banksysteem nog steeds instabieler maken als het de oorzaak was dat de fouten van de banken sterk gecorreleerd raakten. De winst in nauwkeurigheid is niet genoeg om de kosten van de gedeelde fout te betalen. Het systeem wordt volatieler, schommelend tussen te veel en te weinig lenen, simpelweg omdat iedereen naar de wereld kijkt door dezelfde lens.
Het artikel richt zich vervolgens op de vraag hoe men dit probleem kan detecteren voordat het een crisis veroorzaakt. De auteurs stellen een nieuwe manier voor om het risico te meten met behulp van data die toezichthouders al verzamelen, maar op een nieuwe manier. In plaats van banken alleen te vragen welke modellen ze gebruiken, zouden toezichthouders een groep banken dezelfde set hypothetische leningaanvragen geven met bekende uitkomsten — in feite een test waarbij de antwoorden al geschreven staan. Door te vergelijken hoe het model van elke bank deze zelfde aanvragen beoordeelt, kunnen toezichthouders berekenen in hoeverre de fouten van de banken samen bewegen. Als de banken allemaal dezelfde verkeerde voorspellingen doen over dezelfde aanvragers, is het systeem in gevaar. De onderzoekers ontdekten dat deze meting verrassend moeilijk nauwkeurig uit te voeren is. Het vereist een groot aantal wanbetalingen die zichtbaar zijn in de data om statistisch bruikbaar te zijn. Voor kleine zakelijke leningen of grote bedrijfsleningen, waarbij wanbetalingen zeldzaam zijn, is de data te dun om een duidelijk antwoord te geven. Maar voor alledaagse consumentenkredieten, zoals creditcards, is er voldoende data om een nauwkeurige meting te krijgen.
Ondanks het hebben van een manier om het risico te meten, zijn de auteurs tegen de meest voor de hand liggende oplossingen. Ze suggereren dat toezichthouders niet simpelweg banken moeten dwingen om verschillende modellen te gebruiken of extra kapitaalvereisten moeten opleggen op basis van hoe vergelijkbaar hun modellen zijn. Het afdwingen van diversiteit zou averechts kunnen werken, door banken te dwingen minder nauwkeurige, slechtere modellen te gebruiken om er anders uit te zien, wat nadelig is voor kredietnemers die op deze systemen vertrouwen om eerlijk krediet te krijgen. In plaats daarvan stelt het artikel een meer praktische aanpak voor. Toezichthouders zouden zich moeten richten op het waarborgen dat elke bank een "fallback"-plan heeft. Als een bank zwaar leunt op een gedeeld, extern kunstmatig intelligentiesysteem, moet zij kunnen bewijzen dat zij in staat is om over te schakelen naar een andere, onafhankelijke methode voor een aanzienlijk deel van haar zaken, indien dat gedeelde systeem faalt of gecorreleerde fouten begint te maken. Dit zorgt ervoor dat het systeem een back-up heeft die niet verbonden is met het hoofdrisico.
De onderzoekers merken voorzichtig op dat deze crisis nog niet heeft plaatsgevonden. Recente enquêtes laten zien dat hoewel veel banken kunstmatige intelligentie gebruiken, zeer weinig banken de meest geavanceerde, gedeelde fundamentele modellen gebruiken voor hun kernactiviteiten in de kredietverlening. Het risico is prospectief, wat betekent dat het iets is dat zou kunnen gebeuren naarmate de technologie gebruikelijker wordt. De urgentie van hun voorstel is niet dat het gevaar vandaag aanwezig is, maar dat zodra banken deze gedeelde systemen volledig hebben geadopteerd, het onmogelijk zal zijn om te weten wat het "normale" risiconiveau was vóór de verandering. Als toezichthouders wachten tot het probleem zichtbaar is om het te gaan meten, zullen ze de baseline verloren hebben die nodig is om te begrijpen hoe groot de schade is geworden. Het artikel concludeert dat de tijd om de meetinstrumenten te bouwen nu is, terwijl het systeem nog in beweging is, zodat toezichthouders de verschuiving in realtime kunnen zien in plaats van de schade pas achteraf te ontdekken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.