Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision
Questo articolo affronta la mancanza di quadri di misurazione per la monocultura algoritmica nell'intermediazione creditizia distinguendo tra concentrazione della catena di approvvigionamento e convergenza decisionale, sviluppando un modello che mostra come i modelli condivisi possano destabilizzare l'offerta di credito quando la correlazione degli errori cresce più velocemente della diminuzione della varianza, e proponendo un approccio di supervisione basato su un portafoglio di riferimento per stimare la correlazione degli errori, sostenendo al contempo l'opposizione a accantonamenti di capitale prematuri a favore della costruzione di capacità di misurazione robuste.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo del settore bancario, i prestatori hanno sempre affrontato una verità semplice ma pericolosa: se ogni banca prende le proprie decisioni basandosi sulle stesse informazioni, commetteranno tutti gli stessi errori contemporaneamente. Questa non è una nuova paura; è l'equivalente finanziario di un agricoltore che pianta un unico raccolto in un intero continente. Se una malattia colpisce quel raccolto specifico, l'intero raccolto fallisce e l'agricoltore non ha un piano di riserva. Per decenni, i regolatori hanno osservato le banche per garantire che non prestassero tutte alle stesse aziende o persone, perché se quei debitori falliscono, le banche falliscono insieme. Ma è emerso un nuovo tipo di rischio, più difficile da vedere. Invece di prestare alle stesse persone, le banche stanno iniziando a usare gli stessi programmi informatici per decidere chi ottiene un prestito. Questi programmi, spesso costruiti su massicci sistemi di intelligenza artificiale condivisi, possono elaborare milioni di domande in pochi secondi. La preoccupazione è che, se questi sistemi si basano tutti sullo stesso codice sottostante o sugli stessi dati, potrebbero tutti rifiutare gli stessi buoni debitori o approvare gli stessi cattivi debitori simultaneamente, creando un improvviso congelamento del credito a livello sistemico che nessuna singola banca avrebbe previsto.
Un team di ricercatori si è posto l'obiettivo di misurare questo pericolo invisibile, che chiamano "monocultura algoritmica". Il loro lavoro si concentra sul divario tra ciò che i regolatori possono vedere e ciò di cui hanno effettivamente bisogno. Attualmente, i supervisori possono facilmente contare quante banche utilizzano un determinato fornitore di servizi cloud o un determinato fornitore di software. Possono vedere la catena di approvvigionamento. Tuttavia, non possono vedere il risultato. Due banche potrebbero utilizzare esattamente lo stesso software, ma se lo personalizzano in modo diverso o lo alimentano con dati differenti, le loro decisioni potrebbero essere comunque uniche. Al contrario, due banche potrebbero utilizzare software completamente diversi, ma se stanno risolvendo lo stesso problema con dati simili, potrebbero finire per commettere errori identici. I ricercatori sostengono che contare i fornitori di software sia un modo improprio per misurare il rischio reale, che non riguarda chi ha costruito lo strumento, ma se gli strumenti stiano commettendo gli stessi errori nello stesso momento.
Per comprendere la portata della questione, gli autori hanno costruito un modello matematico di come il credito fluisca nell'economia. Hanno immaginato un mondo in cui le banche utilizzano un sistema di intelligenza artificiale condiviso e altamente accurato. Questo sistema è migliore dei vecchi sistemi indipendenti; commette meno errori complessivi. Tuttavia, poiché è condiviso, quando commette un errore, ogni banca commette lo stesso errore insieme. I ricercatori hanno individuato un punto di svolta critico. Se il sistema condiviso è solo leggermente migliore di quelli precedenti, il beneficio di avere meno errori viene annullato dal pericolo di avere tutti gli errori che accadono contemporaneamente. Nelle loro simulazioni, anche un sistema il cinquanta per cento più accurato dei metodi precedenti poteva rendere l'intero sistema bancario più instabile se causava un'elevata correlazione tra gli errori delle banche. Il guadagno in accuratezza non è sufficiente a pagare il costo del fallimento condiviso. Il sistema diventa più volatile, oscillando selvaggiamente tra il prestare troppo e il prestare troppo poco, semplicemente perché tutti guardano il mondo attraverso la stessa lente.
Il documento si occupa poi della questione di come intercettare questo problema prima che si verifichi una crisi. Gli autori propongono un nuovo modo per misurare il rischio utilizzando dati che i regolatori già raccolgono, ma in un modo nuovo. Invece di chiedere semplicemente alle banche quali modelli utilizzano, i supervisori fornirebbero a un gruppo di banche lo stesso insieme di domande di prestito ipotetiche con esiti noti — essenzialmente un test dove le risposte sono già scritte. Confrontando il modo in cui il modello di ciascuna banca valuta queste stesse domande, i regolatori potrebbero calcolare quanto i loro errori si muovano insieme. Se le banche stanno facendo tutte le stesse previsioni errate sugli stessi richiedenti, il sistema è in pericolo. I ricercatori hanno scoperto che questa misurazione è sorprendentemente difficile da eseguire con precisiono. Richiede che un gran numero di insoluti sia visibile nei dati per essere statisticamente utile. Per i prestiti alle piccole imprese o i grandi prestiti aziendali, dove i default sono rari, i dati sono troppo esigui per fornire una risposta chiara. Ma per i prestiti al consumo quotidiani, come le carte di credito, c'è abbastanza dato per ottenere una lettura precisa.
Nonostante esista un modo per misurare il rischio, gli autori si oppongono alle soluzioni più ovvie. Suggeriscono che i regolatori non dovrebbero semplicemente obbligare le banche a utilizzare modelli diversi o applicare oneri di capitale aggiuntivi basati sulla somiglianza dei loro modelli. Imporre la diversità potrebbe rivelarsi controproducente, spingendo le banche a utilizzare modelli peggiori e meno accurati solo per apparire diverse, il che danneggerebbe i debitori che si affidano a questi sistemi per ottenere un credito equo. Invece, il documento propone un approccio più pratico. I regolatori dovrebbero concentrarsi sull'assicurarsi che ogni banca abbia un piano di "fallback" (piano di emergenza). Se una banca dipende fortemente da un sistema di intelligenza artificiale esterno e condiviso, deve dimostrare di poter passare a un metodo diverso e indipendente per una parte significativa del proprio business qualora quel sistema condiviso dovesse fallire o iniziare a produrre errori correlati. Ciò garantisce che il sistema abbia una riserva che non sia collegata al rischio principale.
I ricercatori sottolineano con cautela che questa crisi non è ancora avvenuta. Sondaggi recenti mostrano che, sebbene molte banche utilizzino l'intelligenza artificiale, pochissime utilizzano i modelli di base condivisi più avanzati per le loro decisioni di prestito principali. Il rischio è prospettico, il che significa che è qualcosa che potrebbe accadere man mano che la tecnologia diventa più comune. L'urgenza della loro proposta non è che il pericolo sia presente oggi, ma che, una volta che le banche avranno adottato pienamente questi sistemi condivisi, sarà impossibile sapere quale fosse il livello di rischio "normale" prima del cambiamento. Se i regolatori aspettano che il problema diventi visibile per iniziare a misurarlo, avranno perso la linea di base necessaria per capire quanto sia diventato grave. Il documento conclude che il momento di costruire gli strumenti di misurazione è adesso, mentre il sistema è ancora in fase di trasformazione, affinché i supervisori possano vedere il cambiamento in tempo reale piuttosto che scoprire il danno dopo che si è verificato.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.