📈 économie

Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision

Cet article traite de l'absence de cadres de mesure pour la monoculture algorithmique dans l'intermédiation de crédit en distinguant la concentration de la chaîne d'approvisionnement de la convergence des décisions, en développant un modèle montrant que des modèles partagés peuvent déstabiliser l'offre de crédit lorsque la corrélation des erreurs augmente plus rapidement que la baisse de la variance, et en proposant une approche de supervision par portefeuille de référence pour estimer la corrélation des erreurs tout en plaidant contre des ajouts de capital prématurés au profit de la construction de capacités de mesure robustes.

Auteurs originaux : Deepak Ranjan Sahoo, Vaishali Deepak Sahoo

Publié 2026-09-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Deepak Ranjan Sahoo, Vaishali Deepak Sahoo

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde de la banque, les prêteurs ont toujours été confrontés à une vérité simple mais dangereuse : si chaque banque prend ses décisions sur la base des mêmes informations, elles commettront toutes les mêmes erreurs au même moment. Ce n'est pas une peur nouvelle ; c'est l'équivalent financier d'un agriculteur plantant une seule culture sur un continent entier. Si une maladie frappe cette culture spécifique, toute la récolte échoue et l'agriculteur n'a aucune solution de secours. Depuis des décennies, les régulateurs surveillent les banques pour s'assurer qu'elles ne prêtent pas toutes aux mêmes entreprises ou aux mêmes personnes, car si ces emprunteurs font faillite, les banques font faillite ensemble. Mais un nouveau type de risque est apparu, un risque plus difficile à percevoir. Au lieu de prêter aux mêmes personnes, les banques commencent désormais à utiliser les mêmes programmes informatiques pour décider qui obtient un prêt. Ces programmes, souvent construits sur de massifs systèmes d'intelligence artificielle partagés, peuvent traiter des millions de demandes en quelques secondes. L'inquiétude est que si ces systèmes reposent tous sur le même code ou les mêmes données sous-jacentes, ils pourraient tous rejeter les mêmes bons emprunteurs ou approuver les mêmes mauvais emprunteurs simultanément, créant un gel soudain et systémique du crédit que aucune banque n'aurait vu venir.

Une équipe de chercheurs s'est donné pour mission de mesurer ce danger invisible, qu'ils appellent « monoculture algorithmique ». Leurs travaux se concentrent sur l'écart entre ce que les régulateurs peuvent voir et ce dont ils ont réellement besoin de savoir. Actuellement, les superviseurs peuvent facilement compter combien de banques utilisent un fournisseur de cloud spécifique ou un vendeur de logiciels spécifique. Ils peuvent voir la chaîne d'approvisionnement. Cependant, ils ne peuvent pas voir le résultat. Deux banques peuvent utiliser exactement le même logiciel, mais si elles le modifient différemment ou lui injectent des données différentes, leurs décisions peuvent rester uniques. Inversement, deux banques peuvent utiliser des logiciels complètement différents, mais si elles résolvent le même problème avec des données similaires, elles pourraient finir par commettre des erreurs identiques. Les chercheurs soutiennent que compter les vendeurs de logiciels est un mauvais moyen de mesurer le risque réel, lequel ne concerne pas celui qui a construit l'outil, mais plutôt de savoir si les outils commettent les mêmes erreurs au même moment.

Pour comprendre les enjeux, les auteurs ont construit un modèle mathématique de la façon dont le crédit circule dans l'économie. Ils ont imaginé un monde où les banques utilisent un système d'intelligence artificielle partagé et hautement précis. Ce système est meilleur que les anciens systèmes indépendants ; il commet globalement moins d'erreurs. Cependant, parce qu'il est partagé, lorsqu'il commet une erreur, chaque banque commet cette même erreur ensemble. Les chercheurs ont découvert un point de bascule critique. Si le système partagé est seulement légèrement meilleur que les anciens, le bénéfice de commettre moins d'erreurs est annulé par le danger de commettre toutes ces erreurs en même temps. Dans leurs simulations, même un système cinquante pour cent plus précis que les anciennes méthodes pourrait rendre le système bancaire entier plus instable s'il provoquait une forte corrélation entre les erreurs des banques. Le gain de précision ne suffit pas à compenser le coût de la défaillance partagée. Le système devient plus volatil, oscillant violemment entre un excès de prêt et un manque de prêt, simplement parce que tout le monde regarde le monde à travers la même lentille.

L'article se penche ensuite sur la question de savoir comment détecter ce problème avant qu'une crise ne survienne. Les auteurs proposent une nouvelle façon de mesurer le risque en utilisant des données que les régulateurs collectent déjà, mais d'une manière nouvelle. Au lieu de simplement demander aux banques quels modèles elles utilisent, les superviseurs soumettraient à un groupe de banques le même ensemble de demandes de prêt hypothétiques avec des résultats connus — essentiellement un test où les réponses sont déjà écrites. En comparant la façon dont le modèle de chaque banque évalue ces mêmes demandes, les régulateurs pourraient calculer à quel point les erreurs des banques évoluent de concert. Si les banques font toutes les mêmes mauvaises prédictions sur les mêmes demandeurs, le système est en danger. Les chercheurs ont découvert que cette mesure est étonnamment difficile à réaliser avec précision. Elle nécessite qu'un grand nombre de défauts de paiement soient visibles dans les données pour être statistiquement utile. Pour les prêts aux petites entreprises ou les prêts aux grandes entreprises, où les défauts sont rares, les données sont trop ténues pour donner une réponse claire. Mais pour les prêts à la consommation courants, comme les cartes de crédit, il existe suffisamment de données pour obtenir une lecture précise.

Malgré l'existence d'un moyen de mesurer le risque, les auteurs s'opposent aux solutions les plus évidentes. Ils suggèrent que les régulateurs ne devraient pas simplement forcer les banques à utiliser des modèles différents ou ajouter des charges de capital basées sur la similitude de leurs modèles. Forcer la diversité pourrait avoir des conséquences inverses, poussant les banques à utiliser des modèles moins bons et moins précis juste pour paraître différentes, ce qui nuirait aux emprunteurs qui comptent sur ces systèmes pour obtenir un crédit équitable. Au lieu de cela, l'article propose une approche plus pratique. Les régulateurs devraient se concentrer sur l'assurance que chaque banque dispose d'un plan de secours. Si une banque dépend fortement d'un système d'intelligence artificielle externe et partagé, elle doit prouver qu'elle peut passer à une méthode différente et indépendante pour une partie significative de ses activités si ce système partagé échoue ou commence à produire des erreurs corrélées. Cela garantit que le système possède une solution de secours qui n'est pas connectée au risque principal.

Les chercheurs veillent à noter que cette crise n'a pas encore eu lieu. Des enquêtes récentes montrent que, bien que de nombreuses banques utilisent l'intelligence artificielle, très peu utilisent les modèles de fondation partagés les plus avancés pour leurs décisions de prêt de base. Le risque est prospectif, ce qui signifie qu'il s'agit de quelque chose qui pourrait arriver à mesure que la technologie se généralise. L'urgence de leur proposition n'est pas que le danger soit présent aujourd'hui, mais qu'une fois que les banques auront pleinement adopté ces systèmes partagés, il sera impossible de savoir quel était le niveau de risque « normal » avant le changement. Si les régulateurs attendent que le problème soit visible pour commencer à le mesurer, ils auront perdu la base de référence nécessaire pour comprendre l'ampleur du phénomène. L'article conclut que le moment est venu de construire les outils de mesure dès maintenant, pendant que le système est encore en mutation, afin que les superviseurs puissent observer le changement en temps réel plutôt que de découvrir les dégâts après coup.

Résumé Technique : Mesurer la monoculture algorithmique dans l'intermédiation de crédit

Énoncé du problème
Les organismes de régulation (FSB, ESRB, Banque d'Angleterre) ont identifié que la dépendance du système bancaire envers des modèles de fondation communs, des fournisseurs de données et des plateformes cloud crée une voie par laquelle l'intelligence artificielle peut exacerber le risque systémique via une « monoculture algorithmique ». Cependant, un fossé critique existe entre ce diagnostic et sa mesure. Bien que les superviseurs puissent mesurer les concentrations d'exposition (par exemple, les limites d'exposition large), ils manquent d'un cadre pour mesurer les « chocs de modèles ». La politique actuelle confond deux phénomènes distincts : la concentration dans l'offre de composants de modèles (observable via les registres de risques des tiers) et la convergence dans les décisions prises par les institutions (inobservable et constitue le véritable mécanisme de transmission des chocs). L'article soutient que la concentration de l'offre n'implique pas nécessairement une convergence des décisions, et inversement, qu'une convergence des décisions peut se produire sans une forte concentration de l'offre. De plus, les cadres réglementaires existants (par exemple, SR 11-7, SS1/23) opèrent au niveau de l'entreprise et sont aveugles aux vulnérabilités systémiques découlant d'erreurs corrélées entre institutions.

Méthodologie
L'article emploie une approche en trois étapes : différenciation conceptuelle, modélisation analytique et estimation pratique.

Cadre conceptuel : Les auteurs déconstruisent la « pile de dépendance aux modèles » en quatre couches : Infrastructure (L1), Modèles de base (L2), Adaptation (L3) et Déploiement (L4). Ils soutiennent que la concentration dans L1 et L2 (cloud, modèles pré-entraînés) a une faible transmission directe vers les erreurs de décision, tandis que L3 (ajustement fin, flux de données) et L4 (seuils de coupure, dépassements) déterminent la corrélation des erreurs. Crucialement, ils postulent que la concentration de l'offre n'est ni nécessaire ni suffisante pour la convergence des erreurs de décision.
Modèle analytique : Un modèle d'extraction de signal est développé où $N$ $N$ banques évaluent un pool commun d'emprunteurs. L'erreur d'évaluation de chaque banque ( $\epsilon_i$ $ϵ_{i}$ ) est décomposée en une composante commune ( $\eta$ $η$ ) et une composante idiosyncrasique ( $\nu_i$ $ν_{i}$ ).
- La variance de l'offre de crédit globale dépend du produit de la variance de l'erreur ( $\sigma^2_\epsilon$ ) et de la corrélation des erreurs ( $\rho$ ).
- Le modèle établit une condition de seuil : la migration vers un modèle partagé est déstabilisante si l'augmentation proportionnelle de la corrélation des erreurs ( $\rho$ ) excède la réduction proportionnelle de la variance de l'erreur ( $\sigma^2_\epsilon$ ).
- L'article déduit une « frontière technologique » où les gains de précision (réduction de la variance) sont achetés au prix d'une augmentation de la corrélation. Il démontre que le choix optimal au niveau privé (maximiser la précision) diverge souvent du choix optimal au niveau social (minimiser la volatilité systémique) car les acteurs privés ignorent l'externalité des erreurs corrélées.
Stratégie d'estimation : L'article propose un estimateur pour le paramètre de corrélation d'erreur ( $\rho$ $ρ$ ) en utilisant les mécanismes de benchmarking prudentiel déjà imposés par l'article 78 de la directive sur les exigences de fonds propres (CRD).
- Au lieu de portefeuilles hypothétiques, la proposition nécessite des portefeuilles de référence étiquetés par les résultats (expositions historiques anonymisées avec défauts réalisés).
- La statistique centrale est la corrélation par paire des résidus de prédiction ( $r_i = y - p_i$ ) entre les institutions.
- Un Indice de Monoculture Normalisé par la Nullité ( $M$ ) est introduit pour corriger le biais des corrélations de résidus brutes causé par la variation de l'issue partagée (le « terme d'issue partagée »), qui est particulièrement sévère dans les portefeuilles à faible taux de défaut.

Résultats clés

Dynamiques de seuil : Les résultats analytiques (Tableau 2) montrent que même des améliorations substantielles de la précision (réduction de 50 % de la variance de l'erreur) peuvent ne pas compenser le risque systémique si la corrélation des erreurs résultante dépasse un point de rupture spécifique (passant de 0,15 à 0,30).
Preuves de simulation : Une simulation de 30 banques sur 160 périodes démontre qu'une technologie partagée avec un gain de précision de 64 % (réduisant significativement la variance de l'erreur) a tout de même augmenté la volatilité du crédit global de 22 à 25 %. Le risque de queue (comptage des dépassements) a été multiplié par un facteur de 2,5.
Faisabilité de la mesure : La statistique de corrélation de résidus brute est jugée « très contaminée » par le terme d'issue partagée, la rendant peu informative pour les portefeuilles à faible taux de défaut. L'Indice de Monoculture ( $M$ ) proposé parvient à récupérer le paramètre mais nécessite un minimum d'environ 80 défauts attendus dans le portefeuille de référence pour atteindre une erreur type de 0,05. Cela implique que la métrique est viable pour les portefeuilles de détail, mais effectivement aveugle aux portefeuilles de gros clients/entreprises où le risque systémique est souvent le plus élevé.
Interaction politique : L'article identifie une interaction perverse où les coûts de conformité de l'IA (coûts fixes de documentation, de gouvernance) peuvent involontairement accroître la concentration de l'offre, car les institutions plus petites sont poussées à acheter des systèmes tiers conformes plutôt qu'à construire leurs propres systèmes internes.

Signification et affirmations
L'article formule des affirmations modestes mais critiques concernant l'état actuel de la banque et la voie à suivre :

Absence de monoculture actuelle : Les auteurs affirment explicitement que le cas empirique d'une monoculture algorithmique existante dans le secteur bancaire est faible. Des enquêtes récentes indiquent que les modèles de fondation ne représentent que 17 % des cas d'utilisation de l'IA, contre 2 % pour les cas entièrement autonomes.
L'argument pour la mesure : L'argument principal n'est pas que la monoculture est actuellement une crise, mais que l'appareil de mesure doit être construit avant que l'adoption ne devienne généralisée. Attendre que l'exposition soit visible laissera les superviseurs sans base de référence pré-adoption, rendant impossible la quantification de l'augmentation du risque.
Recommandations politiques :
- Contre les suppléments de fonds propres : L'article s'oppose aux suppléments de capital indexés sur la communauté des modèles, car les paramètres nécessaires sont actuellement impossibles à mesurer dans des segments clés de portefeuille, et de telles mesures pourraient pénaliser la précision.
- Contre les mandats de diversité : Les mandats stricts imposant l'utilisation de modèles différents sont rejetés en raison des coûts distributifs (nuisant aux emprunteurs ayant peu d'historage de crédit qui bénéficieraient de modèles avancés) et de la difficulté d'imposer la diversité sans dégrader la précision.
- Pour la supervision par portefeuille de référence : L'article préconise de réutiliser les exercices de benchmarking de l'Article 78 pour utiliser des portefeuilles étiquetés par les résultats afin de mesurer l'Indice de Monoculture.
- Pour la capacité de repli : Une exigence plus étroite est proposée : les institutions dépendant de modèles externes partagés doivent maintenir un canal de repli vérifié et non corrélé, capable de gérer une part définie de volume (par exemple, 2% ou 25 %) afin d'atténuer les risques de défaillance corrélée.

Conclusion
L'article conclut que bien que le signe de l'effet de la communauté des modèles dépende de l'arbitrage entre les gains de précision et les coûts de corrélation, l'asymétrie (la corrélation peut multiplier, la précision ne peut pas s'améliorer indéfiniment) suggère une vulnérabilité structurelle. La priorité immédiate n'est pas d'interdire la monoculture, mais d'opérationnaliser la mesure de la corrélation des erreurs en utilisant les outils de supervision existants, afin de permettre aux régulateurs de détecter la transition vers un état de monoculture avant qu'elle ne devienne irréversible.

Articles similaires