📈 economia

Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision

Este artigo aborda a falta de estruturas de medição para a monocultura algorítmica na intermediação de crédito ao distinguir entre a concentração da cadeia de suprimentos e a convergência de decisões, desenvolvendo um modelo que mostra como modelos compartilhados podem desestabilizar a oferta de crédito quando a correlação de erro aumenta mais rapidamente do que a queda da variância, e propondo uma abordagem de supervisão de portfólio de referência para estimar a correlação de erro, enquanto argumenta contra acréscimos prematuros de capital em favor da construção de capacidades de medição robustas.

Autores originais: Deepak Ranjan Sahoo, Vaishali Deepak Sahoo

Publicado 2026-09-23

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Deepak Ranjan Sahoo, Vaishali Deepak Sahoo

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo do setor bancário, os credores sempre enfrentaram uma verdade simples, mas perigosa: se todos os bancos tomarem suas decisões baseadas na mesma informação, todos cometerão os mesmos erros ao mesmo tempo. Este não é um medo novo; é o equivalente financeiro de um agricultor que planta uma única cultura em todo um continente. Se uma doença atingir essa cultura específica, toda a colheita falha, e o agricultem não tem um plano de reserva. Durante décadas, os reguladores observaram os bancos para garantir que eles não emprestassem todos às mesmas empresas ou pessoas, porque, se esses tomadores de empréstimo falharem, os bancos falharão juntos. Mas um novo tipo de risco surgiu, um que é mais difícil de enxergar. Em vez de emprestar para as mesmas pessoas, os bancos estão começando a usar os mesmos programas de computador para decidir quem recebe um empréstimo. Esses programas, muitas vezes construídos sobre sistemas de inteligência artificial massivos e compartilhados, podem processar milhões de solicitações em segundos. A preocupação é que, se esses sistemas dependerem todos do mesmo código ou dados subjacentes, eles podem todos rejeitar os mesmos bons tomadores ou aprovar os mesmos maus simultaneamente, criando um congelamento súbito e sistêmico de crédito que nenhum banco individual previu.

Uma equipe de pesquisadores partiu em busca de uma forma de medir esse perigo invisível, que eles chamam de "monocultura algorítmica". O trabalho deles foca na lacuna entre o que os reguladores conseguem ver e o que eles realmente precisam saber. Atualmente, os supervisores podem facilmente contar quantos bancos usam um provedor de nuvem específico ou um fornecedor de software específico. Eles conseguem ver a cadeia de suprimentos. No entanto, eles não conseguem ver o resultado. Dois bancos podem usar exatamente o mesmo software, mas se o ajustarem de forma diferente ou o alimentarem com dados diferentes, suas decisões ainda podem ser únicas. Por outro outro lado, dois bancos podem usar softwares completamente diferentes, mas se estiverem resolvendo o mesmo problema com dados semelhantes, podem acabar cometendo erros idênticos. Os pesquisadores argumentam que contar os fornecedores de software é uma forma pobre de medir o risco real, que não é sobre quem construiu a ferramenta, mas sim se as ferramentas estão cometendo os mesmos erros ao mesmo tempo.

Para entender os riscos envolvidos, os autores construíram um modelo matemático de como o crédito flui através da economia. Eles imaginaram um mundo onde os bancos utilizam um sistema de inteligência artificial compartilhado e altamente preciso. Este sistema é melhor do que os antigos e independentes; ele comete menos erros no geral. No entanto, por ser compartilhado, quando ele comete um erro, todos os bancos cometem esse mesmo erro juntos. Os pesquisam descobriram um ponto de inflexão crítico. Se o sistema compartilhado for apenas ligeiramente melhor do que os antigos, o benefício de ter menos erros é anulado pelo perigo de todos os erros acontecerem ao mesmo tempo. Em suas simulações, mesmo um sistema que era cinquenta por cento mais preciso que os métodos antigos poderia tornar o sistema bancário inteiro mais instável se fizesse com que os erros dos bancos se tornassem altamente correlacionados. O ganho em precisão não é suficiente para pagar pelo custo da falha compartilhada. O sistema torna-se mais volátil, oscilando drasticamente entre emprestar demais e emprestar de menos, simplesmente porque todos estão olhando para o mundo através da mesma lente.

O artigo então se volta para a questão de como detectar este problema antes que ele cause uma crise. Os autores propõem uma nova maneira de medir o risco usando dados que os reguladores já coletam, mas de uma forma nova. Em vez de apenas perguntar aos bancos quais modelos utilizam, os supervisores forneceriam a um grupo de bancos o mesmo conjunto de solicitações de empréstimos hipotéticos com resultados conhecidos — essencialmente um teste onde as respostas já estão escritas. Ao comparar como o modelo de cada banco pontua essas mesmas solicitações, os reguladores poderiam calcular o quanto os erros dos bancos se movem em conjunto. Se todos os bancos estiverem fazendo as mesmas previsões erradas sobre os mesmos candidatos, o sistema está em perigo. Os pesquisadores descobriram que essa medição é surpreendentemente difícil de realizar com precisão. É necessário um grande número de inadimplências de empréstimos visíveis nos dados para que sejam estatisticamente úteis. Para empréstimos de pequenas empresas ou grandes empréstimos corporativos, onde as inadimplências são raras, os dados são muito escassos para dar uma resposta clara. Mas para empréstimos ao consumidor do dia a dia, como cartões de crédito, há dados suficientes para obter uma leitura precisa.

Apesar de terem uma maneira de medir o risco, os autores argumentam contra as soluções mais óbvias. Eles sugerem que os reguladores não devem simplesmente forçar os bancos a usar modelos diferentes ou adicionar encargos de capital baseados em quão semelhantes são seus modelos. Forçar a diversidade pode ser contraproducente, levando os bancos a usar modelos piores e menos precisos apenas para parecerem diferentes, o que prejudicaria os tomadores de empréstimos que dependem desses sistemas para obter crédito justo. Em vez disso, o artigo propõe uma abordagem mais prática. Os reguladores devem focar em garantir que cada banco tenha um plano de contingência ("fallback"). Se um banco depende fortemente de um sistema de inteligência artificial externo e compartilhado, ele deve provar que consegue mudar para um método diferente e independente para uma parte significativa de seus negócios caso esse sistema compartilhado falhe ou comece a cometer erros correlacionados. Isso garante que o sistema tenha uma reserva que não esteja conectada ao risco principal.

Os pesquisadores tomam o cuidado de notar que esta crise ainda não aconteceu. Pesquisas recentes mostram que, embora muitos bancos estejam utilizando inteligência artificial, muito poucos estão utilizando os modelos de fundação compartilhados e mais avançados para suas decisões centrais de empréstimo. O risco é prospectivo, o que significa que é algo que pode acontecer conforme a tecnologia se torna mais comum. A urgência de sua proposta não é que o perigo esteja presente hoje, mas que, uma vez que os bancos adotem plenamente esses sistemas compartilhados, será impossível saber qual era o nível "normal" de risco antes da mudança. Se os reguladores esperarem até que o problema seja visível para começar a medi-lo, terão perdido a linha de base necessária para entender o quão grave ele se tornou. O artigo conclui que o momento de construir as ferramentas de medição é agora, enquanto o sistema ainda está mudando, para que os supervisores possam ver a mudança em tempo real, em vez de descobrir o dano depois que ele já ocorreu.

Resumo Técnico: Medindo a Monocultura Algorítmica na Intermediação de Crédito

Definição do Problema
Órgãos reguladores (FSB, ESRB, Bank of England) identificaram que a dependência do sistema bancário em relação a modelos de fundação comuns, fornecedores de dados e plataformas de nuvem cria um caminho para que a inteligência artificial exacerbe o risco sistêmico através da "monocultura algorítmica". No entanto, existe uma lacuna crítica entre este diagnóstico e a sua medição. Embora os supervisores possam medir concentrações de exposição (ex: limites de grandes exposições), eles carecem de um framework para medir "choques de modelo". A política atual confunde dois fenômenos distintos: a concentração no suprimento de componentes de modelo (observável via registros de risco de terceiros) e a convergência nas decisões tomadas pelas instituições (inobservável e o verdadeiro mecanismo de transmissão para choques). O artigo argumenta que a concentração no lado da oferta não implica necessariamente convergência nas decisões e, inversamente, a convergência nas decisões pode ocorrer sem alta concentração de oferta. Além disso, os frameworks regulatórios existentes (ex: SR 11-7, SS1/23) operam ao nível da firma e são cegos para vulnerabilidades de nível de sistema decorrentes de erros correlacionados entre instituições.

Metodologia
O artigo emprega uma abordagem de três estágios: diferenciação conceitual, modelagem analítica e estimativa prática.

Framework Conceitual: Os autores decompõem a "pilha de dependência de modelo" em quatro camadas: Infraestrutura (L1), Modelos de Base (L2), Adaptação (L3) e Implementação (L4). Eles argumentam que a concentração em L1 e L2 (nuvem, modelos pré-treinados) tem baixa transmissão direta para erros de decisão, enquanto L3 (ajuste fino, feeds de dados) e L4 (cortes, overrides) determinam a correlação de erros. Crucialmente, eles postulam que a concentração no suprimento não é nem necessária nem suficiente para a convergência nos erros de decisão.
Modelo Analítico: Um modelo de extração de sinal é desenvolvido onde $N$ $N$ bancos avaliam um pool comum de tomadores. O erro de avaliação de cada banco ( $\epsilon_i$ $ϵ_{i}$ ) é decomposto em um componente comum ( $\eta$ $η$ ) e um componente idiossincrático ( $\nu_i$ $ν_{i}$ ).
- A variância do suprimento de crédito agregado é mostrada como dependente do produto da variância do erro ( $\sigma^2_\epsilon$ ) e da correlação dos erros ( $\rho$ ).
- O modelo estabelece uma condição de limiar: a migração para um modelo compartilhado é desestabilizadora se o aumento proporcional na correlação de erro ( $\rho$ ) exceder a redução proporcional na variância do erro ( $\sigma^2_\epsilon$ ).
- O artigo deriva uma "fronteira tecnológica" onde ganhos de precisão (redução de variância) são comprados ao custo de um aumento na correlação. Ele demonstra que a escolha privadamente ótima (maximizando a precisão) frequentemente diverge da escolha socialmente ótima (minimizando a volatilidade sistêmica) porque os atores privados ignoram a externalidade dos erros correlacionados.
Estratégia de Estimativa: O artigo propõe um estimador para o parâmetro de correlação de erro ( $\rho$ $ρ$ ) utilizando a maquinaria de benchmarking de supervisão já mandatada sob o Artigo 78 da Diretiva de Requisitos de Capital (CRD).
- Em vez de portfólios hipotéticos, a proposta exige portfólios de referência rotulados por resultados (exposições históricas anonimizadas com defaults realizados).
- A estatística central é a correlação pareada de resíduos de predição ( $r_i = y - p_i$ ) entre instituições.
- Um Índice de Monocultura Nulo-Normalizado ( $M$ ) é introduzido para corrigir o viés nas correlações brutas de resíduos causado pela variação de resultado compartilhada (o "termo de resultado compartilhado"), que é particularmente severo em portfólios de baixo default.

Principais Resultados

Dinâmica de Limiar: Os resultados analíticos (Tabela 2) mostram que mesmo melhorias substanciais de precisão (ex: redução de 50% na variância do erro) podem não compensar o risco sistêmico se a correlação de erro resultante exceder um ponto de equilíbrio específico (ex: subindo de 0,15 para 0,30).
Evidência de Simulação: Uma simulação de 30 bancos ao longo de 160 períodos demonstra que uma tecnologia compartilhada com um ganho de precisão de 64% (reduzindo significativamente a variância do erro) ainda aumentou a volatilidade do crédito agregado em 22–25%. O risco de cauda (contagens de excedência) aumentou por um fator de 2,5.
Viabilidade de Medição: A estatística de correlação bruta de resíduos é encontrada como "mal contaminada" pelo termo de resultado compartilhado, tornando-se pouco informativa para portfólios de baixo default. O Índice de Monocultura ( $M$ ) proposto recupera o parâmetro, mas requer um mínimo de aproximadamente 80 defaults esperados no portfólio de referência para atingir um erro padrão de 0,05. Isso implica que a métrica é viável para portfólios de varejo, mas efetivamente cega para portfólios de atacado/grandes corporações, onde o risco sistêmico é frequentemente mais alto.
Interação de Política: O artigo identifica uma interação perversa onde os custos de conformidade de IA (custos fixos para documentação, governança) podem inadvertidamente aumentar a concentração de oferta, à medida que instituições menores são forçadas a comprar sistemas de terceiros em conformidade em vez de construir sistemas internos.

Significância e Alegações
O artigo faz algumas alegações modestas, mas críticas, sobre o estado atual do setor bancário e o caminho a seguir:

Não há Monocultura Atual: Os autores afirmam explicitamente que o caso empírico para a atual monocultura algorítmica no setor bancário é fraco. Pesquisas recentes indicam que modelos de fundação representam apenas 17% dos casos de uso de IA, com casos totalmente autônomos em 2%.
O Caso para a Medição: O argumento principal não é que a monocultura é atualmente uma crise, mas que o aparato de medição deve ser construído antes que a adoção se torne generalizada. Esperar até que a exposição seja visível deixará os supervisores sem uma linha de base pré-adoção, tornando impossível quantificar o aumento do risco.
Recomendações de Política:
- Contra Adicionais de Capital: O artigo argumenta contra adicionais de capital escalonados pela comunalidade do modelo, pois os parâmetros necessários são atualmente imensuráveis em segmentos-chave de portfólio, e tais medidas podem penalizar a precisão.
- Contra Mandatos de Diversidade: Mandatos rígidos para usar modelos diferentes são rejeitados devido aos custos distributivos (prejudicando tomadores com histórico de crédito limitado que se beneficiariam de modelos avançados) e à dificuldade de impor diversidade sem degradar a precisão.
- A Favor da Supervisão de Portfólio de Referência: O artigo defende o reaproveitamento dos exercícios de benchmarking do Artigo 78 para usar portfólios rotulados por resultados para medir o Índice de Monocultura.
- A Favor de Capacidade de Contingência: Uma exigência mais estreita é proposta: instituições que dependem de modelos externos compartilhados devem manter um canal de contingência verificado e não correlacionado, capaz de lidar com uma parcela definida de volume (ex: 25%) para mitigar riscos de falhas correlacionadas.

Conclusão
O artigo conclui que, embora o sinal do efeito da comunalidade do modelo dependa do equilíbrio entre ganhos de precisão e custos de correlação, a assimetria (a correlação pode multiplicar, a precisão não pode melhorar infinitamente) sugere uma vulnerabilidade estrutural. A prioridade imediata não é banir a monocultura, mas operacionalizar a medição da correlação de erro usando ferramentas de supervisão existentes, garantindo que os reguladores possam detectar a transição para um estado de monocultura antes que ela se torne irreversível.

Mais como este