📈 경제학

Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision

이 논문은 신용 중개에서의 알고리즘 단일문화(algorithmic monoculture)에 대한 측정 프레임워크의 부재를 다루기 위해 공급망 집중과 의사결정 수렴을 구분하고, 공유된 모델이 오차 상관관계가 분산 감소 속도보다 빠르게 상승할 때 신용 공급을 불안정하게 만들 수 있음을 보여주는 모델을 개발하며, 오차 상관관계를 추정하기 위한 참조 포트폴리오 감독 방식을 제안하는 동시에 조기 자본 가산보다는 견고한 측정 역량을 구축하는 것이 필요하다고 주장한다.

원저자: Deepak Ranjan Sahoo, Vaishali Deepak Sahoo

게시일 2026-09-23

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Deepak Ranjan Sahoo, Vaishali Deepak Sahoo

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

금융업계에서 대출 기관들은 항상 단순하지만 위험한 진실에 직면해 왔습니다. 만약 모든 은행이 동일한 정보에 기반하여 결정을 내린다면, 그들은 모두 동시에 같은 실수를 저지르게 된다는 사실입니다. 이는 새로운 공포가 아닙니다. 이는 대륙 전체에 단일 작물을 심는 농부의 상황과 유사한 금융적 비유입니다. 만약 특정 작물에 질병이 닥친다면, 전체 수확이 실패하게 되고 농부에게는 백업 플랜이 없습니다. 수십 년 동안 규제 당국은 은행들이 모두 동일한 기업이나 개인에게 대출을 해주지 않도록 감시해 왔습니다. 왜냐하면 그 차입자들이 실패할 경우 은행들도 함께 무너지기 때문입니다. 그러나 이제는 더 파악하기 어려운 새로운 종류의 위험이 등장했습니다. 은행들이 동일한 사람들에게 대출을 해주는 대신, 이제는 대출 여부를 결정하기 위해 동일한 컴퓨터 프로그램을 사용하기 시작했다는 점입니다. 흔히 거대한 공유 인공지능 시스템을 기반으로 구축된 이러한 프로그램들은 초당 수백만 건의 신청서를 처리할 수 있습니다. 우려는 만약 이 시스템들이 모두 동일한 기초 코드나 데이터에 의존한다면, 그들이 동시에 동일한 우량 차입자를 거절하거나 동일한 불량 차입자를 승인함으로써, 그 어떤 단일 은행도 예상하지 못한 갑작스럽고 시스템 전반적인 신용 경색을 초래할 수 있다는 것입니다.

한 연구팀은 그들이 "알고리즘 단일 재배(algorithmic monoculture)"라고 부르는 이 보이지 않는 위험을 측정하기 위해 연구를 시작했습니다. 그들의 작업은 규제 당국이 볼 수 있는 것과 실제로 알아야 하는 것 사이의 간극에 초점을 맞춥니다. 현재 감독 기관은 얼마나 많은 은행이 특정 클라우드 제공업체나 특정 소프트웨어 벤더를 사용하는지 쉽게 셀 수 있습니다. 그들은 공급망을 볼 수 있습니다. 하지만 그들은 결과를 볼 수는 없습니다. 두 은행이 정확히 같은 소프트웨어를 사용하더라도, 만약 그들이 그것을 다르게 조정하거나 다른 데이터를 입력한다면 그들의 결정은 여전히 고유할 수 있습니다. 반대로, 두 은행이 완전히 다른 소프트웨어를 사용하더라도, 만약 그들이 유사한 데이터를 사용하여 동일한 문제를 해결하고 있다면, 그들은 동일한 오류를 범할 수 있습니다. 연구진은 소프트웨어 벤더를 세는 것이 실제 위험을 측정하는 열악한 방법이라고 주장합니다. 실제 위험은 누가 도구를 만들었느냐가 아니라, 도구들이 동시에 같은 실수를 저지르고 있느냐에 관한 것이기 때문입니다.

이 문제의 중대성을 이해하기 위해, 저자들은 경제 전반에 걸쳐 신용이 어떻게 흐르는지에 대한 수학적 모델을 구축했습니다. 그들은 은행들이 공유된, 매우 정교한 인공지능 시스템을 사용하는 세상을 가정했습니다. 이 시스템은 기존의 독립적인 시스템들보다 더 낫습니다. 즉, 전반적으로 실수를 더 적게 합니다. 그러나 이 시스템이 공유된 것이기 때문에, 시스템이 실수를 할 때마다 모든 은행이 함께 그 실수를 저지르게 됩니다. 연구진은 결정적인 임계점을 발견했습니다. 만약 공유 시스템이 기존 방식보다 아주 조금 더 나은 수준이라면, 오류를 줄이는 데서 오는 이점은 모든 오류가 한꺼번에 발생하는 위험에 의해 상쇄됩니다. 시뮬레이션 결과, 기존 방식보다 50% 더 정확한 시스템이라 할지라도, 만약 그 시스템이 은행들의 오류를 매우 상관관계가 높게 만든다면 전체 은행 시스템을 오히려 더 불안정하게 만들 수 있었습니다. 정확도의 향상은 공유된 실패의 비용을 지불하기에 충분하지 않았습니다. 시스템은 단순히 모두가 동일한 렌즈를 통해 세상을 보고 있기 때문에, 대출을 너무 많이 하거나 너무 적게 하는 극단적인 변동성을 보이며 더욱 불안정해졌습니다.

그 후 논문은 이 문제를 위기가 닥치기 전에 어떻게 포착할 것인가라는 질문으로 넘어갑니다. 저자들은 이미 수집되고 있는 데이터를 새로운 방식으로 사용하여 이 위험을 측정하는 방법을 제안합니다. 감독 기관이 단순히 은행들에게 어떤 모델을 사용하는지 묻는 대신, 은행 그룹에 결과가 이미 알려진 동일한 가상의 대출 신청서 세트를 제공하는 것입니다. 이는 일종의 정답이 이미 적혀 있는 테스트와 같습니다. 각 은행의 모델이 이 동일한 신청서들을 어떻게 평가하는지 비교함으로써, 규제 당국은 은행들의 오류가 얼마나 함께 움직이는지를 계산할 수 있습니다. 만약 모든 은행이 동일한 신청자들에 대해 동일한 잘못된 예측을 하고 있다면, 시스템은 위험한 상태입니다. 연구진은 이 측정을 정확하게 수행하는 것이 놀라울 정도로 어렵다는 것을 발견했습니다. 통계적으로 유용하려면 데이터상에 상당한 수의 대출 채무 불이행이 가시적으로 나타나야 합니다. 소상공인 대출이나 대기업 대출의 경우, 채무 불이행이 드물기 때문에 데이터가 너무 희박하여 명확한 답을 줄 수 없습니다. 하지만 신용카드와 같은 일상적인 소비자 대출의 경우에는 정확한 판독을 위한 충분한 데이터가 존재합니다.

저자들은 위험을 측정할 방법이 있음에도 불구하고, 가장 명백한 해결책들에 대해서는 반대 의견을 펼칩니다. 그들은 규제 당국이 단순히 은행들에게 서로 다른 모델을 사용하도록 강요하거나, 모델의 유사성에 따라 추가 자본금을 부과해서는 안 된다고 제안합니다. 다양성을 강요하는 것은 역효과를 낳아, 은행들이 단지 다르게 보이기 위해 더 나쁘고 덜 정확한 모델을 사용하도록 몰아넣을 수 있으며, 이는 공정한 신용을 얻기 위해 이러한 시스템에 의존하는 차입자들에게 피해를 줄 수 있기 때문입니다. 대신, 논문은 더 실질적인 접근 방식을 제안합니다. 규제 당국은 모든 은행이 "백업(fallback)" 계획을 갖추고 있는지 확인하는 데 집중해야 합니다. 만약 한 은행이 공유된 외부 인공지능 시스템에 크게 의존하고 있다면, 그 은행은 해당 공유 시스템이 실패하거나 상관관계가 있는 오류를 일으키기 시작할 경우, 사업의 상당 부분에 대해 다른 독립적인 방법을 사용할 수 있음을 증명해야 합니다. 이는 시스템이 주요 위험과 연결되지 않은 예비 수단을 갖추도록 보장합니다.

연구진은 이러한 위기가 아직 발생하지 않았다는 점을 주의 깊게 언급합니다. 최근 조사에 따르면 많은 은행이 인공지능을 사용하고 있지만, 핵심 대출 결정에 가장 발전된 형태의 공유 파운데이션 모델을 사용하는 은행은 거의 없습니다. 이 위험은 전망적(prospective)인 것, 즉 기술이 더 보편화됨에 따라 발생할 수 있는 미래의 위험입니다. 그들의 제안이 시급한 이유는 오늘날 위험이 존재하기 때문이 아니라, 은행들이 이러한 공유 시스템을 완전히 도입하고 나면, 변화 전의 "정상적인" 위험 수준이 무엇이었는지 알 수 없게 될 것이기 때문입니다. 만약 규제 당국이 문제가 눈에 보일 때까지 기다렸다가 측정을 시작한다면, 그들은 상황이 얼마나 악화되었는지 이해하는 데 필요한 기준선을 놓치게 될 것입니다. 논문은 시스템이 변하고 있는 지금, 즉 변화하는 과정 중에 측정 도구를 구축해야 한다고 결론짓습니다. 그래야 감독 기관이 사후에 피해를 발견하는 것이 아니라, 실시간으로 변화를 포착할 수 있기 때문입니다.

기술 요약: 신용 중개에서의 알고리즘 단일문화(Algorithmic Monoculture) 측정

문제 제기
규제 기관들(FSB, ESRB, 영란은행)은 은행 시스템이 공통된 파운데이션 모델, 데이터 벤더, 클라우드 플랫폼에 의존하는 것이 "알고리즘 단일문화"를 통해 인공지능이 체계적 위험을 악화시키는 경로를 생성할 수 있음을 식별했다. 그러나 이러한 진단과 측정 사이에는 결정적인 간극이 존재한다. 감독 기구들이 노출 집중도(예: 대규모 익스포저 한도)는 측정할 수 있지만, "모델 충격(model shocks)"을 측정할 수 있는 프레임워크는 결여되어 있다. 현재의 정책은 두 가지 구별되는 현상을 혼동하고 있다: 즉, 모델 구성 요소의 공급 측면의 집중(제3자 리스크 레지스터를 통해 관찰 가능)과 기관들이 내리는 결정의 수렴(관찰 불가능하며 충격의 실제 전이 기제임)이다. 본 논문은 공급 측면의 집중이 반드시 결정의 수렴을 의미하는 것은 아니며, 반대로 결정의 수렴은 높은 공급 집중 없이도 발생할 수 있다고 주장한다. 또한, 기존의 규제 프레임워크(예: SR 11-7, SS1/23)는 개별 기업 수준에서 작동하며, 기관 간의 상관된 오류(correlated errors)로 인해 발생하는 시스템 차원의 취약성에는 무지하다.

방법론
본 논문은 개념적 차별화, 분석적 모델링, 실무적 추정이라는 3단계 접근 방식을 채택한다.

개념적 프레임워크: 저자들은 "모델 의존 스택(model dependency stack)"을 네 가지 계층으로 분해한다: 인프라(L1), 파운데이션 모델(L2), 적응(L3), 그리고 배포(L4). 저자들은 L1 및 L2(클라우드, 사전 학습된 모델)의 집중도는 결정 오류로의 직접적인 전이가 낮은 반면, L3(미세 조정, 데이터 피드) 및 L4(컷오프, 오버라이드)가 오류의 상관관계를 결정한다고 주장한다. 결정적으로, 저자들은 공급의 집중이 결정 오류의 수렴을 위한 필요조건도 충분조건도 아니라고 상정한다.
분석적 모델: $N$ $N$ 개의 은행이 공통의 차입자 풀을 평가하는 신호 추출 모델을 개발한다. 각 은행의 평가 오류( $\epsilon_i$ $ϵ_{i}$ )는 공통 성분( $\eta$ $η$ )과 개별 성분( $\nu_i$ $ν_{i}$ )으로 분해된다.
- 총 신용 공급의 분산은 오류 분산( $\sigma^2_\epsilon$ )과 오류 상관관계( $\rho$ )의 곱에 의존함을 보여준다.
- 모델은 임계 조건을 설정한다: 공유 모델로의 이동이 불안정해지는 시점은 오류 상관관계( $\rho$ )의 비례적 증가가 오류 분산( $\sigma^2_\epsilon$ )의 비례적 감소를 초과할 때이다.
- 본 논문은 "기술 프런티어(technology frontier)"를 도출하며, 여기서 정확도 향상(분산 감소)은 상관관계 증가(비용)를 대가로 얻어진다. 이는 사적으로 최적인 선택(정확도 극대화)이 사회적으로 최적인 선택(체계적 변동성 최소화)과 일치하지 않을 수 있음을 보여주는데, 이는 사적 행위자들이 상관된 오류라는 외부 효과를 무시하기 때문이다.
추정 전략: 본 논문은 자본요구사항지침(CRD) 제78조에 따라 이미 의무화된 감독 벤치마킹 메커니즘을 사용하여 오류 상관관계 파라미터( $\rho$ $ρ$ )에 대한 추정치를 제안한다.
- 가상의 포트폴리오 대신, 결과 라벨이 지정된 참조 포트폴리오(실현된 부도를 포함한 익명화된 과거 익스포저)를 요구한다.
- 핵심 통계량은 기관 간 예측 잔차( $r_i = y - p_i$ )의 쌍별 상관관계이다.
- **무효-정규화된 단일문화 지수( $M$ , Null-Normalised Monoculture Index)**를 도입하여, 공유된 결과 변동(shared outcome variation)에 의한 원시 잔차 상관관계의 편향(특히 저부도 포트폴리오에서 심각함)을 교정한다.

주요 결과

임계 역학: 분석 결과(표 2)에 따르면, 상당한 정확도 개선(예: 오류 분산 50% 감소)이 이루어지더라도, 결과적인 오류 상관관계가 특정 손익분기점(예: 0.15에서 0.30으로 상승)을 초과하면 체계적 위험을 상쇄하지 못할 수 있다.
시뮬레이션 증거: 30개 은행과 160개 기간을 대상으로 한 시뮬레이션은 공유 기술을 통한 64%의 정확도 이득(오류 분산을 크게 감소시킴)에도 불구하고, 상관관계 상승으로 인해 총 신용 변동성이 22~25% 증가했음을 보여준다. 꼬리 위험(exceedance counts)은 2.5배 증가했다.
측정 가능성: 원시 잔차 상관관계 통계량은 공유된 결과 항에 의해 "심하게 오염되어" 있어 저부도 포트폴리오에서는 유익한 정보를 제공하지 못한다. 제안된 **단일문화 지수( $M$ )**는 해당 파라미터를 복구하지만, 참조 포트폴리오 내에 약 80개의 기대 부도 건수가 있어야 표준 오차 0.05를 달성할 수 있다. 이는 이 지표가 소매 포트폴리오에는 실행 가능하지만, 체계적 위험이 가장 높은 도매/대기업 포트폴리오에는 사실상 무용함을 의미한다.
정책적 상호작용: 본 논문은 AI 컴플라이언스 비용(문서화, 거버넌스를 위한 고정 비용)이 의도치 않게 공급 집중을 심화시킬 수 있는 역설적 상호작용을 식별한다. 즉, 소규모 기관들이 자체 구축 대신 컴플라이언스를 준수하는 제3자 시스템을 구매하도록 강제될 수 있기 때문이다.

의의 및 주장
본 논문은 다음과 같은 신중하면서도 중요한 주장을 펼친다:

현재의 단일문화는 존재하지 않음: 저자들은 현재 은행업계에서 기존의 알고리즘 단일문화에 대한 실증적 근거가 약하다고 명시적으로 밝힌다. 최근 조사에 따르면 파운데이션 모델은 AI 활용 사례의 17%만을 차지하며, 완전 자율 사례는 2%에 불과하다.
측정의 필요성: 주요 논거는 현재 단일문화가 위기라는 것이 아니라, 채택이 광범위해지기 전에 측정 장치를 구축해야 한다는 것이다. 노출이 가시화될 때까지 기다린다면, 감독 기구는 사전 채택 기준점(baseline)을 확보하지 못해 위험의 증가를 정량화하는 것이 불가능해질 것이다.
정책 권고:
- 자본 가산(Capital Add-ons) 반대: 모델의 공통성에 따라 규모를 정하는 자본 가산에 반대한다. 필요한 파라미터가 현재 주요 포트폴리오 세그먼트에서 측정 불가능하며, 이러한 조치가 정확도를 저해할 수 있기 때문이다.
- 다양성 의무화 반대: 다양한 모델 사용을 강제하는 엄격한 명령은 분포적 비용(첨단 모델의 혜택을 받는 정보가 부족한 차입자에게 해가 됨)과 다양성 확보가 정확도를 저해할 수 있다는 어려움 때문에 거부된다.
- 참조 포트폴리오 감독을 위하여: 단일문화 지수를 측정하기 위해 결과 라벨이 지정된 포트폴리오를 사용하는 기존의 제78조 벤치마킹 연습을 재활용할 것을 권고한다.
- 백업 역량(Fallback Capacity)을 위하여: 공유된 외부 모델에 의존하는 기관은 상관된 실패 위험을 완화하기 위해, 정의된 물량(예: 25%)을 처리할 수 있는 검증된 비상설(uncorrelated) 채널을 유지해야 한다는 더 좁은 범위의 요구사항을 제안한다.

결론
본 논문은 모델 공통성의 영향 여부가 정확도 이득과 상관관계 비용 사이의 트레이드오프에 달려 있지만, 비대칭성(상관관계는 배가될 수 있으나 정확도는 무한히 개선될 수 없음)을 고려할 때 구조적 취약성이 존재함을 시사한다. 즉각적인 우선순위는 단일문화 자체를 금지하는 것이 아니라, 기존 감독 도구를 사용하여 오류 상관관계를 측정하는 능력을 갖추는 것이다. 이를 통해 규제 기관이 단일문화 상태로의 전환이 돌이킬 수 없게 되기 전에 이를 감지할 수 있도록 해야 한다.

유사한 논문