Artificial Intelligence and Systemic Risk: A Unified Model of Performative Prediction, Algorithmic Herding, and Cognitive Dependency in Financial Markets

1. 연구 문제 (Problem)

본 논문은 금융 시장에서의 인공지능 (AI) 도입이 어떻게 **시스템적 위험 (Systemic Risk)**을 내생적으로 증폭시키는지를 규명하는 것을 목표로 합니다. 기존 연구들은 레버리지 사이클이나 과밀 거래 (Crowded Trade) 와 같은 전통적인 위험 요인을 다루었으나, AI 의 보편화로 인해 발생하는 새로운 위험 메커니즘을 포괄적으로 설명하지 못했습니다.

저자들은 AI 도입이 단순히 개별 기관의 효율성을 높이는 것을 넘어, 세 가지 상호 강화되는 채널을 통해 시장 깊이를 침식하고 꼬리 위험 (Tail Risk) 을 비선형적으로 증폭시킨다고 주장합니다.

• 핵심 질문: AI 의 높은 채택률, 신호의 상관관계, 그리고 수행적 피드백이 결합되었을 때 시장이 어떻게 '단일 문화 (Monoculture)' 상태로 붕괴하며, 그 위험이 왜 되돌리기 어려운지 (비가역성) 를 설명할 수 있는가?

2. 방법론 (Methodology)

논문은 이론적 모델, 실증 분석, 에이전트 기반 시뮬레이션 (ABM) 의 세 가지 층위를 결합한 통합 접근법을 사용합니다.

가. 이론적 모델 (Unified Theoretical Model)

• 기반: 확장된 합리적 기대 (Rational Expectations) 프레임워크와 Kyle (1985) 의 시장 미시구조 모델을 기반으로 합니다.
• 3 단계 층위 구조:
  1. 내생적 취약성 (Endogenous Fragility): AI 신호의 상관관계 ($\rho$) 와 수행적 피드백 ($\beta$) 을 도입하여 시장 깊이 (Market Depth, $\lambda$) 가 AI 채택률 ($\phi$) 에 따라 감소하고 볼록 (Convex) 해지는 것을 유도합니다.
  2. 채택 게임과 위상 전이 (Adoption Game & Phase Transition): 초모듈성 (Supermodularity) 을 가진 채택 게임을 통해, 점진적인 압력이 임계점을 넘으면 AI 채택률이 불연속적으로 급증하는 **안장 - 노드 분기 (Saddle-Node Bifurcation)**를 증명합니다.
  3. 인지적 의존성과 비가역성 (Cognitive Dependency & Irreversibility): AI 의존도가 높아지면 인간의 신호 정밀도 ($\sigma_H$) 가 내생적으로 저하되는 '인지적 의존성' 변수를 도입합니다. 이는 시스템이 단일 문화 상태로 진입한 후에도 원래 상태로 복귀할 수 없는 **히스테리시스 (Hysteresis)**를 발생시킵니다.
• 핵심 균형 객체: 시스템적 위험 커플링 함수 $r(\phi) = \frac{\phi \rho \beta}{\lambda'(\phi)}$를 도출했습니다. 여기서 $\lambda'(\phi)$는 내생적 가격 영향력이며, AI 채택이 증가할수록 감소합니다. 이로 인해 시스템적 위험 승수 $M = (1-r)^{-1}$은 AI 침투율에 대해 **초선형 (Superlinear)**으로 증가합니다.

나. 실증 분석 (Empirical Analysis)

• 데이터: 2013 년부터 2024 년까지의 SEC Form 13F filings(9,950 만 건의 보유 자산, 10,957 개 기관) 전체를 분석했습니다.
• 계량 방법:
  • 포트폴리오 수렴 분석: AI 도입 전후 (2016 년 4 분기를 기준으로) 포트폴리오 코사인 유사도 (Cosine Similarity) 와 HHI 지수의 변화를 측정했습니다.
  • 인과성 식별: Bartik Shift-Share 도구변수 (IV) 를 사용하여 AI 채택의 내생성을 통제했습니다. (1 차 단계 F-통계량 22.7, 유효 F-통계량 18.4).
  • NLP 분석: EDGAR 전체 텍스트 검색을 통해 AI 관련 용어 (인공지능, 머신러닝 등) 의 disclosure 빈도 추이를 분석했습니다.

다. 에이전트 기반 시뮬레이션 (Agent-Based Simulation)

• 500 개의 기관 에이전트와 1,000 개의 노이즈 트레이더를 포함한 대규모 시뮬레이션을 통해 이론적 예측을 검증하고, 폐쇄형 해 (Closed-form solution) 로 도출할 수 없는 비선형 동역학 (예: 규제 개입의 효과, 회복 시간의 비대칭성) 을 분석했습니다.

3. 주요 기여 (Key Contributions)

1. 통합 모델의 정립: 기존에 분리되어 연구되던 '상관된 신호', '수행적 예측', '인지적 의존성'을 하나의 균형 모델로 통합했습니다.
2. 새로운 위험 채널의 규명:
   • 레버리지 사이클/과밀 거래와의 차별성: 본 모델의 핵심 상태 변수는 '금융 자본'이 아닌 **'인지 자본 (Cognitive Capital)'**입니다. 상관관계는 포지션의 중첩이 아닌 **공유된 정보 생산 기술 (동일한 훈련 데이터, 아키텍처)**에서 기인합니다.
   • 내생적 수행적 피드백: AI 시스템이 자신의 예측이 반영된 가격 데이터로 재학습 (Retraining) 함으로써 신호 구조 자체가 내생적으로 진화하는 '수행적 예측' 메커니즘을 공식화했습니다.
3. 이론적 정리의 도출:
   • 불가능성 정리 (Impossibility Theorem): 인지적 의존성 (기술 저하) 이 없는 정적 상관 신호 모델에서는 히스테리시스가 발생할 수 없음을 증명했습니다.
   • 채널 필요성 정리 (Channel Necessity Theorem): 시스템적 위험의 '존재' (상관관계), '위험성' (수행적 피드백), '비가역성' (인지적 의존성) 을 각각 설명하기 위해 세 가지 채널이 모두 필수적임을 증명했습니다.
4. 실증적 검증: AI 도입 기관 간의 수익률 분산이 스트레스 기간에도 변하지 않는다는 예측 ($\Delta_{stress/calm}^{AI} \approx 1$) 을 13F 데이터를 통해 검증하여, 레버리지 사이클 모델 ($\Delta > 1$) 과 구별되는 증거를 제시했습니다.

4. 주요 결과 (Key Results)

가. 이론적 결과

• 시스템적 위험 승수의 초선형 성장: AI 채택률 ($\phi$) 이 증가함에 따라 시스템적 위험 승수 $M$이 급격히 증가합니다. 이는 시장 깊이 ($\lambda$) 가 감소하고 수행적 피드백이 강화되기 때문입니다.
• 불연속적 위상 전이: AI 채택 게임에서 경력 우려 (Career Concern) 가 임계점을 넘으면, 분산된 균형에서 단일 문화 균형으로 불연속적으로 점프합니다.
• 비가역성 (Hysteresis): 한 번 AI 단일 문화에 진입하면, 인간의 기술이 퇴화되어 원래 상태로 돌아오기 위해서는 진입할 때보다 훨씬 더 강력한 조건 (낮은 경력 압력) 이 필요합니다.
• 폭풍 전의 고요 (Calm Before the Storm): 단일 문화 균형에서는 무조건적 변동성 (Unconditional Volatility) 은 낮아 보이지만, 조건부 꼬리 변동성 (Conditional Tail Volatility) 은 극도로 높아집니다.

나. 실증적 결과

• 포트폴리오 수렴: AI 도입 이후 (2017-2022) 기관 간 포트폴리오 코사인 유사도가 통계적으로 유의미하게 증가했습니다 (+0.011, t=3.43).
• AI 채택과 수렴의 인과관계: Bartik IV 분석 결과, AI 채택이 포트폴리오 수렴을 유의하게 증가시킵니다 (1 차 단계 F=22.7).
• 파라미터 추정: 데이터 기반 추정을 통해 AI 신호 상관관계 ($\hat{\rho} \approx 0.60$), 수행적 피드백 강도 ($\hat{\beta} \approx 0.28$), AI 채택률 ($\hat{\phi} \approx 0.70$) 을 추정했습니다.
• 위험 증폭 규모: 추정된 매개변수를 바탕으로 계산한 시스템적 위험 승수 $M$은 1.18~1.54 범위로, 이는 바젤 III 의 반사이클적 자본 완충장치 (02.5%) 와 비교할 때 경제적으로 유의미한 수준의 꼬리 손실 증폭 (1854%) 을 의미합니다.

다. 시뮬레이션 결과

• 규제 효과: '인간 - 루프 (Human-in-the-loop)' 의무화 (AI 의존도 상한 설정) 가 변동성을 26% 감소시키는 가장 효과적인 단일 개입으로 나타났습니다. 반면, 단순한 속도 제한 (Speed Bump) 은 오히려 유동성 분기를 유발하여 위험을 증폭시킬 수 있음을 발견했습니다.
• 회복의 비대칭성: 단일 문화로의 진입은 약 8 년이 소요되지만, 탈출 (복구) 에는 15 년 이상이 소요되는 시간적 비대칭성이 관찰되었습니다.

5. 의의 및 시사점 (Significance)

• 정책적 함의:
  • 마이크로프루덴셜 스트레스 테스트: 기존 거시경제 시나리오 외에 '상관된 AI 모델 실패' 시나리오를 포함한 새로운 스트레스 테스트 (MAST) 가 필요합니다.
  • 모델 다양성 요구: 훈련 데이터와 아키텍처의 다양성을 의무화하거나 상관관계 상한선 ($\bar{\rho}$) 을 설정해야 합니다.
  • 인지적 의존성 관리: 인간 감독의 최소 요건, 오버라이드 테스트, 정기적인 '화재 훈련 (Fire Drills)' 등을 통해 인간 판단 능력을 유지해야 합니다.
  • 투명성 강화: AI 모델 카드 (Model Card) 표준화 및 알고리즘 오더 플로우 모니터링이 필요합니다.
• 학문적 기여: 금융 안정성 연구에 '인지적 자본'과 '수행적 예측'을 통합한 새로운 패러다임을 제시하며, AI 시대의 시스템적 위험이 단순한 기술적 문제가 아닌 구조적, 제도적 문제임을 강조합니다.
• 경고: AI 도입의 편익은 크지만, 단일 문화화와 인지적 의존성이 심화될 경우 시스템은 **되돌릴 수 없는 임계점 (Tipping Point)**을 넘을 수 있으며, 이때의 교정 비용은 기하급수적으로 증가할 수 있음을 경고합니다.

이 논문은 AI 가 금융 시장에 미치는 영향을 단순한 효율성 증대의 관점이 아닌, 시스템적 취약성과 비가역적 위험의 관점에서 재정의한 선구적인 연구로 평가됩니다.