Epistemic Limits of Empirical Finance: Causal Reductionism and Self-Reference

기술적 요약: 실증 금융의 인식론적 한계

문제 제기
본 논문은 양적 금융 (QF) 과 실증 금융에 존재하는 근본적인 인식론적 위기를 다루고 있다. 즉, 자본 시장에 과학적 환원주의와 일방향적 인과 추론을 비판 없이 적용하는 문제다. 인과 추론에 대한 관심 (Pearl, Angrist, Pischke 의 연구에 기반) 이 부활하여 '부적절한' 통계적 방법론을 정화하려는 움직임이 있지만, 저자들은 이러한 운동이 다양한 현상을 '총체화'할 위험이 있다고 주장한다. 핵심 문제는 자본 시장이 개방된 자기 참조적 (반사적) 시스템인 반면, 표준 인과 모델은 안정적이고 고유하며 일방향적인 인과 사슬 (A 가 B 를 유발함) 을 가진 폐쇄 시스템을 가정한다는 점이다.

저자들은 QF 의 지배적 패러다임이 시장이 자연과학에 적합한 인식론적 규범을 준수하는 것처럼 취급한다고 본다. 그러나 반사적 시스템에서 관찰과 예측의 행위는 시스템 자체를 변화시킨다 (오이디푸스 효과 또는 자기 충족적 예측). 따라서 인과 사슬이 고정되어 있으며, 사전 (ex ante) 예측을 지원하기 위해 데이터에서 고유하게 추출될 수 있다는 가정은 근본적으로 문제가 있다. 시장이 서로 다른 인과 방향 사이를 이동하거나 경쟁하는 인과 사슬을 보일 때, 표준 모델은 실패하며 종종 예기치 못한 금융 위기를 초래한다.

방법론
본 논문은 실증 데이터 검증을 대신하여 비판적 이론적 분석을 수행한다. 방법론은 세 가지 주요 구성 요소로 이루어져 있다:

1. 인식론적 비판: 저자들은 경제 사상의 역사를 검토하여 정통 (신고전파) 과 이단 학파를 대비시킨다. 반사성이 예측 정확도에 영향을 미치지 않는다고 가정하는 '합리적 기대' 프레임워크 (Muth, 1961) 의 한계를 분석한다. Soros, MacKenzie, Lawson 의 연구를 바탕으로 시장이 상관관계가 불변하지 않고 시스템이 자신의 구조를 수정할 수 있는 '개방 시스템'으로 정의된다.
2. 이론적 모델링 (토이 모델): 반사적 시스템에서 인과 추론의 불안정성을 설명하기 위해, 저자들은 생태학의 포식자 - 피식자 모델 (May, 1976; Sugihara et al., 2012) 을 차용한다. 두 개의 결합된 변수 $x(t)$와 $y(t)$를 포함하는 로지스틱 차분 방정식 (LDE) 시스템을 구축한다.
   • 이 모델은 $x$와 $y$가 결합 매개변수 ($a_{y \to x}$ 및 $a_{x \to y}$) 를 통해 상호작용하는 두 가지 경쟁 인과 사슬을 시뮬레이션한다.
   • 시스템을 이산화하여 일방향적 인과 관계가 어떻게 복잡한 비선형 동역학 (분기) 을 생성할 수 있는지 보여준다.
   • 저자들은 결정론적 인과 규칙과 매개변수에 대한 완전한 지식이 있더라도, 특정 성장률 ($r$) 과 수용 능력 ($K$) 하에서 시스템의 행동이 예측 불가능해짐 (혼돈) 을 입증한다.
3. 개념적 종합: 본 논문은 이러한 발견들을 종합하여 반사적 환경에서 '모델 추정' (모델이 참이라고 가정) 과 '모델 보정' (잠재적으로 오지정된 모델로 불확실성을 관리) 사이의 구분이 결정적임을 주장한다.

주요 기여

• 인과 파쇄기로서의 반사성: 본 논문은 반사성이 일방향 인과성 ($A \to B$) 을 불안정하게 만든다는 주장을 공식화한다. 자기 참조적 시장에서는 $B$가 $A$를 유발할 수 있거나, 참여자의 신념에 따라 인과 방향이 전환될 수 있어, 개입 없이는 관찰 데이터만으로는 인과 그래프를 고유하게 식별할 수 없게 만든다.
• '병리적 과학'의 구분: 저자들은 실증 금융에 대한 세밀한 분류를 제안한다. QF 는 López de Prado 가 제안한 것처럼 거짓 주장으로 인해 병리적 과학이 될 '위험'에 처한 것이 아니라, 반사성이 무시할 수 있는 맥락 (사후 추론 허용) 에서는 분명히 병리적 과학이지만, 반사성이 지배적인 맥락 (사전 예측 불가능) 에서는 명백히 과학이 아니다라고 주장한다.
• 인과 포식과 경쟁: 생태학 모델을 차용하여 본 논문은 경쟁하는 인과 사슬이 공존하고 상호작용하는 '인과 포식' 개념을 도입한다. 이는 단일 인과 그래프가 시장 동역학을 나타낼 수 있다는 관념에 도전하며, 대신 여러 경쟁적 현실 버전이 공존하여 지배권을 다투고 있음을 시사한다.
• 현재 도구의 인식론적 한계: 본 논문은 현재 QF 도구는 대중적인 가정 하에서 사후 (ex post) 인과 추론에 국한되어 있다고 단언한다. 이러한 가정이 반사적 맥락에 의해 도전될 때, 일방향 인과성 처방은 실패한다.

결과 및 발견

• 피드백의 구별 불가능성: LDE 모델 분석은 상향식 개입이 발생하지 않는 한, 일방향 인과 그래프 (방정식 1) 에 내재된 피드백 동역학이 역방향 인과 그래프 (방정식 2) 의 것과 실질적으로 구별 불가능함을 보여준다.
• 결정론적 시스템의 예측 불가능성: 알려진 인과 규칙을 가진 결정론적 모델에서도 결합과 자기 상호작용의 도입은 분기와 불안정성을 초래한다. 이는 근본적인 인과 메커니즘이 알려져 있더라도 시장 데이터로부터 안정된 인과 그래프를 고유하게 유의미하게 추론할 수 없음을 의미한다.
• 사전 예측의 실패: 연구는 반사적 시스템에서 사후 이해를 사전 예측으로 확장하는 데 필요한 조건이 극도로 제한적임을 결론짓는다. 시장의 적응 메커니즘과 행위자에 의한 인과 사슬의 가변성은 불변 법칙의 수립을 방해한다.
• 시장의 '준규칙성 (Demi-Regularity)': Lawson 의 연구를 인용하여, 본 논문은 시장 규칙성이 불변 법칙이 아니라, 근본적인 구조적 변화에 따라 변할 가능성이 있는 확률적이며 '준규칙성'이라고 제안한다.

의의 및 주장
본 논문은 표준 환원주의 프레임워크에 의존할 경우, 고도로 반사적인 시스템에서 인과성 추구가 "실패로 운명 지워질" 수 있다고 주장한다. 그 의의는 다음과 같다:

1. '과학' 프레임에 대한 도전: QF 가 종종 과학적 방법이 자기 참조적 시스템에서 자신의 한계를 고유하게 식별할 수 없음을 인정하지 않은 채 인과성의 '의자'를 입고 있다고 주장한다.
2. 위험 관리의 재정의: 위험 관리는 표준 모델 검증을 넘어 인과 가정에 대한 '상자 밖'의 도전을 포함하고 '부적절한 모델' 위험을 수용해야 함을 시사한다.
3. 인식론적 겸손에 대한 요구: 저자들은 실증 금융이 반사적 시장에 불충분한 유일한 인식론적 빛 (일방향 인과성) 아래서 답을 찾기를 반복한다고 주장한다. 그들은 요인 투자에서의 '공유지의 비극'을 피하고 통계적 도구의 오용을 방지하기 위해 반사성에 대한 더 깊은 이해를 요구한다.
4. 패러다임 전환의 필요성: 본 논문은 시장 이상과 반사성을 설명할 수 있는 실행 가능한 대안 패러다임이 필요하다고 결론지으며, 그러한 전환 없이는 QF 가 '동어반복적 자기 참조의 나선'에 갇혀 있다고 지적한다.

저자들은 구체적인 알고리즘 솔루션에 대해서는 겸손한 어조를 유지하며, 명시적으로 '데이터 과학 문제'나 특정 머신러닝 알고리즘의 장점을 피한다. 대신 그들은 문제의 근본적 성격, 즉 계산 도구에 독립적인 생명력을 얻는 반사적 환경에서의 모델 채택과 확산에 초점을 맞춘다.