기술 요약: "원인"은 과학적 영역 내의 기계론적 서사이다

문제 제기

본 논문은 통계학 및 머신러닝(ML) 분야에서 독립성 기준과 확률적 그래픽 모델(PGM)에 의존하여 데이터로부터 "진정한" 인과관계를 발견한다고 주장하는 "인과 학습(Causal Learning)" 및 "인과 추론(Causal Inference)" 기술의 성장 추세를 다룬다. 저자들은 이 분야가 근본적인 인식론적 결함을 겪고 있다고 주장한다. 즉, 물리 법칙과 형식 논리에서 유래한 단일하고 공리적인 인과 정의를, "원인"의 의미가 구별되고 다원적이며 도메인 특유의 메커니즘과 깊게 결합되어 있는 과학적 영역에 적용하려 한다는 것이다.

핵심 문제는 "언어에 의한 지성의 매혹(bewitchment of intelligence by language)"이다. 이는 계산적 기법들(예: 유향 비순환 그래프(DAG) 및 조건부 독립 테스트)이 결정적인 인과 현상의 인증으로 오인되는 현상을 의미한다. 본 논문은 이러한 과도한 확신이 다음과 같은 현실을 간과하고 있다고 상정한다:

1. 인과적 충분성(Causal Sufficiency): 모든 공통 원인이 관찰되었다는 가정(모든 공통 원인이 관찰되었다는 가정)은 실제 세계의 개방형 시스템(생물학, 사회과학)에서는 거의 성립하지 않는다.
2. 귀납적 편향(Inductive Bias): 모든 모델 선택에는 귀납적 편향이 내재되어 있음에도 불구하고, 인과 학습은 종종 자신의 특정 통계적 표현 방식(예: 마르코프 전이)을 중립적이고 관행으로부터 독립적인 진리의 인증으로 제시한다.
3. 도메인 격차(Domain Disparity): 폐쇄된 물리적 시스템을 정의하는 메커니즘은 창발성, 불가해성(irreducibility), 그리고 서사적 해석이 핵심적인 역할을 하는 생물학적 또는 사회적 시스템의 메커니즘과 근본적으로 다르다.

방법론

저자들은 일상 언어 철학(비트겐슈타인에게서 영감을 얻음)과 인류학적 기호학에 뿌리를 둔 방법론을 채택한다. 새로운 알고리즘이나 통계적 테스트를 제안하기보다는, 이 논문은 "원인"이라는 개념이 서로 다른 과학적 "언어 게임(tribes)" 내에서 실제로 어떻게 사용되는지에 대한 철학적, 언어적 조사를 수행한다.

이 접근 방식은 다음을 포함한다:

• 형식적 정의 검토: 베이지안 네트워크(BN), 동적 베이지안 네트워크(DBN), 구조적 인과 모델(SCM), 그리고 인과 확률 논리(CP-logic)를 포함한 현대적 인과 ML 프레임워크를 분석한다.
• 인식론적 분석: 귀납적 편향, 패러다임, 그리고 반증 가능성의 한계를 이해하기 위해 철학(데카르트, 흄, 칸트, 포퍼, 쿠른, 콰인)에서의 인과관계 역사를 조사한다.
• 교차 도메인 기호학적 조사: 다음 영역들 간의 인과관계 "언어 게임"을 비교한다:
  • 물리학/공학: 폐쇄된 시스템과 미분 방정식이 메커즘과 수학적 표현 사이의 일대일 대응을 제공하는 영역.
  • 생물학/의학: 개방형 시스템, 창발성, 다층적 추상화(예: 통계적 시험과 기계론적 서사의 결합)를 통한 증거의 "우세(preponderance of evidence)"가 필요한 영역.
  • 사회과학: 인간 행동은 불가해한 개방형 시스템이며, 인과관계는 결정적인 정량적 예측보다는 해석학적 서사, 현상학, 그리고 다양한 방법론을 통한 일관된 발견의 축적을 통해 확립되는 경우가 많다.
• 뉴로-심볼릭 관점의 통합: 뉴로-심볼릭 AI와 기계론적 해석 가능성이 통계적 모델과 도메인 서사를 어떻게 연결할 수 있는지 고려하되, 현재의 한계를 인정한다.

주요 기여

1. 인과관계의 다원적 정의

본 논문은 "원인"이 단일한 본질적 정의를 가진 단일한 개념이 아니라고 주장한다. 대신, 이는 특정 과학적 언어 게임 내에서의 기능적 용어이다:

• 물리학에서 원인은 장 방정식(field equations)과 미분 연산자(예: $\frac{dX}{dt} = f(X)$)에 의해 정의되며, 여기서 메커니즘은 방정식에 의해 완전히 포착된다.
• 생물학/의학에서 원인은 여러 층위(분자, 생리, 임상)의 증거가 수렴하여 뒷받격하는 "기계론적 서사"이다. 단일한 통계 모델은 개방형 시스템의 전체 인과 메커니즘을 포착할 수 없다.
• 사회과학에서 원인은 종종 인간의 행동과 의미를 설명하는 설득력 있는 서사, 즉 정밀한 예측력 없이도 개인이나 정책에 도구적으로 유용한 "해석학적 진리"이다.

2. "인과 머신러닝"에 대한 비판

저자들은 통계적 독립성 기준(예: $X \perp Y | Z$)이 인과관계를 인증할 수 있다는 전제를 비판한다. 그들은 다음을 강조한다:

• 인과적 충분성의 실패: 현실 세계의 시스템은 결코 폐쇄적이지 않으며, 잠재적 혼란 변수(latent confounders)는 도처에 존재하여 표준적 인과 발견의 핵심 공리를 위반한다.
• 추상화의 불일치: 복잡하고 창발적인 시스템(예: 인간 심리학)에 마르코프 DAG를 적용하는 것은 현상에 맞추어 도구를 재정의하는 것이 아니라, 도구에 맞추어 "원인"을 재정의하는 부적절한 추상화 선택이다.
• 과도한 확신: 이 분야는 결정적인 인과적 주장을 내세울 때 보상을 받는 인센티브 구조를 가지고 있으며, 이는 단순한 통계적 연관성에 불과한 결과를 과장하는 결과로 이어진다.

3. 해석학(Hermeneutics)과 서사의 역할

본 논문은 해석학(해석 이론)을 사회과학 및 복잡한 생물학적 시스템을 위한 유효하고 필수적인 인식론적 틀로 격상시킨다. 저자들은 다음과 같이 주장한다:

• 서사는 단순히 "부드러운" 설명이 아니라, 정밀한 기계론적 모델링이 불가능한 영역에서 의미를 처리하고 "도구적 진리"를 확립하는 데 필수적인 도구이다.
• 의식의 "어려운 문제(Hard Problem)"와 자유 의지에 대한 논쟁은, 서로 다른 언어 게임(신경과학 vs 현상학)이 보완적이고 비환원적인 관점을 제공한다는 점을 인식함으로써 해결될 수 있는 언어적 혼란인 경우가 많다.

4. 인식적 덕목(Epistemic Virtue)과 "증거의 우세"

본 논문은 과학적 실천을 인식적 덕목으로 전환할 것을 제안한다. 단일한 통계 모델로부터 결정적인 인과적 인증을 구하는 대신, 연구자들은 다음과 같이 해야 한다:

• 증거가 통계적 연관성에 국한될 경우, 결정적인 인과적 주장을 피하며 소통에 주의를 기울인다.
• 다양한 영역, 척도, 방법론(예: 통계 데이터, 진화 이론, 현상학적 서사의 결합)에서 일관된 발견을 집계함으로써 증거의 우세를 추구한다.
• 인과 학습 도구를 결정적인 인과 증명이 아니라 "대상 관계에 대한 해석 가능한 표현을 생성하는 방법"으로 취급한다.

결과 및 발견

• 물리학 vs 기타 도메인: 인과 학습 기술(예: SCM)은 시스템이 폐쇄되어 있고 메커니즘이 미분 방정식에 의해 완전히 설명될 수 있는 물리학 및 공학에 가장 적합함을 확인하였다.
• 개방형 시스템에 대한 부적절성: 생물학 및 사회과학의 경우, 인과적 충분성 가정을 충족하는 것은 사실상 불가능하다. 결과적으로, 인과 발견 알고리즘은 실제 데이터에서 유효한 그래프를 식별하는 데 실패하거나, 측정되지 않은 혼란 변수로 인해 허구적인 결과를 생성한다.
• 다중 도메인 조화의 필요성: 복잡한 시스템(예: 흡연의 건강 영향)에서의 유효한 인과적 주장은 단일한 무작위 대조 시험이나 통계 모델에 의해 확립되는 것이 아니라, 다양한 증거 유형(통계적 연관성, 기계론적 생물학적 서사, 임상적 관찰)의 수렴을 통해 확립된다.
• 해석학적 유용성: 사회과학에서 인과적 주장의 "진리"는 종종 정밀한 예측 능력보다는 인간의 이해를 위한 일관되고 도구적으로 유용한 서사를 제공하는 능력에 있다(예: 심리 치료 양식).

의의 및 주장

본 논문은 "인과 머신러닝"의 현재 궤적이 풍부하고 다원적인 인과 개념을 일련의 통계적 독립성 테스트로 환원하려 한다는 점에서 근본적으로 결함이 있다고 주장한다.

의의:

• "매혹"의 교정: 언어의 오용으로 인한 혼란을 해소하고, "원인"이 맥락에 따라 서로 다른 의미를 가짐을 과학계가 인식하도록 촉구한다.
• 지적 겸손의 증진: 시스템이 개방적이고 불가해한 분야에서는 더 겸손한 접근 방식을 취할 것을 요구한다. 사회과학의 재현성 위기에 대한 해결책은 더 나은 통계가 아니라, 불확실성을 수용하고 다학제적 합의에 의존하려는 더 큰 의지라고 주장한다.
• 설명 가능성의 재정의: 진정한 AI의 설명 가능성은 단순히 특징 중요도나 반사실적 모델에 의존하는 것이 아니라, 통계적 모델을 도메인 특유의 서사 및 기계론적 지식과 통합하는 것(뉴로-심볼릭 접근법)임을 시사한다.
• 방법론적 가이드: 학제 간 과학의 발전 경로는 단일한 인과 프레임워크 아래 방법론을 통합하는 것이 아니라, 복잡한 현상에 대한 더 풍부하고 견고한 이해를 구축하기 위해 다양한 "언어 게임"을 조화시키는 것이다.

저자들은 인과 추론 도구가 강력한 통계적 방법이지만, 결정적인 인과 인증이라는 주장은 버려야 한다고 결론짓는다. 대신, 이 도구들을 가설을 생성하고, 도메인 특유의 엄격하고 다층적이며 종종 서사 중심적인 과학적 탐구 과정을 통해 검증되어야 할 연관성을 식별하는 도구로 보아야 한다.