📊 statistics

Cross-validating causal discovery via Leave-One-Variable-Out

이 논문은 특정 변수 쌍을 제외한 데이터셋으로 모델을 학습시키고 누락된 관계를 정확하게 예측하는 능력을 평가함으로써, 예측 오차를 인과적 정확성의 대리 지표로 사용하여 정답(ground truth) 없이도 인과 발견 알고리즘을 반증하는 "변수 하나 제외(Leave-One-Variable-Out, LOVO)" 예측 프레임워크를 소개한다.

원저자: Daniela Schkoda, Philipp Faller, Patrick Blöbaum, Dominik Janzing

게시일 2026-08-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Daniela Schkoda, Philipp Faller, Patrick Blöbaum, Dominik Janzing

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

데이터 과학의 조용한 구석에서, 연구자들은 과학자들을 오랫동안 좌절시켜 온 수수께끼를 풀기 위해 노력하고 있습니다. 그것은 바로 컴퓨터가 사건 패턴 뒤에 숨겨진 인과관계를 진정으로 파악했는지 어떻게 알 수 있는가 하는 문제입니다. '인과 발견(causal discovery)'이라고 알려진 이 분야는, 단순히 두 가지 현상이 함께 일어난다는 사실을 인지하는 것을 넘어, 하나가 실제로 다른 하나를 일으키는지 결정하는 것을 목표로 합니다. 수십 년 동안 이러한 컴퓨터 프로그램들을 테스트하는 표준적인 방법은, 연구자들이 참조용으로 사용하는 기존의 '실제 정답(ground truth)', 즉 이미 존재하는 현실의 지도와 그 답을 비교하는 것이었습니다. 하지만 복잡한 현실 세계에서는 그러한 완벽한 지도가 존재하는 경우가 거의 없습니다. 이러한 지도가 없었기에, 과학자들은 어떤 방법이 신뢰할 수 있고 어떤 방법이 단순히 추측에 불과한지를 판단하는 데 어려움을 겪어 왔습니다. 이러한 불확실성은 의학에서 경제학에 이르기까지 많은 실질적인 응용 분야를 의구심 속에 머물게 했으며, 현상을 설명하기 위해 구축된 복잡한 모델들을 신뢰하지 못하게 만들었습니다.

이 교착 상태를 깨기 위해, 독일의 한 연구팀은 미리 그려진 지도 없이도 이러한 알고리즘을 테스트할 수 있는 새로운 방법을 제안했습니다. 그들의 접근 방식은 '생략'이라는 영리한 기교에 의존합니다. 예를 들어, 온도, 습도, 풍속과 같이 서로 복잡하게 상호작용하는 변수들을 연구하는 과학자를 상상해 보십시오. 연구자들은 컴퓨터에게 모든 데이터를 한꺼번에 입력하는 대신, 학습 과정에서 의도적으로 한 쌍의 변수를 숨깁니다. 그들은 나머지 변수들에 대해 알고리즘을 학습시킨 다음, 숨겨진 두 변수 사이의 관계를 예측하도록 요구합니다. 만약 알고리즘이 근저에 깔린 인과 구조를 진정으로 이해했다면, 학습 중에 두 변수를 함께 본 적이 없음에도 불구하고 그 숨겨진 쌍이 어떻게 연결되는지 추론할 수 있어야 합니다. 저자들이 '변수 제외(Leave-One-Variable-Out)' 교차 검증이라고 부르는 이 방법은, 예측 행위를 진실을 검증하는 시험으로 탈바꿈시킵니다.

그들 연구의 핵심은 특정한 유형의 논리적 연역을 포함합니다. 알고리즘이 하나의 변수가 빠진 데이터로부터 학습할 때, 알고리즘은 남은 조각들이 어떻게 맞물리는지에 대한 모델을 구축합니다. 연구자들은 그 모델이 누락된 연결 고리를 재구성하기에 충분한 정보를 포함하고 있는지 확인합니다. 많은 경우, 알려진 관계들의 구조는 숨겨진 쌍에 대해 특정한 결론을 강제합니다. 예를 들어, 알고리즘이 변수 A가 제3의 변수인 B에 영향을 미치고, B가 C에 영향을 미친다는 것을 결정한다면, A와 C를 직접 관찰하지 않았더라도 A와 C가 어떻게 관련되어 있는지 논리적으로 추론할 수 있습니다. 연구자들은 이 테스트를 수행하기 위한 두 가지 주요 방법을 개발했습니다. 첫 번째는 모든 인과 발견 도구에 적용 가능한 일반적인 방법으로, 두 변수가 직접 연결되어 있는지 아니면 공통 원인에 의해 단순히 영향을 받는지를 나타내는 그래프상의 특정 패턴을 찾습니다. 두 번째 방법은 선형 관계를 가정하는 특정 수학적 모델에 맞춰 설계되었으며, 이를 통해 숨겨진 변수들 사이에 직접적인 연결이 존재하더라도 예측이 가능하게 합니다.

이 아이디어가 실제로 효과가 있는지 확인하기 위해, 연구팀은 컴퓨터로 생성된 데이터를 사용하여 광범한 시뮬레이션을 실행했습니다. 그들은 수천 개의 서로 다른 인과 시스템을 만들고, 이 방법이 오류를 얼마나 잘 포착하는지 테스트했습니다. 결과는 고무적이었습니다. 인과 발견 알고리즘이 초기 학습 단계에서 실수를 저질렀을 때, '누락된 연결 고리'에 대한 예측 오류는 눈에 띄게 커졌습니다. 즉, 예측 오류는 신뢰할 수 있는 경보 벨 역할을 했습니다. 만약 숨겨진 관계에 대한 알고리즘의 추측이 크게 빗나갔다면, 이는 전체 모델이 결함이 있다는 강력한 신호였습니다. 반대로, 예측이 정확했을 때는 밑바탕이 되는 인과 지도가 올바를 가능성이 높음을 시사했습니다. 이러한 상관관계는 선형 방정식에 기반한 알고리즘부터 딥러닝 기술을 사용하는 알고리즘에 이르기까지 다양한 유형의 알고리즘 전반에서 관찰되었습니다.

연구자들은 또한 자신들의 새로운 방법을, 인과관계에 대한 가정을 하지 않는 더 단순한 '인과 불가지론적(causally agnostic)' 접근 방식과 비교했습니다. 이 기준 방법은 숨겨진 변수들이 데이터에 의해 강제되지 않는 한 서로 독립적이라고 가정합니다. 연구 결과, 초기 모델이 상당히 정확하다는 전제하에 인과적 방법이 이 기준 방식을 일관되게 능가하는 것으로 나타났습니다. 이는 인과 구조를 추론하는 추가 단계가 단순히 이론적인 연습이 아니라, 관찰되지 않은 변수들 사이의 관계를 예측하는 데 있어 실질적인 이점을 제공한다는 것을 시사합니다. 연구팀은 이 방법이 마법의 지팡이는 아니라는 점을 인정합니다. 즉, 모든 문제를 해결할 수는 없으며, 예측이 불가능한 특정 그래프 구조가 존재합니다. 그러나 광범위한 시나리오에서, 이 방법은 사전 답변지가 없이도 인과 모델을 반증하거나 틀렸음을 입증할 수 있는 엄격한 방법을 제공합니다.

모델의 내부적 일관성을 테스트하는 것으로 초점을 전환함으로써, 이 연구는 이 분야에 새로운 길을 제시합니다. 이는 관찰되지 않은 관계를 예측하는 능력이 인과 발견의 품질을 판단하는 강력한 척도가 될 수 있음을 시사합니다. 비록 이 연구가 실제 세계의 개입보다는 시뮬레이션에 의존하고 있지만, 그 결과는 우리가 모델의 빈틈을 성공적으로 채울 수 있을 때 그 모델을 더 신뢰할 수 있다는 설득력 있는 근거를 제공합니다. 이 접근 방식은 단순히 모델이 데이터에 부합하는지를 묻는 것이 아니라, 데이터의 일부가 누락되었을 때도 모델이 데이터가 들려주는 이야기를 제대로 이해하고 있는지를 묻습니다.

기술 요약: 변수 제외 교차 검증을 통한 인과 발견의 교차 검증

문제 정의

본 논문은 정답(ground truth)이 없는 상황에서 인과 발견 알고리즘을 벤치마킹하고 반증하는 데 따르는 결정적인 과제를 다룹니다. 시뮬레이션 데이터에 대한 광범한 평가가 존재함에도 불구하고, 연구자들은 신뢰할 수 있는 벤치마크의 부재로 인해 실제 세계의 응용 분야에서 어떤 방법이 가장 우수한 성능을 보이는지 결정하는 데 어려움을 겪고 있습니다. 기존의 "자기 호환성(self-compatibility)" 체크(예: Faller et al., 2024)는 부분 집합과 전체 집합 간의 불일치를 정량화하지만, 알고리즘의 결과를 결정적으로 기각할 수 있는 연속적이고 최적화 가능한 메트릭이 부족합니다. 또한, 중재(interventional) 데이터를 검증에 사용하는 것은 비용과 복잡성 때문에 실질적으로 어려운 경우가 많습니다.

저자들은 학습 단계에서 명시적으로 제외된 변수들 사이의 통계적 관계를 예측하는 능력을 테스트함으로써 인과 발견 알고리즘을 평가하는 새로운 프레임워크를 제안합니다. **변수 제외 교차 검증(Leave-One-Variable-Out, LOVO)**이라 명명된 이 접근 방식은, 홀드아웃 쌍 $(X, Y)$ 에 대해 추출된 주변 데이터셋 $(X, Z)$ 와 $(Y, Z)$ 만을 사용하여 해당 쌍 사이의 의존성을 성공적으로 추론할 수 있는지 여부를 판단하는 것을 목표로 합니다.

방법론

핵심 개념: LOVO 예측

변수 집합 $W = \{X, Y, Z_1, \dots, Z_k\}$ 가 주어졌을 때, 이 방법은 다음 과정을 포함합니다:

데이터 분할: 두 개의 "변수 제외" 데이터셋인 $D_{XZ}$ (X와 Z를 포함)와 $D_{YZ}$ (Y와 Z를 포함)를 생성하며, 이때 쌍 $(X, Y)$ 는 제외합니다.
인과 학습: $D_{XZ}$ 와 $D_{YZ}$ 에 각각 인과 발견 알고리즘을 적용하여 주변 인과 그래프 $G_X$ 와 $G_Y$ 를 얻습니다.
추론: $G_X$ 와 $G_Y$ 를 사용하여 결합 인과 구조 $G$ 를 추론하고, 이어서 $X$ 와 $Y$ 를 동시에 관측하지 않고도 조건부 기대값 $E[Y | X = x]$ 또는 상관계수 $\rho_{XY}$ 를 추정합니다.
평가: LOVO 예측값을 실제 결합 분포 $P(X, Y)$ (반증 목적으로 사용 가능)와 비교하여 연속적인 예측 오차를 계산합니다. 이 오차는 인과 발견 알고리즘의 신뢰도를 나타내는 메트릭 역할을 합니다.

이론적 토대

본 논문은 LOVO 예측이 확률 법칙만으로는 일반적으로 불가능하다는 점을 입증합니다(Lemma 1). 이는 주변 분포 $P(X, Z)$ 와 $P(Y, Z)$ 가 $P(X, Y)$ 를 유일하게 결정하지 않기 때문입니다. 그러나 인과 모델은 이 모호성을 해결하기 위한 필요한 귀납적 편향(inductive bias)을 제공합니다.

저자들은 두 가지 주요 LOVO 예측 변형을 제안합니다:

그래프 방법 (부모 조정 - Parent Adjustment):
- 일반적인 DAG(유향 비순환 그래프) 또는 ADMG(비순환 유향 혼합 그래프)를 출력하는 알고리즘에 적용 가능합니다.
- 에지 제외: Lemma 2와 3은 주변 그래프 $G_X$ 와 $G_Y$ 만을 근거로 $X$ 와 $Y$ 가 연결되지 않았음(즉, 둘 사이에 에지가 없음)을 결정하는 기준을 제공합니다.
- 예측: 만약 $X$ 와 $Y$ 가 연결되어 있지 않다면, 그들의 부모들의 합집합( $Z_S$ )은 d-분리(d-separating) 또는 m-분리(m-separating) 집합 역할을 합니다. 예측기는 다음과 같이 구성됩니다:
  $P(y|x) = \sum_{z_S} P(y|z_S)P(z_S|x)$
- 이는 3단계 절차를 통해 구현됩니다: $P(Y|Z)$ 로부터 예측기를 학습하고, 인공 쌍 $(x, \hat{y})$ 를 생성한 후, 최종 예측기 $P(Y|X)$ 를 학습합니다.
모델 특정 방법 (LiNGAM):
- 선형 비가우시안 비순환 모델(LiNGAM)을 가정하는 알고리즘에 특화되어 있습니다.
- $X$ 와 $Y$ 사이의 에지 유형을 식별할 수 있고(연결된 경우라도) 특정 자식 집합 조건이 충족된다면, 구조 행렬 $\Lambda$ 를 주변 데이터로부터 유일하게 식별할 수 있습니다.
- 이를 통해 모델 가정이 성립하는 한, 직접적인 인과 관계가 존재하더라도 $P(X, Y, Z)$ 를 재구성하고 $E[Y|X]$ 를 추정할 수 있습니다.

베이스라인 비교

인과 정보가 진정으로 유용한지 확인하기 위해, 본 논문은 MaxEnt 베이스라인 예측기를 도입합니다. 이 예측기는 $X \perp\!\!\perp Y | Z$ 라고 가정하며(주변 분포에 대해 엔트로피를 최대화), $P_{MaxEnt}(y|x) = \sum_z P(y|z)P(z|x)$ 공식을 사용합니다. LOVO 오차는 이 베이스라인 오차와 비교되어 평가되며, 인과 알고리즘이 성공적이라고 간주되려면 LOVO 오차가 베이스라인 오차보다 유의미하게 낮아야 합니다.

주요 기여

LOVO 교차 검증 프레框架: 변수 쌍의 예측을 모델의 일반화 능력(out-of-variable generalization)에 대한 테스트로 취급함으로써, 정답 없이도 인과 발견 알고리즘을 반증할 수 있는 새로운 프레임워크를 제시했습니다.
실현 가능성에 대한 이론적 조건: 주변 그래프를 기반으로 LOVO 예측이 가능한 경우를 구분하여, 에지를 제외할 수 있는 경우와 구조 방정식 파라미터를 복구할 수 있는 경우를 명확히 하는 이론적 조건(Lemma 2, 3 및 Theorem 4, 5)을 증명했습니다.
연속적 평가 메트릭: 이산적인 불일치 메트릭과 달리, LOVO는 연속적인 예측 오차를 제공하여 인과 발견 알고리즘의 최적화와 엄격한 기각 기준 설정을 가능하게 합니다.
딥러닝 확장: 저자들은 트랜스포머 기반 인코더와 같은 딥러닝 아키텍처가 명시적인 파라미터 가정 없이도 주변 데이터셋으로부터 인과적 표현을 학습하여 상관관계를 예측하도록 적응될 수 있음을 보여주었으며, 이는 MaxEnt 베이스라인보다 우수한 성능을 보였습니다.

실험 결과

저자들은 방법을 검증하기 위해 광범로한 시뮬레이션을 수행했습니다:

실현 가능성: 무작위 그래프(Erdős–Rényi DAG 및 ADMG)에서, 그래프 렘마(graphical lemmas)는 대다수의 경우에서 연결되지 않은 쌍을 성공적으로 식별하여 LOVO 예측을 실현 가능하게 만들었습니다.
성능: 실제 주변 그래프가 주어졌을 때, Parent Adjustment 및 LiNGAM 기반 LOVO 예측기는 모두 MaxEnt 베이스라인보다 유의미하게 우수한 성능을 보였습니다.
정확도와의 상관관계: 인과 발견 알고리즘(DirectLiNGAM 및 Repetitive Causal Discovery)에 적용했을 때, LOVO 예측 오차는 다음 항목들과 양의 상관관계를 가짐이 밝혀졌습니다:
- 잘못 식별된 에지의 빈도(특히, 연결된 쌍을 연결되지 않은 것으로 오인하는 경우).
- 학습된 그래프의 구조적 해밍 거리(Structural Hamming Distance, SHD).
- 스피어먼 상관계수는 유의미했으며, 이는 높은 LOVO 오차가 낮은 인과 발견 정확도를 신뢰할 수 있게 시사함을 나타냅니다.
딥러닝: 주변 데이터셋으로 학습된 커스텀 딥러닝 아키텍처는 상관관계를 성공적으로 예측하였으며 베이스라인보다 뛰어난 성능을 보였습니다. 이는 모델이 명시적인 파라미터 가정 없이도 암묵적으로 인과적 표현을 학습하고 있음을 시사합니다.

의의 및 주장

본 논문은 LOVO 교차 검증이 정답이 없는 상황에서도 인과 발견 알고리즘을 평가할 수 있는 엄격한 메커니즘을 제공한다고 주장합니다. LOVO 예측 오차가 학습된 인과 구조의 정확도와 상관관계가 있음을 입증함으로써, 저자들은 실무에서 정답을 사용할 수 없는 경우 LOVO가 인과 발견 방법을 선택하기 위한 신뢰할 수 있는 벤치마크 역할을 할 수 있다고 주장합니다.

이 연구는 인과 모델이 단순한 통계적 학습과는 구별되는 능력, 즉 관측되지 않은 변수 쌍 사이의 의존성을 "보간(interpolation)"하는 능력을 갖추고 있음을 강조합니다. 저자들은 LOVO를 모든 검증 방법을 대체하는 것이 아니라, 특히 중재 데이터에 접근할 수 없는 시나리오에서 인과 가설의 "자기 점검(self-check)"을 위한 필수적인 도구로 위치시킵니다. 또한, LOVO 예측이 항상 가능한 것은 아니며(예: 작은 그래프 또는 특정 구조적 구성의 경우), 이 방법이 신뢰성 가정(faithfulness assumption)과 기초적인 인과 발견 알고리즘의 출력 형식(DAG/ADMG)에 의존한다는 점을 명시하며 신중한 태도를 유지합니다.