📊 statistics

PAIR-CI: Calibrated Conditional Independence Testing for Causal Discovery with Incomplete Data

본 논문은 결측치가 있는 데이터셋, 특히 비선형성 및 결측이 무작위가 아닌 조건 하에서 통계적 보정을 복원하고 인과 발견 정확도를 크게 향상시키기 위해, 다중 대입을 짝지어진 순열 설계 방식을 통해 추론 절차에 직접 통합하여 대입 오류로 인한 허위 종속성을 제거하는 비모수적 조건부 독립성 검정인 PAIR-CI 를 소개한다.

원저자: Thomas S. Robinson, Ranjit Lall

게시일 2026-05-07

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Thomas S. Robinson, Ranjit Lall

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

PAIR-CI 논문을 쉬운 언어와 일상적인 비유로 설명합니다.

큰 문제: "깨진 퍼즐"

복잡한 기계 (예: 자동차 엔진) 가 어떻게 작동하는지 그 부품을 살펴가며 파악하려 한다고 상상해 보세요. 당신은 알고 싶습니다: 점화 플러그가 엔진을 회전시키는 원인인가, 아니면 단순히 배터리 때문인가?

데이터 과학에서 이를 **인과성 발견 (Causal Discovery)**이라고 합니다. 이를 해결하기 위해 연구자들은 세 번째 요소를 고려할 때 두 요소가 서로 독립적인지 확인하는 방법을 사용합니다. 이를 조건부 독립 (CI) 검정이라고 합니다.

문제점: 실제 세계의 데이터는 엉망입니다. 종종 퍼즐의 조각이 누락됩니다 (예: 도면에서 기어가 빠진 경우).

옛 방법: 표준적인 접근법은 먼저 누락된 조각이 어떻게 생겼는지 "추측" (대체/impute) 한 다음, 검정을 수행하는 것입니다.
결함: 이 논문은 이 "추측 후 검정" 방식이 안개가 낀 안경을 쓴 채 퍼즐을 풀려는 것과 같다고 주장합니다. 누락된 조각에 대한 추측이 조금만 틀려도, 실제로 연결되지 않은 부품들 사이에 가짜 연결고리가 생깁니다. 이로 인해 연구자들은 존재하지 않아야 할 곳에 지도에 선을 그어, 기계가 작동하는 방식에 대한 잘못된 지도를 그리게 됩니다.

해결책: PAIR-CI ("쌍" 접근법)

저자 토머스 로빈슨 (Thomas Robinson) 과 란짓 랄 (Ranjit Lall) 은 PAIR-CI라는 새로운 방법을 소개합니다. 누락된 조각을 추측한 뒤 검정하는 대신, 게임 자체를 완전히 바꿉니다.

요리 대회에서의 시식 테스트를 생각해 보세요:

준비: 일부 재료가 빠진 수프 (데이터) 가 있습니다. 빠진 재료를 추측으로 채워 넣은 수프 버전 여러 가지를 만듭니다 (이를 "다중 대체 (Multiple Imputation)"라고 합니다).
쌍 만들기: 수프의 각 버전마다 두 가지 시식 테스트를 나란히 수행합니다.
- 테스트 A: 셰프가 후보 재료를 넣은 수프를 맛봅니다 (예: "소금을 넣으면 맛이 변하는가?").
- 테스트 B: 셰프가 후보 재료를 빼고 수프를 맛봅니다 (예: "소금이 없었던 것처럼 가정하면 수프 맛이 같은가?").
마법 같은 트릭: 결정적으로, 두 셰프 모두 정확히 같은 수프 버전과 정확히 같은 추측 재료를 맛봅니다.
- 누락된 재료에 대한 "추측"이 나빴다면 (안개가 낀 안경처럼), 이는 두 셰프에게 동일하게 영향을 미칩니다.
- 두 결과를 비교할 때, "나쁜 추측"은 서로 상쇄됩니다. 마치 두 셰프가 동일한 안개가 낀 안경을 쓴 것처럼, 둘 다 수프 맛이 이상하다고 생각하지만, 의견을 교환할 때 "이봐, 이상함은 우리 둘 다에게 동일하니까, 수프가 아니라 안경 때문이군"이라고 깨닫는 것과 같습니다.

두 모델을 직접 비교함으로써 PAIR-CI 는 누락된 데이터 추측으로 인한 오류를 제거하고 오직 진짜 신호만 남깁니다.

왜 중요한가: "오경보" 문제

이 논문은 이 방법이 얼마나 잘 작동하는지 보기 위해 수천 건의 시뮬레이션을 수행했습니다.

옛 방법: 데이터가 단순한 무작위가 아닌 체계적인 방식으로 누락되었을 때, 기존 방법들은 (연결이 없음에도 연결이 있다고 생각하는) "오경보"를 **28% 에서 45%**까지 울렸습니다. 이는 토스트를 할 때마다 연기 감지기가 울리는 것과 같습니다.
PAIR-CI: 이 새로운 방법은 오경보율을 5% 미만으로 낮췄으며, 이는 과학적 검정의 표준 목표입니다. 데이터가 엉망일 때도 차분하고 정확하게 작동했습니다.

무대 뒤의 "엔진"

이를 작동시키기 위해 저자들은 그 누구도 해결하지 못했던 수학 문제를 풀어야 했습니다.

도전 과제: 그들의 방법은 두 가지 유형의 "노이즈"를 포함합니다. 하나는 누락된 데이터를 추측할 때 발생하는 노이즈이고, 다른 하나는 검정을 위해 데이터를 조각으로 나누는 (교차 검증) 과정에서 발생하는 노이즈입니다.
해결책: 그들은 두 가지 노이즈를 동시에 측정하는 새로운 수학용 "자" (분산 추정치) 를 만들었습니다. 이는 과일과 그 과일이 놓인 바구니의 무게를 동시에 재는 단일 저울을 가진 것과 같아, 오직 과일의 진짜 무게만 알려줍니다.

실제 세계 결과

저자들은 다양한 크기의 지도에서 이를 테스트했습니다:

작은 지도 (10 개 변수): 잘 작동했으며, 기존 방법보다 약간 더 좋았습니다.
중간 크기 지도 (30 개 변수): 이점이 커졌습니다. 기존 방법들은 많은 실수를 하기 시작했지만, PAIR-CI 는 정확하게 유지되었습니다.
큰 지도 (56 개 변수 - "HAILFINDER" 기상 네트워크): 새로운 방법이 빛을 발한 곳입니다. 기존 방법들은 누락된 데이터에 너무 혼란을 겪어 지도가 거의 쓸모없게 되었습니다. PAIR-CI 는 오류를 44% 줄였습니다.

결론

PAIR-CI 는 데이터에 구멍이 있을 때 인과 관계를 파악하려는 과학자들을 위한 새로운 도구입니다.

옛 도구: 구멍을 추측한 뒤 검정합니다. (거기 없는 유령/연결을 보게 되기 쉽습니다).
새 도구 (PAIR-CI): 동일한 추측을 사용하여 두 시나리오를 나란히 검정합니다. 오류가 상쇄되어 진짜 진실을 드러냅니다.

이 논문은 이 방법이 특히 데이터가 복잡하고 비무작위적인 방식으로 누락될 때 더 신뢰할 수 있으며, 변수 간의 관계가 단순한 직선이 아닌 복잡한 (비선형) 것일 때 가장 잘 작동한다고 주장합니다. 이는 모든 누락된 데이터 문제를 해결한다고 주장하지는 않지만, 인과성 발견에서 나쁜 추측으로 인한 "가짜 연결"이라는 특정 문제를 해결합니다.

기술 요약: PAIR-CI: 불완전 데이터를 위한 인과 발견을 위한 보정된 조건부 독립성 검정

1. 문제 제기

제약 기반 방법 (예: PC 알고리즘) 을 통한 인과 발견은 인과 그래프의 골격과 방향을 결정하기 위해 일련의 조건부 독립성 (CI) 검정에 근본적으로 의존합니다. 데이터가 불완전한 경우 심각한 병목 현상이 발생합니다. 표준 접근법은 일반적으로 "먼저 대체하고, 그 다음 검정한다"는 패러다임을 따릅니다: 결측값을 대체한 후, 완성된 데이터에 표준 CI 검정을 적용합니다.

저자들은 이 패러다임에 근본적인 결함이 있음을 지적합니다: 보정 불량 (miscalibration). 대체 모델이 오지정된 경우 (예: 결측이 무작위가 아님 (MNAR) 조건 하에서 또는 함수 형태가 잘못된 경우), 대체 오차는 테스트 변수들 사이에서 위조된 조건부 종속성을 유발합니다. Proposition 1 은 이러한 조건 하에서 일관된 CI 검정이라면 어떤 것이라도 점근적으로 참인 귀무가설을 1 에 가까운 확률로 기각함을 공식화합니다. 이는 위조된 간선으로 채워진 인과 그래프를 초래하며, 이러한 오류는 간선 방향 규칙 (Meek 규칙) 을 통해 전파되어 하류 추론을 훼손합니다. 테스트별 삭제 (데이터를 희생하고 선택 편향을 유발함) 또는 Rubin 규칙과 결합된 표준 다중 대체 (조건부 집합을 통해 들어오는 편향을 보정하지 못함) 와 같은 기존 해결책들은 이 구조적 문제를 해결하지 못합니다.

2. 방법론: PAIR-CI

본 논문은 **쌍대 순열 설계 (paired permutation design)**를 통해 다중 대체를 추론 절차에 직접 통합함으로써 보정을 복원하도록 설계된 비모수적 CI 검정인 PAIR-CI를 소개합니다.

핵심 메커니즘

이 검정은 조건부 집합 $X$ 가 주어졌을 때 목표 변수 $Z$ 를 예측하는 두 개의 교차 검증 모델을 비교합니다:

전체 모델: $(X, Y)$ 를 사용하여 $Z$ 를 예측합니다.
부분 모델: 대체된 조건부 집합 $\hat{X}$ 와 "위약 (placebo)" 변수 $U$ 를 사용하여 $Z$ 를 예측합니다.

주요 설계 특징:

쌍대 대체: 두 모델 모두 동일한 다중 대체 (MICE) 과정에서 유도된 정확히 동일한 대체된 조건부 집합 $\hat{X}$ 를 받습니다. 이는 대체 오차로 인해 유발된 어떤 편향이나 왜곡도 두 모델에 동일하게 영향을 미치도록 보장합니다.
조건부 순열: 위약 $U$ 는 $\hat{X}$ -공간에서 $Y$ 를 $k$ -최근접 이웃들 사이에서 조건부 순열하여 구성됩니다. 이는 $X$ 가 주어졌을 때 $Y$ 와 $Z$ 사이의 연결을 끊으면서 $X$ 에 대한 $Y$ 의 주변 종속성은 유지합니다.
손실 차이: 검정 통계량은 전체 모델과 부분 모델 간의 샘플 외 손실 (예: 이진 교차 엔트로피 또는 MSE) 차이입니다. 두 모델이 동일한 대체된 $\hat{X}$ 를 공유하기 때문에, 대체로 인한 편향은 손실 차이에서 상쇄되어 검정 통계량을 오염시키지 않습니다.
통합 분산 추정: 검정 통계량은 $K$ 개의 교차 검증 폴드와 $M$ 개의 대체 데이터셋에 걸친 손실 차이를 집계합니다. 저자들은 Rubin 규칙으로 대체 간 변동을 처리하는 내부에 Bayle 등 (2020) 의 증명된 일관성을 가진 대체 내 교차 검증 분산 추정기를 중첩하는 새로운 분산 추정기를 제안합니다. 이는 폴드 중첩과 대체 변동 모두에서 발생하는 종속성을 동시에 고려합니다.

이론적 보장

보정: 네 가지 약한 정규성 가정 (대체 일관성, 유계 손실, 적절한 대체, 학습자 안정성) 하에서 PAIR-CI 는 내부 귀무가설 ( $Z \perp\!\!\perp Y \mid \hat{X}$ ) 에 대해 정확한 점근적 크기를 달성합니다.
MNAR 에 대한 강건성: 쌍대 설계는 대체 오차가 관찰 간에 체계적이지 않고 무작위로 변하는 경우 MNAR 하에서도 과학적 귀무가설 ( $Z \perp\!\!\perp Y \mid X$ ) 로 보정을 확장합니다.
일관성: 이 검정은 대립가설 ( $H_1$ ) 하에서 일관성이 있으며, 표본 크기가 증가함에 따라 검정력이 1 로 수렴합니다.
PC 일관성: PC 알고리즘 내에서 오라클로 사용될 때, PAIR-CI 는 표준 충실도 가정 하에서 참인 완성된 부분 방향 비순환 그래프 (CPDAG) 의 복원을 보장합니다.

3. 주요 기여

본 논문은 세 가지 주요 기여를 제시합니다:

보정된 비모수적 CI 검정: PAIR-CI 는 오지정 하에서 보정을 유지하는 단일 프레임워크로 다중 대체, 교차 검증, 조건부 순열을 통합한 최초의 방법입니다. 다양한 데이터 생성 과정 (DGP) 과 결측 메커니즘에 걸쳐 평균 거짓 양성률 (FPR) 을 4% 이하로 달성하는 반면, 기존 방법들은 MNAR 하에서 28~45% 의 비율을 보입니다.
통합 분산 추정: 저자들은 교차 검증과 다중 대체 분산 추정을 공식적으로 통합한 최초의 방법을 제공합니다. Rubin 규칙 안에 Bayle 등 (2020) 의 추정기를 임베딩함으로써, 중간 효과 크기에서 통계적 검정력을 9~10 퍼센트 포인트 향상시키고 보정을 희생하지 않으면서 $K=10$ 폴드를 허용하는 점근적으로 정확한 추정기를 유도합니다.
강건한 인과 발견: 실증 결과는 PAIR-CI 가 특히 비선형 설정에서 그리고 그래프 크기가 증가함에 따라 그래프 복원에서 기준선보다 현저히 우수함을 보여줍니다.

4. 실험 결과

저자들은 세 단계의 실험을 통해 PAIR-CI 를 검증합니다:

A. 독립적 성능

선형 가우시안, 포스트 - 비선형, 잠재 교란자 DGP 에 대한 시뮬레이션에서 표본 크기 $n \in \{500, 5000\}$ :

거짓 양성률: PAIR-CI 는 모든 결측 조건 (완전, MAR, MNAR) 에서 평균 FPR 을 4% 이하로 유지합니다. 반면, FZ-Rubin, GCM, KCI 와 같은 기준선들은 MNAR 하에서 28~45% 의 FPR 을 보입니다.
검정력: PAIR-CI 는 신호 강도가 $\ge 0.6$ 이고 $n \ge 2000$ 일 때 80% 이상의 검정력을 달성합니다. 가정이 완벽하게 충족될 때 모수적 검정 (예: Fisher's Z) 보다 검정력이 낮지만, 보정 불량 검정의 무의미한 기각을 피합니다.

B. 합성 그래프 복원

Erdős–Rényi DAG( $p=10, 20, 30$ ) 에 PC 알고리즘을 적용:

비선형 간선: PAIR-CI 는 기준선에 비해 구조적 해밍 거리 (SHD) 를 크게 감소시킵니다. SHD 격차는 그래프 크기가 커짐에 따라 확대됩니다: $p=10$ 에서 8% 감소, $p=30$ 에서 15% 감소, 그리고 56 변수 HAILFINDER 네트워크에서는 최대 44% 감소합니다.
선형 간선: 조건부 집합이 커지고 부분 상관이 덜 신뢰할 수 있게 됨에 따라 PAIR-CI 는 기준선과 일치하거나 초과합니다.
정밀도 - 재현율: PAIR-CI 는 다른 방법들을 괴롭히는 위조된 간선의 전파를 피하면서 약간 낮은 재현율 대가로 높은 정밀도 (종종 1.0) 를 보입니다.

C. 실세계 벤치마크

ALARM 네트워크 ( $p=37$ ): PAIR-CI 는 선형에서 SHD 22.5~~24, 비선형에서 31~~33.5 를 달성하여 모든 제약 기반 기준선 (SHD 30~62) 을 능가합니다.
HAILFINDER 네트워크 ( $p=56$ ): PAIR-CI 는 SHD 62.5~~65.5 를 달성하는 반면 기준선은 103.5~~128 입니다. 주목할 점은 완전 사례 분석이 유사한 SHD(66) 를 달성하지만 F1 점수는 0.0(빈 골격) 이라는 점인데, 이는 공격적인 데이터 삭제의 "포기함으로써 승리하는" 아티팩트를 보여줍니다.

5. 중요성과 주장

본 논문은 PAIR-CI 가 불완전 데이터를 가진 인과 발견을 위한 보정된 접근법을 제공함으로써 자동화된 과학적 추론의 중요한 간극을 해소한다고 주장합니다.

동기: 저자들은 "대체 후 검정" 패러다임이 일반적인 실세계 조건 (MNAR, 함수 오지정) 하에서 구조적으로 결함이 있어 신뢰할 수 없는 인과 그래프로 이어진다고 주장합니다.
범위: 이 방법은 인과 충분성 (관측되지 않은 교란자 없음) 을 가정하지만 특정 발견 알고리즘에는 무관하며, PC 또는 FCI 를 위한 플러그인 오라클로 기능합니다.
한계: 저자들은 PAIR-CI 가 특히 약한 신호를 가진 작은 표본이나 관계가 엄격히 선형이고 결측이 MCAR/MAR 일 때 (모수적 검정이 뛰어남) 보정을 위해 일부 검정력을 희생한다고 인정합니다. 또한 이 방법은 대체 오차가 무작위로 변한다는 가정에 의존하며, 체계적인 오차 (예: 평균 대체에서 비롯된) 는 여전히 보정 불량을 유발할 수 있다고 지적합니다.
결론: PAIR-CI 는 결측 데이터의 존재 하에서 제약 기반 인과 발견의 신뢰성을 복원하는 원칙적인 비모수적 솔루션을 제공하며, 성능 향상은 그래프 복잡성과 비선형성에 따라 확장됩니다.