🤖 machine learning

ConfoundingSHAP: Quantifying confounding strength in causal inference

이 논문은 관측 연구에서 개별 공변량에 대한 교란 강도를 정량화하고 귀속시키기 위해 TabPFN을 활용하여 포괄적인 모델 재적합 없이 연구자들이 어떤 변수가 교란 변수로 작용하는지 식별하는 데 도움이 되는 확장 가능한 Shapley 기반 방법인 ConfoundingSHAP을 소개합니다.

원저자: Marie Brockschmidt, Santo M. A. R. Thies, Maresa Schröder, Dennis Frauen, Valentyn Melnychuk, Maximilian Muschalik, Eyke Hüllermeier, Stefan Feuerriegel

게시일 2026-05-12

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Marie Brockschmidt, Santo M. A. R. Thies, Maresa Schröder, Dennis Frauen, Valentyn Melnychuk, Maximilian Muschalik, Eyke Hüllermeier, Stefan Feuerriegel

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

다음은 'ConfoundingSHAP' 논문에 대한 설명을 쉬운 언어와 창의적인 비유로 풀어낸 것입니다.

큰 문제: "숨겨진 영향력자"

당신이 새로운 약이 실제로 효과가 있는지 파악하려는 의사라고 상상해 보세요. 환자 기록을 살펴보면, 약을 복용한 환자들이 복용하지 않은 환자들보다 더 오래 산 것을 발견합니다.

하지만 잠깐! 함정이 있습니다. 의사가 누가 약을 받을지 동전 던지기로 결정하지는 않았습니다. 대신 의사는 가장 아픈 환자에게 약을 주었습니다. 그들이 약이 가장 필요했기 때문입니다.

이제 두 그룹을 단순히 비교하면, 약이 사람들을 죽인 것처럼 보일 수도 있습니다 (아픈 사람들이 어차피 죽었기 때문). 혹은 기적처럼 보일 수도 있습니다 (의사가 가장 건강한 환자들에게만 약을 줬다면). 문제는 병의 중증도가 "교란변수"라는 점입니다. 이는 약을 줄지 말지 결정하는 것 그리고 최종 결과 (사망 또는 생존) 모두에 영향을 미쳤습니다.

실제 세계의 데이터에는 "교란변수" 목록이 없습니다. 우리는 단지 나이, 체중, 혈압, 소득 등 긴 변수 목록만 가지고 있을 뿐입니다. 어떤 변수들이 우리의 결과를 망치고 있는지 알 수 없습니다.

해결책: ConfoundingSHAP

저자들은 ConfoundingSHAP이라는 도구를 개발했습니다. 이를 "편향 탐정"이나 "교란 강도 측정기"라고 생각하세요.

이 도구의 역할은 긴 변수 목록을 살펴보고 다음과 같은 특정 질문에 답하는 것입니다: "이 변수들 중 어떤 것이 우리의 결과에 혼란 (편향) 을 실제로 일으키고 있는가?"

작동 원리: "팀 게임" 비유

이 도구가 어떻게 작동하는지 이해하기 위해, 퍼즐을 푸는 것 (치료의 진정한 효과를 찾는 것) 을 목표로 하는 팀 빌딩 게임을 상상해 보세요.

선수들: 데이터셋에 있는 모든 변수 (나이, 소득, 혈압) 가 팀의 선수입니다.
목표: 팀은 특정 선수들을 제외했을 때 데이터에 얼마나 많은 "노이즈"나 "혼란"이 남아있는지 알고 싶어 합니다.
게임: 이 도구는 선수들의 모든 가능한 조합 (팀) 을 테스트합니다.
- 팀 A: 모두 포함합니다. (완벽한 팀).
- 팀 B: "혈압"을 제외합니다.
- 팀 C: "나이"와 "소득"을 제외합니다.
점수: 각 팀에 대해 도구는 "완벽한 팀"과 비교하여 결과가 얼마나 변하는지 계산합니다.
- "혈압"을 제외했을 때 결과가 엉망이 된다면, "혈압"은 핵심 플레이어입니다. 강력한 교란변수라는 뜻입니다.
- "신발 크기"를 제외해도 아무것도 변하지 않는다면, "신발 크기"는 무관합니다.

이 도구는 노벨상을 수상한 게임 이론가에게서 이름을 딴 Shapley 값이라는 수학적 개념을 사용하여 모든 선수들 사이에서 혼란에 대한 "책임"을 공정하게 분배합니다. 각 변수가 얼마나 혼란에 기여했는지 정확히 알려줍니다.

이것이 다른 이유 (CATE 함정)

이 논문은 사람들이 자주 저지르는 실수를 지적합니다. 보통 데이터 과학자들은 **치료 효과 이질성 (CATE)**을 설명하는 도구를 사용합니다.

CATE 설명자: "누가 약이 다른 사람들에게 다르게 작용하게 만드는가?" (예: "남성에게 여성보다 더 잘 작용한다").
ConfoundingSHAP: "누가 약을 받은 사람을 결정했기 때문에 평균 결과를 망치고 있는가?"

비유:
경주 상황을 상상해 보세요.

CATE는 묻습니다: "누가 잔디 위와 진흙 위를 다르게 빨리 달리는가?" (주행자가 속도에 미치는 지면의 변화를 봅니다).
ConfoundingSHAP은 묻습니다: "누가 출발선을 조작했는가?" (누가 어떤 주행자가 앞쪽에서, 어떤 주행자가 뒤쪽에서 출발할지 결정하여 최종 결과를 왜곡했는지 봅니다).

이 논문은 표준 도구들이 "지면 조건" (효과 수정자) 에만 너무 집중하기 때문에 "조작자" (교란변수) 를 놓치는 경우가 많다고 보여줍니다. ConfoundingSHAP 은 바로 이 조작자들을 찾기 위해 특별히 설계되었습니다.

"마법 엔진" (TabPFN)

모든 가능한 팀 조합에 대해 이를 계산하는 것은 incredibly 느립니다. 변수가 20 개라면 백만 개 이상의 조합이 있습니다. 옛날 방식으로 하면 영원히 걸릴 것입니다.

저자들은 TabPFN이라는 "마법 엔진"을 사용했습니다.

옛날 방식: 새로운 팀을 테스트하려면 엔진 전체를 처음부터 다시 만들어야 합니다.
TabPFN 방식: 이미 수백만 개의 게임을 본 초지능 로봇을 상상해 보세요. 현재 팀의 규칙을 속삭이면, 아무것도 다시 배우지 않고도 즉시 결과를 예측합니다. 이로 인해 실제 컴퓨터에서 유용하게 사용할 수 있을 정도로 속도가 빨라졌습니다.

그들이 발견한 것 (결과)

저자들은 세 가지 시나리오에서 이 도구를 테스트했습니다:

가짜 데이터 (Synthetic): 그들은 정확히 누가 "나쁜 행위자" (교란변수) 인지 알고 있는 가상의 세계를 만들었습니다.
- 결과: ConfoundingSHAP 은 나쁜 행위자들을 향해 거대한 손가락을 가리키고, 악기나 노이즈 같은 무고한 방관자들을 무시했습니다.
무작위 대조 시험 (RCT): 약이 동전 던지기로 무작위 배정된 실제 의학 시험을 살펴봤습니다.
- 결과: 공정한 동전 던지기에는 "조작"이 없었기 때문에, ConfoundingSHAP 은 "여기에는 혼란이 전혀 없다!"라고 정확히 말했습니다. 편향 점수는 거의 0 으로 떨어졌습니다.
실제 의학 데이터 (SUPPORT 연구): 심장 카테터 삽입에 관한 실제 연구를 살펴봤습니다.
- 결과: 이 도구는 의사들이 실제로 중요하다고 아는 변수들 (도착 시 환자의 병세 등) 을 혼란의 주요 원인으로 식별했습니다. 또한 환자 ID 번호와 같은 무관한 것들은 정확히 무시했습니다.

결론

ConfoundingSHAP은 연구자들이 데이터의 어떤 변수가 비밀리에 인과적 결론을 망치고 있는지 파악하는 데 도움을 주는 새로운 도구입니다. 이는 편향에 대한 책임을 할당하기 위해 공정한 "팀 게임" 수학 시스템을 사용하고, 계산을 빠르게 수행하기 위해 스마트한 AI 엔진을 사용합니다.

이 도구는 약이 효과가 있는지를 알려주지는 않습니다 (그것은 연구자의 몫입니다). 대신 혼란을 멈추고 더 명확한 그림을 얻기 위해 어떤 변수에 주의를 기울여야 하는지를 알려줍니다.

기술 요약: ConfoundingSHAP

문제 정의

관측적 인과 추론에서 치료 배정은 종종 무작위가 아니어서, 치료군과 비치료군 사이에 체계적인 차이가 발생합니다. 치료 배정과 결과 모두에 영향을 미치는 변수를 **교란변수 (confounders)**라고 합니다. 무작위 임상 시험은 이러한 문제를 제거하지만, 관측 연구에서는 연구자가 인과 효과를 정확하게 추정하기 위해 (예: 조건부 평균 치료 효과, CATE) 교란변수를 식별하고 보정해야 합니다.

중요한 과제는 여전히 남아 있습니다: 어떤 관측된 공변량이 실제로 교란 강도를 주도하는가?
기존의 인과 머신러닝 설명 방법들은 일반적으로 서로 다른 대상을 목표로 합니다:

성향 점수 (Propensity scores): 치료 배정 메커니즘을 설명합니다.
결과 모델 (Outcome models): 예후적 위험을 설명합니다.
CATE 추정기: 치료 효과의 이질성 (효과 수정자) 을 설명합니다.

저자들은 표준 SHAP (Shapley Additive exPlanations) 을 CATE 추정기에 적용하는 것이 교란변수를 식별하는 데 적합하지 않다고 주장합니다. CATE 설명은 치료 효과의 변동에 초점을 맞추기 때문입니다. 만약 교란변수가 치료군과 대조군 모두의 잠재적 결과를 유사하게 변화시킨다면, 그 기여도는 CATE ( $\tau(x) = \mu_1(x) - \mu_0(x)$ ) 에서 상쇄되어 표준 특징 중요도 방법으로는 보이지 않게 됩니다. 결과적으로, 관측된 교란 강도를 개별 공변량에 대해 구체적으로 정량화하고 귀속시키는 방법의 부재가 존재합니다.

방법론: ConfoundingSHAP

이 논문은 개별 공변량에 교란 강도를 귀속시키기 위해 설계된 SHAP 기반 방법인 ConfoundingSHAP을 소개합니다. 이 방법은 예측 모델이 아닌 교란 편향 함수 (confounding bias functional) 위에서 직접 협력 게임을 정의하여 작동합니다.

1. 교란 편향 함수 정의

이 방법의 핵심은 공변량의 부분집합 $S$ 로 보정 집합을 제한할 때의 잔여 교란 편향 (residual confounding bias)( $b_S$ )을 정량화하는 것입니다.

관측 대비 (Observational Contrast, $\delta_S$ ): 부분집합 $X_S$ 를 조건으로 할 때, 치료군과 대조군 단위 간 관측 결과의 차이.
인과 대비 (Causal Contrast, $\tau_S$ ): 전체 보정 CATE 를 부분집합 $X_S$ 로 투영한 것 (즉, $E[\tau(X) | X_S]$ ).
잔여 편향: $b_S(x_S) = \delta_S(x_S) - \tau_S(x_S)$ .

만약 $S$ 에 모든 교란변수가 포함되어 있다면, $b_S = 0$ 입니다. $S$ 가 불충분하다면 편향이 완벽하게 상쇄되지 않는 한 $b_S \neq 0$ 입니다.

2. 협력 게임

저자들은 다음과 같은 협력 게임을 정의합니다:

플레이어: 개별 공변량.
동맹 (Coalitions): 보정 집합에 포함된 공변량의 부분집합.
가치 함수 ( $\nu$ ): 음의 잔여 편향 기대값으로 정의됨, $\nu(S) = -E[b_S(X_S)]$ $ν (S) = - E [b_{S} (X_{S})]$ .
- 음의 부호는 양의 SHAP 값이 편향을 감소시키는 공변량의 기여도 (즉, 교란변수로서의 중요성) 를 나타내도록 보장합니다.
SHAP 값: 공변량 $j$ 에 대한 SHAP 값 $\phi_j$ 는 (보정 없음에서 완전 보정까지의) 총 편향 감소를 개별 기여도로 분해합니다.

3. TabPFN 을 통한 확장 가능한 추정

모든 동맹에 대한 가치 함수를 평가하려면 각 부분집합 $S$ 에 대해 모델을 적합시켜야 하므로 계산적으로 불가능합니다 ( $O(2^p)$ ). 이를 해결하기 위해 저자들은 TabPFN(표형 기반 파운데이션 모델)을 사용한 확장 가능한 추정 전략을 제안합니다:

사전 계산: 모든 공변량에 대한 전체 결과 모델을 적합하여 의사 결과 (전체 보정 CATE 추정치) 를 생성합니다.
맥락 내 학습 (In-Context Learning): 각 쿼리된 동맹 $S$ 에 대해, 모델 매개변수를 재학습하지 않고 TabPFN 을 사용하여 관측 대비와 투영된 인과 대비를 추정합니다. TabPFN 은 맥락에 제공된 훈련 데이터에 조건을 부여하고, 부분집합 $S$ 를 입력 특징으로 취급합니다.
SHAP 근사: 동맹 평가 예산을 기반으로 효율적인 SHAP 추정기 (예: RegressionMSR) 를 사용하여 값을 근사화하여 포괄적인 열거를 피합니다.

주요 기여

새로운 방법: 공변량 수준에서 관측된 교란 강도를 측정하고 귀속하도록 특별히 설계된 첫 번째 SHAP 기반 방법인 ConfoundingSHAP 의 도입.
이론적 구분: 교란 강도가 치료 효과 이질성과 구별된다는 것을 공식적으로 증명. 이 논문은 교란변수가 치료군 간 결과에 대칭적인 영향을 미치는 경우 표준 CATE 설명이 교란변수를 완전히 놓칠 수 있음을 입증합니다.
확장 가능한 알고리즘: 정확한 편향 함수 평가를 위해 필요한 포괄적인 재적합을 피하는 TabPFN 을 활용한 실용적 구현으로, 중규모 및 고차원 데이터셋에 적용 가능.
실증적 검증: 합성 데이터에서 실제 교란변수를 복원하는 능력, 무작위 시험 (RCT) 에서 교란의 소멸을 감지하는 능력, 그리고 실제 관측 연구에서 임상적으로 타당한 교란변수를 식별하는 능력을 보여주는 포괄적인 실험.

실험 결과

저자들은 세 가지 주요 설정에서 ConfoundingSHAP 을 평가합니다:

알려진 실제값을 가진 합성 데이터:
- 저차원 (4 개 공변량) 및 중차원 (17 개 공변량) 설정에서 ConfoundingSHAP 은 실제 교란변수에 높은 SHAP 값을 올바르게 할당하고, 도구변수, 효과 수정자, 결과 전용 예측 변수에는 거의 0 에 가까운 값을 할당합니다.
- 반면, CATE 추정기에 적용된 표준 SHAP 은 특정 시나리오에서 교란변수의 효과가 치료 효과 계산에서 상쇄될 때 교란변수를 식별하지 못했습니다.
- 이 방법은 여러 무작위 시드에서 높은 순위 안정성을 보였습니다.
무작위 대조 시험 (ACTG 데이터셋):
- 치료 배정이 무작위로 이루어진 실제 RCT 데이터셋 (ACTG 175) 에 적용했을 때, ConfoundingSHAP 은 교란 강도가 사라졌음을 (값이 0 에 가까움) 올바르게 식별했습니다. 치료 배정을 인위적으로 수정하여 반합성 변형에서 교란을 도입했음에도 불구하고, 이 방법은 도입된 교란변수를 성공적으로 복원했습니다.
실제 관측 연구 (SUPPORT/RHC):
- SUPPORT 우심실 카테터 삽입 연구에 적용한 결과, 급성 생리 점수 (APS1) 와 같은 변수가 높은 교란 강도를 가짐을 식별했습니다. 이는 질병의 중증도가 치료 결정과 사망률 모두를 주도한다는 임상적 지식과 일치합니다.
- 관련 없는 변수 (예: 환자 ID) 는 올바르게 0 에 가까운 교란 강도로 귀속되었습니다.

중요성과 주장

이 논문은 ConfoundingSHAP 이 인과 머신러닝 설명 가능성의 중요한 공백을 메운다고 주장합니다. "무엇이 치료 효과 이질성을 주도하는가"에서 "무엇이 교란 편향을 주도하는가"로 초점을 전환함으로써, 이 방법은 다음과 같은 실행 가능한 통찰력을 제공합니다:

변수 선택: 관측 연구에서 최소 충분 보정 집합을 선택하는 데 연구자를 지원.
연구 설계: 어떤 공변량이 비교 가능성에 중요한지 강조함으로써 전향적 관측 연구 (예: 모방된 목표 시험) 의 설계에 정보 제공.
투명성: 어떤 측정된 공변량이 치료군 간 비교 불가능성을 생성하는지 이해하기 위한 진단 도구 제공.

저자들은 ConfoundingSHAP 이 측정되지 않은 교란에 의존하는 인과적 편향 무결성을 인증하는 것이 아니라, 관측된 공변량의 제한된 보정에서 발생하는 편향을 정량화한다고 강조합니다. 이는 도메인 지식, 인과 다이어그램, 민감도 분석을 보완하는 도구로 기능합니다.