📊 statistics

Causal Inference with Unstructured Outcomes

이 논문은 텍스트나 이미지와 같은 비정형 결과물에 대해, 전통적인 스칼라 기반의 평균 처치 효과가 가진 한계를 극복하기 위해 처리에 의해 가장 유의미하게 변화하는 복잡한 데이터의 특정 측면을 식별하고 추정하는 '최대 대비 특징(maximally contrasting feature, MCF)'을 도입함으로써 새로운 인과 추론 프레임워크를 제안한다.

원저자: Kevin Christian Wibisono, Yixin Wang

게시일 2026-08-05

📖 6 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Kevin Christian Wibisono, Yixin Wang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 왜 범죄가 일어났는지 알아내려는 탐정이라고 상상해 보십시오. 보통 단서들은 단순한 숫자들입니다. 얼마나 많은 돈이 도난당했는지, 얼마나 많은 사람이 다쳤는지, 혹은 용의자가 자백하기 전까지 얼마나 오래 기다렸는지 같은 것들 말이죠. 당신은 이 숫자들을 쉽게 비교하여 새로운 경찰 전술이 효과가 있었는지 확인할 수 있습니다. 하지만 만약 그 "단서"가 숫자가 아니라면 어떨까요? 만약 증거가 엉성하게 손으로 쓴 메모, 흐릿한 사진, 혹은 길고 두서없는 이야기라면 어떨까요? 당신은 한 이야기를 다른 이야기에서 뺄 수 없습니다. 마치 예술가의 화풍이 어떻게 변했는지 보기 위해 그림 한 점을 다른 그림에서 뺄 수 없는 것과 같습니다. 이것이 바로 과학자들이 텍스트, 이미지, 또는 의료 기록과 같이 복잡하고 구조화되지 않은 것들에 대한 새로운 도구의 효과를 연구할 때 직면하는 퍼즐입니다. 그들은 단순히 변화의 '크기'가 아니라, 변화의 '모양'을 측정할 방법이 필요합니다.

이 지점에서 케빈 크리스티안 위보소노(Kevin Christian Wibisono)와 이신 왕(Yixin Wang)의 논문이 등장합니다. 통계학자인 그들은 이러한 무질서한 결과물에 대해 질문을 던지는 새로운 방법을 발명했습니다. 텍스트나 이미지의 어느 부분이 변했는지 추측하는 대신, 그들은 '최대 대비 특징(Maximally Contrasting Feature, MCF)'을 자동으로 찾아내는 방법을 만들어냈습니다. 이것을 마치 수천 개의 문서나 이미지를 스캔하여, 특정 어조, 특정한 종류의 흐릿함, 혹은 특정한 사고방식처럼 처치(treatment)로 인해 가장 많이 변한 구체적인 세부 사항을 즉각적으로 학습하는 '마법의 형광펜'이라고 생각하십시오. 그들은 텍스트와 이미지를 이용한 컴퓨터 시뮬레이션으로 이 아이디어를 테스트했으며, 그 결과는 그들의 방법이 연구자가 사전에 무엇을 찾아야 할지 알지 못하더라도 새로운 도구나 개입이 변화시키는 정확한 특징을 성공적으로 포착할 수 있음을 시사합니다.

문제점: 답이 숫자가 아닐 때

오랫동안 과학은 단순한 것들을 측정하는 데 탁월해 왔습니다. 의사가 새로운 약이 효과가 있는지 알고 싶다면, 환자의 체온이 2도 내려갔는지 확인합니다. 기업이 새로운 웹사이트 디자인이 효과적인지 알고 싶다면, 매출이 10% 증가했는지 셉니다. 이것들은 비교하기 쉬운 단일 숫자인 "스칼라 결과값(scalar outcomes)"입니다.

하지만 세상에는 단일 숫자가 아닌 것들로 가득 차 있습니다. 예를 들어, 한 병원이 새로운 AI 도구가 의사들이 노트를 작성하는 데 도움이 되는지 알고 싶다고 가정해 봅시다. 이때 "결과"는 숫자가 아니라 텍스트 한 단락 전체입니다. 혹은 연구자가 새로운 카메라 알고리즘이 사진을 더 선명하게 만드는지 알고 싶다고 해봅시다. 결과는 이미지입니다. 고양이 사진에서 강아지 사진을 뺀다고 해서 "차이 숫자"를 얻을 수는 없습니다. 심지어 평균적인 노트가 어떤 모습인지조차 제대로 말하기 어렵습니다.

전통적으로 과학자들은 이 무질서한 데이터를 상자 안에 억지로 밀어 넣음으로써 이 문제를 해결하려 했습니다. 그들은 텍스트를 점수화하기 위한 규칙 목록(즉, "코드북")을 만들었습니다. 예를 들어 의사가 "긴급"이라는 단어를 몇 번 사용했는지, 혹은 문장이 몇 개인지를 세기로 결정할 수 있습니다. 하지만 이것은 교향곡을 오직 바이올린의 개수만으로 설명하려는 것과 같습니다. 당신은 가장 중요한 부분, 즉 멜로디, 감정, 혹은 갑작스러운 템포의 변화를 놓칠 수 있습니다. 만약 AI 도구가 단어 수가 아니라 '어조'를 변화시켰다면, 기존의 방식은 이를 완전히 놓치게 될 것입니다.

해결책: 마법의 형광펜 (MCF)

저자들은 새로운 접근 방식을 제안합니다. 무엇을 측정할지 추측하는 대신, 데이터가 무엇이 중요한지 스스로 가르치도록 하는 것입니다. 그들은 이를 **최대 대비 특징(Maximally Contrasting Feature, MCF)**이라고 부릅니다.

당신에게 두 더미의 노트가 있다고 상상해 보십시오. 하나는 새로운 AI 도구를 사용하는 의사들이 쓴 노트 더mi이고, 다른 하나는 AI 없이 글을 쓰는 의사들이 쓴 노트 더미입니다. 당신은 노트를 훑으며 AI 더미를 비-AI 더미와 최대한 다르게 보이게 만드는 "마법의 형광펜"을 찾고자 합니다.

MCF가 바로 그 형광펜입니다. MCF는 모든 노트에 0에서 1 사이의 점수를 부여하는 법을 배우는 컴퓨터 프로그램입니다.

만약 어떤 노트가 "AI 스타일"과 매우 흡사하다면, 그 노트는 1에 가까운 점수를 받습니다.
만약 그 노트가 "인간 스타일"과 흡사하다면, 0에 가까운 점수를 받습니다.

컴퓨터는 단순히 "AI 스타일"이 무엇인지 추측하지 않습니다. 컴퓨터는 두 더미 사이에 가장 큰 격차를 만들어내는 점수 체계를 찾기 위해 수백만 가지의 서로 다른 점수 부여 방식을 시도합니다. 일단 최적의 점수 체계를 찾으면, 높은 점수를 받은 노트와 낮은 점수를 받은 노트를 살펴봄으로써 실제로 무엇이 다른지 확인합니다. 아마도 AI가 작성한 노트는 항상 더 격식 있거나, 혹은 항상 특정한 템플릿을 사용하거나, 아니면 단순히 더 짧다는 것을 발견할 수도 있습니다. 이 방법은 연구자가 사전에 정답을 알 필요 없이 답을 찾아냅니다.

작동 원리: 탐정의 도구 상자

이 논문은 이것이 단순한 추측 게임이 아니라, "교란 요인(confounders)"을 고려하는 엄격한 수학적 과정임을 설명합니다. 현실 세계는 무질서합니다. 예를 들어, AI 도구를 사용하는 의사들이 더 복잡한 환자들을 더 많이 보는 의사들일 수도 있습니다. 만약 단순히 노트만 비교한다면, 당신은 AI 때문에 노트가 짧아졌다고 생각할 수도 있지만, 실제로는 환자들이 할 말이 적었기 때문일 수도 있습니다.

MCF 방법은 "성향 점수(propensity score)"를 사용하여 이 문제를 해결합니다. 이것은 일종의 매칭 게임과 같습니다. 컴퓨터는 배경 정보(환자의 연령, 방문 유형, 의사의 경력 등)를 살펴보고, AI 사용 여부를 제외하고는 거의 모든 면에서 동일한 노트 쌍을 찾아냅니다. 이러한 매칭된 쌍을 비교함으로써, 이 방법은 AI 도구의 진정한 효과를 분리해 냅니다.

저자들은 또한 "예산이 책정된(budgeted)" 버전도 개발했습니다. 때때로 AI는 모든 것을 조금씩 변화시키기도 하고, 몇 가지를 크게 변화시키기도 합니다. 예산이 책정된 MCF를 통해 연구자들은 "가장 많이 변한 상위 10%의 노트만 보여달라"고 요청할 수 있습니다. 이는 사소하고 무의미한 변화에 매몰되지 않고, 가장 명확하고 극적인 변화에 집중할 수 있게 해줍니다.

발견한 것: 텍나, 이미지, 그리고 놀라운 사실들

연구진은 자신들의 아이디어가 실제로 작동하는지 확인하기 위해 세 가지 다른 실험으로 테스트를 진행했습니다.

1. 텍스트 실험:
그들은 글쓰기 도구가 텍스트를 더 "격식 있게" 만들기로 되어 있는 시나리오를 시뮬레이션했습니다.

결과: MCF는 격식 있는 언어를 포착하는 데 성공했습니다. 격식 있게 들리는 문장에는 높은 점수를 주고, 격식 없는 문장에는 낮은 점수를 주었습니다.
반전: 그들은 또한 도구가 어떤 상황(예: 엔터테인먼트)에서는 텍스트를 덜 격식 있게 만들고, 다른 상황(예: 가족 조언)에서는 더 격식 있게 만드는 더 까다로운 시나리오를 테스트했습니다. MCF는 혼란을 겪지 않았습니다. 그것은 "맥락 인식" 규칙을 학습했습니다: "음악에 관한 것이라면 격식 없이, 가족에 관한 것이라면 진지하게." 즉, "정답"은 상황에 따라 달라진다는 것을 알아낸 것입니다.
안전성 테스트: 그들은 또한 도구가 "독성(toxic)" 언어를 감지할 수 있는지도 테스트했습니다. 한 사례에서 도구는 지원 그룹에서는 언어를 더 안전하게 만들었지만, 격렬한 논쟁 중에는 더 공격적으로 만들었습니다. MCF는 맥락에 따라 '안전성' 특징이 뒤바뀐다는 것을 정확히 식별해 냈으며, 이는 복잡한 현실 세계의 규칙을 처리할 수 있음을 입증했습니다.

2. 이미지 실험:
그들은 세포의 사진(현미경으로 보는 것과 같은)을 사용했습니다.

결과: 그들은 이미지를 더 흐릿하게 만드는 처치를 시뮬레이션했습니다. MCF는 이미지의 흐릿한 정도에 따라 점수를 매치는 법을 배웠습니다. 사진 속의 세포 수는 동일함에도 불구하고, MCF는 선명한 이미지와 흐릿한 이미지를 성공적으로 구분해 냈습니다. 이는 이 방법이 텍스트뿐만 아니라 시각적 데이터에 대해서도 작동함을 증명했습니다.

3. 이중 미스터리:
마지막으로, 입력과 출력 모두가 무질서한 경우를 살펴보았습니다. AI가 초안을 제안하고 인간이 최종 노트를 작성하는 상황을 상상해 보십시오. 제안도 텍ek이고 최종 노트도 텍스트입니다.

결과: 그들은 두 개의 형광펜 쌍을 만들었습니다: 하나는 AI 제안을 위한 것이고, 다른 하나는 최종 노트를 위한 것입니다. 시스템은 AI 제안이 "구체적이고 명확할" 때, 최종 노트가 "완전하고 상세해지는" 경-향이 있다는 것을 학습했습니다. 그들은 누구도 무엇을 찾아야 할지 알려주지 않았음에도 두 무질서한 텍스트 사이의 연결 고리를 찾아냈습니다.

왜 중요한가

이 논문은 세상을 연구하는 새로운 방법을 제시합니다. 우리는 이메일, 비디오, 의료 스캔, 소셜 미디어 게시물과 같은 구조화되지 않은 데이터에 둘러싸여 있습니다. 우리는 새로운 기술이 이러한 것들을 어떻게 변화시키는지 알고 싶지만, 종종 그 변화를 '어떻게' 측정해야 할지 모릅니다.

MCF 방법은 데이터가 스스로 말하게 하는 방법을 제공합니다. 단어 수를 세거나 픽셀을 계산하여 정사각형 구멍에 둥근 못을 억지로 끼워 맞추는 대신, 이 방법은 실제로 중요한 숨겨진 차원을 찾아냅니다. 이는 AI가 의사의 글쓰기를 어떻게 바꾸는지, 혹은 새로운 필터가 사진을 어떻게 바꾸는지와 같이, 우리가 사전에 구체적인 세부 사항에 대한 전문가가 아니더라도 복잡한 세상에서 가장 중요한 변화를 발견할 수 있음을 시사합니다.

저자들은 이 결과가 시뮬레이션과 반합성 실험에서 나온 것임을 주의 깊게 언급했습니다. 아직 실제 병원이나 라이브 뉴스 사이트에 적용되지는 않았지만, 시뮬레이션은 수학적 타당성을 입증했습니다. 만약 이 방법이 무질서한 현실 세계에서도 작동한다면, 이는 우리가 살아가는 방식, 일하는 방식, 그리고 소통하는 방식을 빠르게 변화시키고 있는 AI 도구들의 진정한 영향력을 이해하는 데 큰 도움이 될 것입니다.

기술 요약: 비정형 결과값에 대한 인과 추론

1. 문제 정의

전통적인 인과 추론은 스칼라 결과값(예: 이진 회복 여부, 소득, 방문 횟수)에 초점을 맞추며, 여기서 평균 처치 효과(ATE)는 잠재적 결과의 평균 차이인 $\mathbb{E}[Y(1) - Y(0)]$ 로 정의됩니다. 그러나 현대의 연구들은 임상 노트, 개방형 설문 응답, 이미지, 비디오와 같은 비정형 결과값을 포함하는 경우가 점점 늘어나고 있습니다. 이러한 환경에서 표준 ATE는 하나의 텍스트 문서나 이미지를 다른 것과 의미 있게 뺄 수 없기 때문에 정의하기가 어렵습니다.

일반적인 접근 방식은 결과물을 스칼라로 변환하기 위해 사전에 특징 점수 함수 $g$ (예: 코드북 또는 토픽 모델)를 지정하는 것이지만, 이는 분석가가 결과의 어떤 측면이 인과적으로 영향을 받는지 미리 알고 있어야 함을 전제로 합니다. 만약 관련 변화가 사전에 지정된 특징(예: 고정된 코드북이 포착하지 못하는 미묘한 어조나 질감의 변화) 밖에 있다면, 분석은 인과적 신호를 놓칠 수 있습니다. 본 논문은 사전 지정 없이 비정형 결과의 어떤 특징이 처치에 의해 가장 크게 영향을 받는지 학습하는 것에 대한 과제를 다룹니다.

2. 방법론

최대 대비 특징 (Maximally Contrasting Feature, MCF)
핵심 제안 사항은 **최대 대비 특징(MCF)**으로, 이는 처치된 잠재 결과와 대조군 잠재 결과 사이의 인과적 대비를 극대화하는 특징 점수 함수 $g: \mathcal{Y} \to [0, 1]$ 를 학습하는 인과적 쿼리입니다.

목적: 다음과 같이 $\theta(g) = \mathbb{E}[g\{Y(1)\} - g\{Y(0)\}]$ 를 극대화하는 $g^* \in \mathcal{G}$ 를 찾습니다.
$g^* \in \arg\max_{g \in \mathcal{G}}, \quad \text{여기서 } \theta(g) = \mathbb{E}[g\{Y(1)\} - g\{Y(0)\}]$
여기서 $\mathcal{G}$ 는 사전 지정된 유계 함수 클래스(예: 시그모이드 출력을 가진 신경망)입니다. 함수 $g$ 는 비정형 결과값을 처치군과 대조군의 분포 사이의 가장 뚜렷한 대비를 드러내는 스칼라 값으로 매핑합니다.
식별 및 추정
- 가정: 이 방법은 표준적인 인과 가정인 SUTVA, 중첩성(positivity), 그리고 비혼란성(공변량 $X$ 가 주어졌을 때 잠재적 결과와 처치의 조건부 독립성)에 의존합니다.
- 식별: 이러한 가정 하에서, 고정된 $g$ 에 대해 대비 $\theta(g)$ 는 역 성향 점수 가중치(IPW) 또는 결과 회귀를 통해 식별됩니다. 논문은 모집단 기준이 유일한 극대값을 가지면 선택된 특징이 식별됨을 증명합니다.
- 오라클 해석: 오라클(population) 설정에서 최적의 $g^*$ 는 처치된 결과의 밀도가 대조군의 밀도를 초과하는 영역에 대한 지시 함수 역할을 합니다: $g^*(y) = \mathbb{1}\{p_1(y) - p_0(y) > 0\}$ .
- 추정 알고리즘:
  1. 성향 점수: 훈련 분할을 사용하여 성향 점수 $\hat{e}(X) = P(A=1|X)$ 를 추정합니다.
  2. 최적화: 홀드아웃(held-out) 분할에서, IPW 목적 함수를 극대화함으로써 점수 함수 $g(Y; \beta)$ 의 파라미터 $\beta$ 를 학습합니다:
    $\hat{\theta}_N(\beta) = \frac{1}{N} \sum_{i=1}^N \left( \frac{A_i g(Y_i; \beta)}{\hat{e}(X_i)} - \frac{(1-A_i) g(Y_i; \beta)}{1-\hat{e}(X_i)} \right)$
  3. 해석: 학습된 함수는 높은 점수와 낮은 점수를 가진 결과들을 검사함으로써(예: 근접 이웃 또는 최소 쌍 검색) 해석됩니다.
확장
- 이질적 효과: 이 프레임워크는 공변량 적응형 MCF인 $g(Y, X)$ 로 확장되어, $X$ 에 의해 정의된 특정 하위 집단 내에서 처치에 의해 가장 많이 영향을 받는 특징을 식별합니다.
- 예산 제한형(Budgeted) MCF: 해석을 돕기 위해, "예산 제한형" 버전은 함수가 인구의 일부 $\tau$ 에 대해서만 높은 점수를 부여하도록 제한합니다. 이는 가장 처치 풍부한 결과(즉, $\Delta(y)/p_{ref}(y)$ 가 가장 높은 결과)에 우선순위를 둡니다.
- 비정형 처치: 처치( $A$ )와 결과( $Y$ )가 모두 비정형인 경우, 이 방법은 영향력 있는 처치 특징 $f(A)$ 와 대비되는 결과 특징 $g(Y)$ 의 쌍을 학습합니다. 이는 중첩 최적화 없이 **매칭된 부정적 통제 결과(matched negative-control outcomes)**를 사용하여 공변량 베이스라인을 추정함으로써 $f(A)$ 와 잔차화된 $g(Y)$ 사이의 조건부 공분산을 극대화하여 추정됩니다.

3. 주요 기여

본 논문은 다섯 가지 주요 기여를 합니다:

MCF 제안: 비정형 결과의 측면 중 처치로 인해 발생하는 가장 큰 대비를 포착하는 유계 특징 점수 함수를 학습하는 새로운 인과 쿼리를 제안합니다.
식별 및 추정: 식별 조건을 확립하고, 일관성(consistency)과 점근적 정규성(asymptotic normality)의 증명을 포함한 역 성향 점수 가중(IPW) 추정 알고리즘을 개발했습니다.
특성 규명: 더 나은 해석 가능성을 위한 예산 제한형 및 공변량 적응형 버전을 포함하여, MCF의 모집단 행동에 대한 이론적 특성을 규명했습니다.
비정형 처치: 매칭된 부정적 통제 결과를 사용하여 쌍을 이루는 특징 점수 함수를 학습함으로써, 비정형 처치와 결과가 있는 설정으로 알고리즘을 확장했습니다.
실증적 검증: 텍스트 기반 결과, 이미지 기반 결과, 그리고 비정형 처치와 결과가 모두 존재하는 시나리오를 통해 알고리즘을 입증했습니다.

4. 실증 결과

저자들은 합성 및 준합성 데이터셋을 통해 MCF 알고리즘을 평가했습니다:

텍스트 결과 (격식도 및 독성):
- 격식도 연구(GYAFC 데이터셋)에서, MCF는 동질적 환경에서는 전역적인 격식도 점수를 성공적으로 회복하였고, 이질적 환경에서는 맥락 의존적 방향(예: 가족 맥락에서는 격식을 높이지만 엔터테인먼트 맥락에서는 격식을 낮춤)에 적응했습니다.
- 독성 연구(ParaDetox 데이터셋)에서, 알고리즘은 전역적인 비독성을 회복하였으며, 갈등이 높은 환경에서는 처치가 독성을 높이고 지원적인 환경에서는 독성을 낮추는 맥락 의존적 변화를 정확히 식별했습니다.
- 이 방법은 대비가 여러 토픽에 분산되어 있을 때 특정 토픽(격식도)을 고립시키는 데 실패한 사전 지정된 토픽 모델(LDA)보다 우수한 성능을 보였습니다.
- 또한, 처치가 여러 속성을 동시에 변화시킬 때(예: 격식도 + 문장 부호) 특정 속성의 조합을 성공적으로 분리해 냈습니다.
이미지 결과:
- 합성 세포 이미지(BBBC005v1)를 사용하여, MCF는 세포 수(내용)를 일정하게 유지하면서 처치에 의해 유도된 "블러(blur)" 스타일 차원을 분리해 냈습니다. 학습된 점수는 저블러(low-blur) 이미지와 고블러(high-blur) 이미지를 효과적으로 구분했습니다.
비정형 처치 및 결과:
- 텍스트-투-텍스트 설정(AI 제안을 처치로, 최종 노트를 결과로 사용)에서, 쌍을 이루는 MIF-MCF 알고리즘은 공변량을 조정한 후 연결된 방향(예: 구체적인 제안이 완전한 계획으로 이어짐)을 성공적으로 식별했습니다.

5. 의의 및 주장

본 논문은 MCF가 비정형 결과에 대한 데이터 기반의 탐색적 도구를 제공한다고 주장합니다. 그 의의는 다음과 같습니다:

사전 지정 편향 방지: 분석가가 분석 전에 코드북이나 특징을 수동으로 정의할 필요를 제거하여, 데이터가 결과의 어떤 측면이 인과적으로 변화하는지를 스스로 드러내게 합니다.
해석 가능성: 점수 함수를 학습한 후 높은/낮은 점수를 가진 사례들을 검사함으로써, 고차원 임베딩과 인간이 해석 가능한 인과 기제 사이의 간극을 메웁니다.
복잡성 처리: 직접적인 객체 간의 뺄셈 대신 학습된 특징 공간에서의 대비를 중심으로 인과적 질문을 재구성함으로써, 비정형 객체에 대한 ATE가 갖는 "정의하기 어려운" 문제를 해결합니다.
유연성: 이 프레임워크는 이질적 효과와 양방향 비정형 데이터(처치 및 결과)를 수용하여, 의료, 공공 정책, 사회 과학 분야에서 던질 수 있는 인과적 질문의 범위를 확장합니다.

저자들은 MCF를 명명된 속성에 대한 확증적 테스트라기보다는, 처치로 유도된 대비가 어디에 집중되어 있는지를 식별하는 탐색적 지도로 위치시키며 겸손한 어조를 유지합니다. 레이블(예: "격식도", "블러")은 알고리즘 자체의 고유한 속성이 아니라, 학습된 점수와 그에 따른 도메인 전문가의 검토를 통해 도출된 해석입니다.