Causal Machine Learning Is Not a Panacea: A Roadmap for Observational Causal Inference in Health

한 명의 형사가 미스터리를 해결하려 한다고 상상해 보세요: 특정 약물이 실제로 환자를 완치시켰을까, 아니면 환자가 저절로 나았을까?

과학의 이상적인 세계에서는 "무작위 대조 시험 (RCT)"을 실시합니다. 이는 동전을 던져 누가 약을 받고 누가 가짜 약 (설탕 알약) 을 받을지 결정하는 통제된 실험과 같습니다. 동전 던지기는 무작위이므로, 건강 상태의 차이는 반드시 약물 때문에 발생한 것입니다.

하지만 현실 세계에서는 항상 동전을 던질 수 없습니다. 때로는 윤리적으로 문제가 있거나 비용이 너무 많이 듭니다. 따라서 의사들과 연구자들은 관측 데이터—이미 병원에서 치료를 받은 환자들 뒤에 남겨진 방대한 디지털 발자국—를 활용합니다.

이 논문은 **인과적 머신러닝 (ML)**이 이러한 현실 세계 데이터를 분석하는 강력한 새로운 도구이지만, 마법의 지팡이는 아니다라고 주장합니다. 이를 부주의하게 사용하면 잘못된 미스터리를 해결하거나 잘못된 용의자를 고발할 수 있습니다.

저자들이 제시한 로드맵을 간단한 비유로 설명하면 다음과 같습니다:

1. 지도 (인과적 방향 비순환 그래프, DAG)

운전을 시작하기 전에 지도가 필요합니다. 이 논문에서 그 지도는 **인과적 방향 비순환 그래프 (Causal Directed Acyclic Graph, DAG)**라고 불립니다.

• 비유: 비가 잔디를 젖게 하는지 파악하려 한다고 상상해 보세요. 스프링클러가 실제 범인이 아님을 알아야 합니다. DAG 는 비, 스프링클러, 젖은 잔디와 같은 변수들이 어떻게 연결되어 있는지를 보여주는 그림입니다.
• 경고: 의료 전문가의 도움을 받아 지도를 올바르게 그리지 않으면, 컴퓨터가 비가 왔음에도 불구하고 스프링클러가 잔디를 젖게 했다고 생각할 수 있습니다. 논문은 말합니다: 지도를 건너뛰지 마십시오. AI 에게 추측을 맡기기 전에 변수 간의 관계를 반드시 정의해야 합니다.

2. 세 가지 함정 (가정)

이 논문은 형사 수사가 성립하려면 세 가지 특정 "규칙"이 참이어야 한다고 경고합니다. 이러한 규칙이 깨지면 AI 의 결론은 무용지물이 됩니다.

• 함정 1: "중첩 (Overlap)" 문제.
  • 규칙: 모든 유형의 환자는 치료를 받을 기회가 있어야 합니다.
  • 비유: 의사가 오직 젊고 건강한 사람들에게만 새로운 약을 준다고 상상해 보세요. 만약 그 약이 노인들에게 효과가 있는지 데이터를 통해 확인하려 한다면, 비교할 데이터가 없습니다. 마치 햇살이 비치는 고속도로에서만 테스트해 본 스포츠카가 눈길에서 얼마나 잘 달리는지 판단하려 하는 것과 같습니다. AI 는 눈길에서 무슨 일이 일어나는지 추측할 수 없습니다.
• 함정 2: "숨겨진 도둑" (관측되지 않은 교란).
  • 규칙: 치료와 결과 양쪽에 모두 영향을 미치는 모든 요인을 고려해야 합니다.
  • 비유: 약이 효과가 있는 것처럼 보이지만, 환자들이 나아진 진짜 이유가 특별한 식단을 함께 섭취했기 때문이라고 가정해 보세요. 만약 데이터가 식단을 추적하지 않는다면, AI 는 약을 잘못 평가하여 약의 공로로 돌릴 것입니다. 논문은 AI 는 데이터에 없는 것은 볼 수 없다고 경고합니다. 만약 "도둑"(숨겨진 요인) 이 공로를 훔쳐간다면, AI 는 이를 알지 못합니다.
• 함정 3: "모방자" 효과 (SUTVA).
  • 규칙: 한 환자의 치료가 다른 환자의 결과에 영향을 주어서는 안 되며, 치료는 모든 사람에게 정확히 동일해야 합니다.
  • 비유: 한 환자가 새로운 항생제를 받아 병실의 바이러스 전파를 막는다고 상상해 보세요. 그러면 같은 병실의 다음 환자도 나아집니다. 만약 AI 가 두 번째 환자가 나아진 것을 보면, 약이 그 환자에게 효과가 있다고 생각할 수 있지만, 실제로는 첫 번째 환자의 치료가 두 번째 환자를 도운 것입니다. AI 는 이러한 "전염성" 효과에 혼란을 겪을 수 있습니다.

3. 올바른 도구 선택 (모델링)

지도를 가지고 함정을 확인한 후에는 답을 계산하는 방법을 선택해야 합니다. 논문은 AI 의 예측을 결합하는 두 가지 주요 방식을 논의합니다:

• "간접적" 방법 (S-Learner / T-Learner):
  • 비유: 이는 두 명의 별개 전문가에게 묻는 것과 같습니다: "이 사람이 약을 먹었다면 얼마나 아플까?"와 "약 먹지 않았다면 얼마나 아플까?" 그런 다음 두 답변을 뺍니다.
  • 위험: 어느 한쪽 전문가가 작은 실수를 하면, 최종 뺄셈이 거대한 오차를 만들어냅니다. 이는 두 개의 매우 큰 숫자 사이의 아주 작은 차이를 측정하려는 것과 같습니다. 잡음이 신호를 압도합니다.
• "직접적" 방법 (X-Learner / R-Learner):
  • 비유: 두 개의 별개 질문을 묻는 대신, 이 방법은 전문가들에게 두 시나리오 사이의 차이에 직접 초점을 맞추도록 요청합니다.
  • 이익: 이는 일반적으로 더 견고합니다. 예측의 작은 오류에 혼란을 겪을 가능성이 적습니다.

4. 판결: 가설, 진실이 아님

이것이 가장 중요한 교훈입니다. 표준 AI 에서는 모델이 올바른지 확인하기 위해 "테스트 세트"로 테스트할 수 있습니다. 하지만 인과 추론에서는 그렇게 할 수 없습니다. 같은 환자가 다른 경로를 택했다면 어떻게 되었을지 볼 수 없기 때문에 "진짜" 답을 결코 알 수 없습니다.

• 비유: 인과적 머신러닝을 최종 판결을 내리는 판사가 아니라, 이론을 제시하는 형사로 생각하십시오.
• 결론: 이 방법의 결과는 나중에 실제 실험 (RCT) 등으로 테스트해야 할 **강력한 가설 (좋은 추측)**로 취급되어야 합니다. 이는 최종 진리가 아닙니다.

요약

이 논문은 우리에게 말합니다: 인과적 머신러닝은 강력한 손전등이지만, 벽을 뚫고 볼 수는 없습니다.

1. 어디를 봐야 할지 알기 위해 좋은 지도 (전문 지식) 가 필요합니다.
2. 수사를 망칠 수 있는 숨겨진 함정 (가정) 을 확인해야 합니다.
3. 계산 오류를 피하기 위해 올바른 도구 (모델링) 를 선택해야 합니다.
4. 가장 중요한 것은, 결과를 최종 답변이 아닌 향후 수사를 위한 단서로 취급하는 것입니다.

이러한 단계를 무시하면 현실이 아닌 환상에 기반한 의료 결정을 내릴 위험이 있습니다.