Do-Calculus Interventions in Predictive Coding Networks: Formal Correspondence, Empirical Validation, and Architectural Prescriptions for Clinical Causal AI

기술 요약: 예측 코딩 네트워크에서의 do-calculus 개입

문제 정의
임상 의사 결정 지원 시스템은 단순히 과거의 관찰된 패턴으로부터 결과를 예측하는 것을 넘어, 행동(개입)의 결과를 추론할 수 있는 능력을 점점 더 필요로 하고 있다. 전자 건강 기록(EHR)으로 학습된 표준 예측 모델은 훈련 데이터와 치료 정책이 다를 경우, 관찰적 조건부 분포 $P(Y|X)$와 개입 분포 $P(Y|do(T=t))$ 사이의 분포 변화(distributional shift)로 인해 실제 배포 시 실패하는 경우가 많다. Pearl의 do-calculus는 이러한 추론을 위한 정교한 프레임워크를 제공하지만, 대부분의 인과 머신러닝 방법론은 개입을 내부 메커니즘 없이 레이어 형태로 얹어진 사후 추정 문제로 취급한다. 예측 코딩(Predictive Coding, PC) 네트워크와 같은 특정 신경망 구조가 그 내부 역학을 통해 개입 추론을 본질적으로 지원할 수 있는지 여부는 아직 검증되지 않았다.

방법론
본 논문은 예측 코딩 네트워크의 역학과 Pearl의 do-calculus 사이의 공식적인 대응 관계를 제안하고 검증한다.

1. 이론적 프레임워크: 저자들은 선형 가우시안 구조적 인과 모델(Linear-Gaussian SCM)에서, PC 노드를 "하드 클램핑(hard clamping)"(노드의 상태를 특정 값 $c$로 고정)하고 상류(upstream)의 하향식(bottom-up) 예측 오차를 억제하는 것이 정보적으로 $do(T=c)$ 연산자와 동일하다는 **명제 1(Proposition 1)**을 도출한다. 이 억제 과정은 클램핑된 노드로부터 그 조상(ancestors)들로 이어지는 정보 경로를 차단하여, do-연산자의 그래프 절단(graph surgery) 효과를 모사한다.
2. 아키텍처:
   • PCNetworkV2: 공유된 잠재 표현 $z$가 공변량과 결과를 디코딩하도록 하여 명제 1을 구현한다. 개입적 예측은 치료 특성을 클램핑하고, 잠재 그래디언트를 계산하기 전에 해당 재구성 오차 열(reconstruction error column)을 0으로 만드는 과정을 통해 수행된다.
   • PCNetworkV3: 결과 디코더가 잠재 표현과 함께 치료 변수에 직접 접근할 수 있도록 수정한 모델로, 치료가 결과로 향하는 직접적인 에지를 가진 임상 그래프를 처리하기 위해 설계되었다.
   • Baseline: MSE 손실 함수로 학습된 표준 다층 퍼셉트론(MLP)을 결합적(associational) 베이스라인으로 사용한다.
3. 벤치마크:
   • Toy SCM: 수학적 대응 관계를 검증하기 위한 3노드 선형 가우시안 SCM (진단 $\to$ 증상 $\to$ 치료).
   • IHDP (Infant Health and Development Program): 실제 공변량 구조를 가진 준합성(semi-synthetic) 벤치마크($n=747$)로, 관찰적/개입적 MAE의 차이인 "개입 격차(interventional gap)"를 측정한다.
   • Synthetic SCMs: 다양한 토폴로지(Chain, Mediator, Collider) 및 혼란(confounding) 강도에 따른 제거 실험(ablation studies)을 위해 사용된다.
   • MIMIC-IV: 평균 치료 효과(ATE) 회복력을 테스트하기 위해 실제 ICU 공변량 구조를 사용하는 소규모 준합성 벤치마크($n=140$)이다.

주요 기여
본 논문은 세 가지 주요 기여를 한다:

1. 이론적 기여: PC 클램핑과 오차 억제가 선형 가우시안 SCM에서 do-연산자를 정확히 구현한다는 명제 1을 도출하고 검증하였다.
2. 경험적 기여: PCNetworkV2가 IHDP 데이터셋에서 MLP 베이스라인에 비해 통계적으로 유의미한 개입 성능 격차 감소를 달성함을 입증하였다 (격차 감소 = 0.237 MAE 단위, $p < 0.0001$). 이러한 이점은 Chain, Mediator, Collider 토폴로지 전반에 걸쳐 일반화된다.
3. 처방적 기여: **잠재 차원(latent dimension)**을 주요 아키텍처 결정 요인으로 식별하였다. 제거 실험 결과, 작은 잠재 차원이 모델이 거짓 상관관계를 암기하는 것을 방지함으로써 인과적 귀납 편향(causal inductive bias)을 보존한다는 것을 보여주었다. 또한, PCNetworkV3는 치료를 결과 디코더로 명시적으로 라우팅함으로써 MIMIC-IV 데이터에서 실제 ATE를 8.3% 오차 내로 회복함을 보여주었다.

결과

• 명제 1 검증: Toy SCM에서 $S=1$로 클램핑하고 오차를 억제했을 때, $P(D|do(S=1)) = N(0,1)$이라는 사전 분포를 정확히 재현한 반면, 표준 조건부 확률은 잘못된 사후 분포($E[D|S=1] \approx 0.640$)를 산출하였다.
• 개입 격차: MLP 베이스라인은 IHDP에서 큰 개입 격차(3.215 MAE 단위)를 보였다. PCNetworkV2는 이 격차를 0.237 단위 줄였다. PCNetworkV2는 MLP보다 높은 관찰적 MAE(0.461 vs. 0.106)를 기록했으나, 그 아키텍처적 인과 구조는 개입 환경에서 측정 가능한 이점을 제공했다.
• 제거 실험 결과:
  • 잠재 차원: 개입적 이점은 잠재 크기에 따라 비단조적(non-monotonic)으로 나타난다. 작은 차원($d_z=4$)이 큰 차원($d_z=32$)보다 우수한 성능을 보였는데, 이는 모델이 거짓 상관관계 대신 압축된 인과적 표현을 인코딩하도록 강제했기 때문이다.
  • 토폴로지: 인과적 클램핑 메커니즘이 혼란 경로의 간섭을 최소화하며 작동하는 Collider 구조에서 이점이 가장 두드러졌다.
  • 훈련 비율: 적은 양의 개입적 훈련 데이터(5-10%)는 성능을 향상시켰으나, 더 높은 비율(25%)은 잠재 최적화를 방해했다.
• 임상 적용 (MIMIC-IV): PCNetworkV3는 명시적인 치료-결과 경로 덕분에 실제 ATE(1.0)를 8.3% 오차 내로 회복한 반면, PCNetworkV2는 개입 퇴화(intervention degeneracy)로 인해 실패(100% 오차)하였다. MLP는 결합적 외삽(associational extrapolation)을 통해 거의 완벽한 ATE 추정(1.5% 오차)을 달성하였으며, 이는 ATE 추정과 개입적 MAE가 서로 다른 지표임을 강조한다.

의의 및 주장
본 논문은 예측 코딩의 생물학적 메커니즘—특히 하향식 예측과 상향식 오차 업데이트의 분리—이 인과적 추론을 위한 자연스러운 기질을 제공한다고 주장한다. 핵심 발견은 아키텍처적 인과 구조(클램핑 + 오차 억제)가 명시적인 개입 훈련 데이터 없이도 표준 결합 모델에 비해 진정한, 측정 가능한 개입적 이점을 부여한다는 것이다.

저자들은 예측 코딩 네트워크가 임상적 인과 AI를 위한 유일하거나 최선의 아키텍처라고 확정적으로 말할 수는 없지만, 이를 구축하는 생물학적 메커니즘이 인과 추론 엔진으로서의 "의도하지 않은 용도(unplanned use)"를 가지고 있다고 겸허히 결론짓는다. 본 연구는 개입적 일반화를 위해 잠재 용량을 최대화해야 할 '용량 조절 노브'가 아니라, (종종 더 작은 차원을 선호하는) "인과적 하이퍼파라미터"로 취급해야 함을 시사한다. 현재의 연구는 이론적으로는 선형 가우시안 SCM에, 경험적으로는 규모가 작은 표 형식의 임상 데이터셋에 국한되어 있으며, 비선형, 고도의 혼란, 더 큰 규모의 환경에서 이 주장을 검증하기 위한 후속 연구가 필요하다.