기술 요약: DoTime

문제 정의

현재 시계열 인과 추론을 위한 벤치마크는 주로 관측적(observational)이거나, 소규모이거나, 특정 도메인에 국한되어 있습니다. 이는 의료, 정책 평가, 기후 과학과 같이 높은 이해관계가 걸린 응용 분야에서 필수적인 중재(interventional) 및 반사실적(counterfactual) 추정 능력을 평가하는 데 있어 결정적인 공백을 남깁니다. 기존 도구들은 세 가지 주요 한계를 가집니다:

1. 관측 편향(Observational Bias): Dream3나 NetSim과 같은 생성기들은 효과 추정($p(Y|do(A))$)보다는 구조적 발견(structural discovery)에 집중하며, 모델이 중재에 노출되지 않은 데이터로 학습되도록 합니다.
2. 확장성 문제: 실제 중재 데이터셋(예: Causal Chambers)은 파운데이션 모델을 학습시키기에 너무 작습니다.
3. 정적 한계: 정적 벤치마크(ACIC, IHDP)는 시간적 역동성을 무시하며, 최근의 동적 벤치마크(Causal Dynamics)는 관측 데이터로부터 그래프를 복구하는 데 집중할 뿐 중재 효과 추정에는 집중하지 않습니다.

결과적으로, $do(\cdot)$ 쿼리에 답하도록 훈련된 모델들이 순수하게 관측적인 데이터($p(Y|A)$)에 맞춰지고 점수가 매겨짐으로써, 진정한 인과적 추론 능력을 검증하지 못하고 왜곡되는 현상이 발생합니다.

방법론: DoTime 프레임워크

DoTime은 다변량 **시간적 구조적 인과 모델(Temporal Structural Causal Models, TSCMs)**을 생성하는 개방형, 확장 가능하며 이론적으로 근거가 탄탄한 생성기입니다. 이 모델은 구조적 사전 확률(structural priors)을 샘플링하고, 관측 및 중재 조건 하에서의 궤적을 시뮬레이션하며, 정확한 그라운드 트루스 타겟을 제공하는 파이프라인을 통해 작동합니다.

핵심 구성 요소

1. 시간적 구조적 인과 모델 (TSCMs):

   • 그래프 집합 $\mathcal{G} = (G_0, G_{1:K})$로 정의됩니다. 여기서 $G_0$는 즉각적인 DAG이며, $G_{1:K}$는 지연된 인접성(lagged adjacencies)을 나타냅니다.
   • 역동성은 $X^i_t = f_i(Pa^0_i(X_t), Pa^{1:K}_i(X_{t-1:t-K})) + \varepsilon^i_t$를 따릅니다.
   • **중재(Interventions)**는 특정 시간 창 동안 대상 노드에 대해 메커니즘 $f_i$를 덮어씁니다.

2. 그라운드 트루스 수준 (Pearl의 계층 구조):

   • 레벨 2 (중재적/Interventional): 중재된 팔(arm)은 사전 분포 $P(\varepsilon)$로부터 새로운 외생적 노이즈를 추출합니다.
   • 레벨 3 (반사실적/Counterfactual): 중재된 팔은 관측 궤적을 생성했던 것과 동일한 노이즈 스트림 $\varepsilon$을 재사용합니다. DoTime의 연속 시간(continuous-time) 제품군은 구조적으로 레벨 3 반사실적 모델을 생성하며, 이산 시간(discrete-time) 제품군은 레벨 2 중재적 쌍을 제공합니다.

3. 기존 생성기 대비 주요 확장 기능:

   • 중재 유형: 강한 중재($do(A_t=v)$), 부드러운 중재(additive shifts), 그리고 시변 중재(time-varying interventions)를 지원합니다.
   • 연속 시간 윈도우: 단일 단계 중재를 SDE의 Euler–Maruyama 적분을 사용하여 윈도우 $do(A[t_0, t_1]=v)$로 일반화합니다. 이를 통해 불규칙한 관측 그리드(jittered 또는 Poisson)를 처리할 수 있습니다.
   • 반사실 모드: 중재 값을 관측된 지지 범위 내로 제한하는 "positivity guard"($\hat{\mu} \pm 3\hat{\sigma}$)를 포함하여, 외삽적(extrapolative) 반사실과 범위 내(in-support) 반사실을 구분합니다.
   • 레짐 전환(Regime-Switching): SCM 파라미터 상에서 스티키-마르코프 레짐 체인(sticky-Markov regime chains)을 구현하여, 확률적 스위치 및 다중 레짐에 대해 단절적 시계열(ITS) 설계를 일반화합니다.

4. 그래프 및 메커니즘 사전 확률:

   • 그래프: $G_0$는 Erdős–Rényi 그래프이며, 구조적 생성에 의해 무방향성(acyclicity)이 보장됩니다(상삼각 행렬 마스크 사용). 지연된 엣지는 기하학적 감소(geometric decay)를 따릅니다.
   • 메커니즘: 선형, tanh, sin, cos, ReLU 및 이들의 합성 등 다양한 집합에서 균등하게 샘플링됩니다.
   • 노이즈: 이동된 지수 분포(shifted exponentials)로부터 샘플링된 스케일을 가집니다.

주요 기여

본 논문은 다음을 포함하는 DoTime 생태계를 공개합니다:

1. dotime PyPI 패키지: 생성기, 제품군 로더 및 평가 하네스를 포함합니다.
2. 네 가지 고정 평가 제품군:
   • dot-Identifiability-v1: 8개의 명명된 식별 구조(예: Back-Door, Front-Door, Instrumental Variable, Unobserved Confounder)에 걸친 10,800개의 궤적.
   • dot-RegimeSwitch-v1: 레짐 밀도가 2, 3, 또는 5인 10,000개의 궤적.
   • dot-Continuous-v1: 연속 시간 중재 윈도우와 다양한 쿼리 오프셋을 가진 10,000개의 궤적.
   • dot-Generic-100k: 파운데이션 모델의 사전 학습을 위해 설계된, 전체 다양성을 갖춘 100,000개의 궤적.
3. 참조 베이스라인: 휴리스틱(TrajMean, AR1), 고전적 방법(VAR, BackDoorOLS, IV2SLS), 그리고 중재적 및 관측적 맥락 모두에서 학습된 Do-Over-Time-PFN(Prior-Fitted Network)의 구현체.

결과

논문은 Do-Over-Time-PFN을 베이스라인 및 동일한 용량을 가진 관측적 트윈 모델과 비교 평가합니다.

• 지표의 한계: 이러한 비선형 TSCM에서 표준 RMSE 지표는 거의 포화 상태에 이릅니다(모델들이 평균값 주변에 밀집함). 본 논문은 방향 정확도(direction accuracy)(효과의 부호를 예측하는 것)가 인과적 품질을 구별하는 변별 신호라고 주장합니다.
• 중재적 vs 관측적 학습:
  • 중재 데이터로 학습된 모델($PFN_{int}$)은 동일한 용량의 관측 데이터로 학습된 모델($PFN_{obs}$)보다 방향 정확도 측면에서 일관되게 우수한 성능을 보입니다.
  • 격차 크기: Identifiability 제품군에서 $PFN_{int}$는 0.66의 정확도를 달او, $PFN_{obs}$는 0.57을 기록했습니다(+0.08 격차). Generic에서는 격차가 +0.04였습니다.
  • 강건성: 이 이점은 세 가지 학습 시드, 네 가지 궤적 길이($T \in \{200, 500, 1000, 2000\}$), 그리고 세 가지 식별 구조(Back-Door, Front-Door, IV) 전반에 걸쳐 지속되었습니다. 통합 격차는 +0.09였으며, 시드 간 표준 편차는 0.005에 불과했습니다.
• 테스트 시점 맥락: 이러한 이점은 단순히 테스트 시점에 중재 값을 보는 것이 아니라, 중재적 사전 학습(interventional pre-training) 덕분인 것으로 분석됩니다. 중재 값을 테스트 시점에 입력받은 관측 모델들(TabPFN, Chronos-2)은 정확도 격차를 보이지 않았습니다.
• 제로샷 전이(Zero-Shot Transfer): 합성 데이터로 학습된 PFN은 실제 도메인(Causal Chambers 풍동 실험 및 Warfarin 약동학)으로 전이되었습니다. 고주파 미세 진동을 추적하지는 못하지만, 나이브한 베이스라인들이 실패하는 지점인 핵심적인 레짐 재배치(regime relocation)(중재 후 운영 레벨)를 성공적으로 복구했습니다.

의의 및 주장

본 논문은 DoTime을 중재 및 반사실적 시계열을 위해 특별히 설계된 최초의 개방형, 확장 가능한 벤치마크로 포지셔닝합니다. 저자들의 주요 주장은 다음과 같은 검증 가능한 가설에 기반합니다: 중재적 학습은 동일한 용량의 관측 모델에 비해 측정 가능한 방향 정확도의 이점을 제공한다.

저자들은 다음을 입증했습니다:

1. 인과적 이해: 이 벤치마크는 전통적인 회귀 지표가 실패하는 지점에서 고정된 용량을 통한 인과적 이해를 성공적으로 분리해 냅니다.
2. 합성 데이터의 필요성: 실제 세계의 중재 데이터는 희귀합니다. DoTime은 파운데이션 모델 학습을 위한 원칙적이고 이론적으로 근거가 확실한 대안을 제공합니다.
3. 한계점: 저자들은 범위를 겸손하게 설정했습니다. 현재 제품군은 $N \le 10$ 변수 및 $K \le 3$ 지연을 사용합니다(생성기는 더 많은 것을 지원함). 또한 합성 데이터는 아직 추세/계절적 혼란 변수나 숨겨진 혼란 변수 이상의 부분 관측성을 다루지 않습니다. 실제 데이터로의 전이 결과는 도메인 특화 도구에 대한 경쟁적 우위보다는 "레짐 재배치"를 보여주는 개념 증명(proof-of-concept)으로 제시되었습니다.

요약하자면, DoTime은 시계열 인과 추론을 관측 데이터 기반의 구조적 발견에서 엄격한 효과 추정으로 이동시키기 위한 인프라를 제공하며, 중재적 데이터로 학습하는 것이 더 우수한 인과적 추론 능력을 가진 모델을 만든다는 것을 검증합니다.