Causal Discovery in Structural VAR Models Under Equal Noise Variance

기술적 요약: 등분산 잡음 하의 구조적 VAR 모델에서 인과 발견

문제 제기
다변량 시계열로부터 인과를 발견하는 것은 인과 효과가 시간 간격 (지연) 과 동일한 샘플링 구간 (동시) 에서 모두 발생할 때 특히 어렵습니다. 이 문제는 fMRI 와 같은 샘플링 속도가 근본적인 역동성에 비해 종종 거칠어 구간 내 상호작용을 포착할 수 있는 모델이 필요한 신경과학과 같은 분야에서 중요합니다. 선형 가우시안 구조적 벡터 자기회귀 (SVAR) 모델은 이를 위해 강력하지만, 표준 식별 기법은 이러한 설정에서 종종 실패합니다.

동시적 인과 효과가 있는 시계열 설정은 일반적으로 유일한 그래프를 산출하지 않는 반면, 횡단면 구조 방정식 모델 (SEM) 에서는 등분산 잡음 가정과 방향성 비순환 그래프 (DAG) 가정이 결합되어 고유한 인과 그래프의 점 식별을 제공합니다. SVAR 모델에서 동시적 효과는 방향성 순환을 형성할 수 있으며, 여러 개의 서로 다른 구조적 매개변수화가 정확히 동일한 정상 상태 관측 과정 법칙을 유도할 수 있습니다. 따라서 인과 발견의 목표는 단일 그래프를 식별하는 것에서 관측 동등성 클래스를 식별하는 것으로 이동합니다.

방법론
본 논문은 등분산 잡음 (구조적 잡음 항이 공통 분산 $\sigma^2$을 가지며 상호 독립임) 가정 하의 선형 가우시안 SVAR(1) 모델에 대한 인과 발견 프레임워크를 제안합니다.

1. 관측 동등성 특성화:
   저자는 두 개의 허용 가능한 SVAR 모델 $M = (A_0, A_1, \sigma)$와 $M' = (A'_0, A'_1, \sigma')$이 동일한 정상 가우시안 과정을 유도하는 관측 동등성을 갖는다면, 그 구조적 매개변수들이 직교 변환과 전역 양수 스케일로 관련되어 있음을 증명합니다. 구체적으로, 직교 행렬 $Q \in O(p)$와 스칼라 $c > 0$이 존재하여 다음이 성립합니다:
   $$B' = cQB, \quad A'_1 = cQA_1, \quad \sigma' = c\sigma$$
   여기서 $B = I - A_0$입니다. 이 특성화는 구조적 그래프가 점 식별되지 않음을 의미하며, 대신 데이터는 이러한 변환과 관련된 모델 클래스를 식별합니다.

2. 관측 정렬 불일치:
   이 설정에서 모델 복원을 평가하기 위해 저자는 관측 정렬 불일치 ($\Delta^{\text{obs}}_{\text{align}}$) 를 도입합니다. 표준 프로베니우스 오차와 달리, 이 지표는 후보 모델과 진실의 전체 관측 동등성 클래스 사이의 거리를 측정합니다. 이는 모든 유효한 직교 변환과 전역 스케일링에 대한 재구성 오차의 하한으로 정의됩니다. 특이값 분해 (SVD) 를 사용하여 폐형식 해를 유도함으로써, 특정 임의의 대표자와 일치시킬 필요 없이 구조적 복원을 효율적으로 평가할 수 있습니다.

3. ENVAR 알고리즘:
   저자는 동등성 클래스에서 선호되는 대표자를 선택하기 위한 희소성 기반 절차인 ENVAR(Equal-Noise VAR causal discovery) 를 제안합니다. 알고리즘은 세 단계로 진행됩니다:

   • 축소형 추정: 최소제곱법 (OLS) 을 통해 축소형 전이 행렬 $\Phi$와 잔차 공분산 $\Sigma_u$를 추정합니다.
   • 정규 대표자 구성: 경험적 정밀도 행렬의 초록키 분해 인자를 사용하여 기본 구조 표현을 구성합니다.
   • 희소 탐색: 정규화 제약 조건 $\text{diag}(I - A_0) = 1$ 하에서 $A_0$의 비대각 성분 (동시적 효과) 과 $A_1$의 모든 성분 (지연 효과) 의 $\ell_1$ 노름을 최소화하는 구조적 대표자를 찾기 위해 직교 다양체와 전역 스케일에서 탐색합니다. 이는 PyTorch 의 직교 매개변수화를 통한 비볼록 최적화로 해결됩니다.

주요 결과
이 방법론은 합성 데이터와 인간 연결체 프로젝트 (HCP) 의 실제 fMRI 데이터에서 평가되었습니다.

• 합성 데이터: ENVAR 는 EqVarGDS, VARLiNGAM, DYNOTEARS 와 비교되었습니다. ENVAR 는 다양한 그래프 차원 ($p$) 에서 가장 낮은 스케일 프리 관측 정렬 불일치를 달성하여, 진실의 동등성 클래스에 가장 가까운 모델을 성공적으로 복원함을 보여주었습니다. 또한 기준선 대비 진실 축소형 매개변수 및 구조 행렬과의 더 높은 피어슨 상관관계를 보였습니다. 특히 ENVAR 는 등분산 가정 위반에 대해 강건성을 보였으며, 노드 간 잡음 분산이 적당히 변할 때도 우수한 성능을 유지했습니다.
• 실제 fMRI 데이터: HCP 운동 과제 데이터에 적용된 ENVAR 는 노드 중심성 (입차수, 출차수, 순 유량) 이 알려진 신경과학 활성화 지도와 놀랍도록 잘 일치하는 인과 그래프를 복원했습니다. NeuroSynth 분석은 학습된 그래프 구조와 연관된 해독된 인지 용어가 운동 조절 문헌과 일관됨을 확인했습니다.

의의 및 주장
본 논문은 등분산 잡음 하에서 SVAR 모델의 구조적 그래프는 동시적 순환의 존재와 직교 변환 하에서 관측 법칙의 불변성으로 인해 일반적으로 점 식별되지 않는다고 주장합니다. 따라서 인과 발견의 적절한 목표는 단일 그래프가 아닌 관측 동등성 클래스입니다.

이 연구의 의의는 다음과 같습니다:

1. 횡단면 DAG 설정과 구별되는 시계열 데이터에 대한 이 동등성 클래스의 정확한 특성화 제공.
2. 본질적인 비식별성을 고려하여 구조적 복원을 올바르게 평가하는 동등성 인식 오차 지표(관측 정렬 불일치) 도입.
3. 합성 및 실제 신경영상 시나리오에서 최첨단 방법보다 향상된 정확도를 보여주는 동등성 클래스에서 정규화된 대표자를 선택하기 위해 희소성을 활용하는 실용적 알고리즘 ENVAR 제안.

저자는 선형성, 정상성, 관찰되지 않은 교란 변수의 부재에 대한 의존성, 그리고 국소 최소값에 수렴할 수 있는 비볼록 최적화 사용과 같은 한계를 지적합니다. 향후 연구는 비정상성과 고차 역동성을 다루는 방향으로 제안됩니다.