기술 요약: 야생에서의 SciML (SciML in the Wild)

문제 정의

Neural Ordinary Differential Equations (NODEs), Physics-Informed Neural Networks (PINNs), 그리고 Universal Differential Equations (UDEs)와 같은 과학적 머신러닝(SciML) 방법론은 구조적 사전 지식(structural priors)이 신뢰할 수 있는 지배 역학을 반영한다는 가정에 의존한다. 이러한 방법론들은 방정식이 잘 정의된 물리학, 생물학, 공학 분야에서는 성공을 거두어 왔으나, 거시경제학에 대한 적용 가능성은 불확와 있다. 거시경제 시스템은 인간의 행동, 제도적 결정, 외부 충격에 의해 형성되며, 이로 인해 비정상성(non-stationary), 체제 의존성(regime-dependent), 그리고 부분적 관측 가능성이라는 특성을 갖는다.

본 연구는 다음과 같은 근본적인 질문을 다룬다: 구조적 사전 지식이 불확실하거나 데이터 생성 과정과 일치하지 않을 때, 그것은 모델의 성능을 향상시키는가 아니면 저하시키는가? 저자들은 거시경제 예측을 물리적 시스템과는 다른, 희소하고 저빈도이며 노이즈가 많고 체제 변화가 잦은 데이터로 특징지어지는 "스트레스 테스트" 도메인으로 간주하여, 휴리스틱한 구조적 사전 지식이 잘 정의되지 않은 물리 시스템 외부에서 어떻게 작동하는지 진단한다.

방법론

데이터 및 상태 표현

본 연구는 다양한 지역과 경제 체제를 가진 23개국을 포함하는 다국가 데이터셋을 활용하며, 이는 세계은행(World Bank) 및 IMF 데이터베이스에서 추출되었다. 데이터는 1990–2024년($N=35$) 또는 1960–2024년($N=65$)의 연간 관측치로 구성된다.
시간 $t$에서의 거시경제 시스템은 5차원 상태 벡터 $u(t)$로 표현된다:

1. GDPUSD: 현재 달러 기준 국내총생산.
2. $\dot{Y}$: 실질 GDP 성장률 (%).
3. $\pi$: 인플레이션 (%).
4. $D$: GDP 대비 정부 부채 비율.
5. $E$: 달러 기준 대외 부채.

특성(Features)은 데이터 누수(leakage)를 방지하기 위해 오직 훈련 세트에만 적합(fit)된 MinMax 스케일링을 사용하여 $[0, 1]$ 범위로 정규화되었다.

실험 프로토콜

• 시계열 분할 (Temporal Splits): 순차적 구조를 보존하기 위해 데이터를 연대순으로 분할하였다 (기본 70/15/15 train/val/test). 강건성 검증을 위해 65/15/20 및 80/10/10 분할을 사용하였다.
• 평가된 모델: 다섯 가지 모델 군을 통일된 프레임워크 내에서 비교하였다:
  1. ARIMA: 단변량 통계 베이스라인 (ARIMA(1,1,1)).
  2. LSTM: 데이터 기반 시퀀스 모델 (2개 층, 은닉 크기 64).
  3. Neural ODE (NODE): 명시적인 구조적 제약 없이 신경망 $f_\theta(u)$를 통해 역학을 학습하는 연속 시간 모델.
  4. PINN: 부채-성장 상호작용 및 평균 회귀와 같은 단순화된 관계를 인코딩하는 휴리스틱 구조적 제약(연성 사전 지식)이 추가된 모델. 참고: 이들은 공식적인 경제 이론(예: DSGE)에서 유도된 것이 아니라, 구조를 삽입했을 때의 효과를 테스트하기 위한 단순화된 가정이다.
  5. UDE: 사전 정의된 구조적 성분과 학습된 잔차 네트워크(residual network)를 결합한 하이브리드 모델.
• 평가: 모델은 정규화된 데이터에 대한 결정 계수($R^2$)를 사용하여 평가된다. 확률적 모델의 경우 5개의 무작위 시드에 대해 결과를 평균화하였다. 과업은 1단계 앞 예측(one-step-ahead forecasting)이다.

주요 기여

1. 경험적 평가: 희소하고 비정상적이며 행동 기반인 데이터로 특징지어지는 도메인에서 SciML 방법론에 대한 대규모 평가를 수행하였다.
2. 성능 계층 구조: PINN 및 UDE 모델의 휴리스틱 구조적 사전 지식이 ARIMA나 NODE와 같은 덜 제약된 접근 방식에 비해 성능을 향상시키지 못하며, 오히려 저하시킨다는 증거를 제시하였다.
3. 진단 프레임워크: 비정상성 하에서의 물리 정보 학습(physics-informed learning)의 네 가지 구체적인 실패 모드를 식별하고 규명함으로써, 구조적 사전 지식이 도움이 되기보다 해가 될 수 있는 상황을 이해하기 위한 프레임워크를 제공한다.

결과

예측 성능

본 연구는 이 환경에서의 거시경제 예측이 본질적으로 어렵다는 것을 발견하였으며, 대부분의 모델에서 $R^2$ 값이 음수로 나타나 단순 평균 베이스라인보다 낮은 성능을 보였다. 그러나 명확한 상대적 계층 구조가 나타난다:

• 덜 제약된 모델(ARIMA 및 NODE)은 대부분의 국가와 시계열 분할에서 더 제약된 모델(PINN 및 UDE)보다 일관되게 우수한 성능을 보인다.
• ARIMA는 가장 최근의 관측값에 조건화될 때 이점을 얻지만, 신경망 계열 내에서는 NODE가 PINN 및 UDE보다 일관되게 높은 성능을 보인다.
• PINN 및 UDE는 더 낮은 중앙 성능과 현저히 높은 변동성을 보인다. 특히 PINN은 특정 국가-모델 조합에서 극단적인 실패를 보이며, 일부 사례에서는 $R^2$ 값이 -50 미만으로 떨어지기도 한다.

안정성 및 불확실성

• ARIMA는 결정론적 예측(분산 0)을 생성한다.
• NODE는 안정적이고 재현 가능한 역학을 나타내는 좁은 신뢰 구간을 보인다.
• PINN은 가장 넓은 신뢰 구간을 생성하며, 이는 특히 변동성이 큰 체제에서 초기화 및 학습 불안정성에 대한 높은 민감도를 반영한다.
• UDE는 중간 정도의 변동성을 보인다.

절제 연구 (Ablation Study)

구조적 패널티를 제거하면서 아키텍처는 그대로 유지한 PINN에 대한 절제 연구 결과, 구조적 패널티를 제거하는 것이 대다수의 국가에서 예측 성능을 향상시킨다는 것이 밝혀졌다. 이는 휴리스틱한 사전 지식이 단순히 효과가 없는 것이 아니라, 관찰된 행동과 가정된 관계가 일치하지 않을 때 체계적인 편향을 유도하여 능동적으로 해를 끼친다는 것을 확인시켜 준다.

실패 모드

저자들은 구조적 사전 지식의 저조한 성능을 설명하는 네 가지 반복되는 실패 모드를 식별하였다:

1. 사전 지식 불일치 (Prior Misalignment): 부과된 제약 조건이 실제 거시경제 관계를 정확하게 반영하지 못함.
2. 체제 변화 (Regime Shifts): 경제 조건의 급격한 변화가 매끄러운 역학 가정을 위반함.
3. 구조적 단절 (Structural Breaks): 위기나 정책 충격과 같은 불연속성이 사전 지식에 내재된 연속성 가정과 양립할 수 없음.
4. 최적화 불안정성 (Optimization Instability): 데이터 손실과 사전 지식 손실 사이의 상충하는 그래디언트가 초기화에 대한 민감도를 높임.

의의 및 주장

본 논문은 자신의 발견을 SciML 전체에 대한 거부라기보다는 진단적 결과로 규정한다. 저자들은서 구조적 방정식이 불확실하거나, 진화하거나, 부분적으로 관측되는 도메인(거시경제와 같은)에서는 구조적 사전 지식이 유용한 귀납적 편향(inductive bias)이 아닌 **오기여(misregularizer)**로 작용할 수 있다고 주장한다.

본 연구의 의의는 "더 많은 구조가 항상 유익하다"라는 가정에 도전하는 데 있다. 대신, 저자들은 기저의 역학이 잘 지정되지 않은 경우, 부과된 구조보다 유연성이 더 가치 있을 수 있음을 시사한다. 저자들은 실세계의 비물리적 시스템에 SciML 방법론을 적용할 때, 특정 구조가 도움이 되는지 여부를 반드시 경험적으로 테스트해야 한다고 결론짓는다.