기술 요약: 동역학계(Dynamical Systems)를 위해 우리에게 필요한 불확실성은 무엇인가?

문제 정의

알레아토리(aleatoric) 불확실성(과정 자체에 내재된 환원 불가능한 무작위성)와 에피스테믹(epistemic) 불확실성(지식의 부족에서 기인하는 환원 가능한 불확실성)의 구분은 지도 학습(supervised machine learning) 분야에서는 잘 확립되어 있습니다. 그러나 이러한 이분법은 동역학계의 맥락에서는 상대적으로 주목을 덜 받아왔습니다. 이는 머신러닝(ML)과 동역학계(예: 신경 미분 방정식, 과학적 ML, 데이터 기반 제어 등) 사이의 교차점이 커지고 있음에도 불구하고 그렇습니다.

본 논문이 다루는 핵심 문제는 동역학계를 위해 어떤 불확실성이 필요한가에 대한 명확한 프레임워크가 부족하다는 점입니다. 구체적으로 저자들은 다음을 목표로 합니다:

1. 동역학계의 불확실성 원천을 재검토한다.
2. 이러한 원천들이 알레아토리인지 에피스테믹인지 명확히 한다.
3. 불확실성을 표현하고 정량화하는 목적이 작업(예: 예측, 제어, 검증)에 따라 어떻게 달라지는지 결정한다.

본 논문은 어떤 원천을 알레아토리 또는 에피스테믹으로 분류하는 것은 그 원천 자체에 내재된 속성이 아니라, 작업, 모델링 가정, 그리고 관심 대상에 크게 의존한다고 주장합니다.

방법론 및 프레임워크

본 논문은 새로운 알고리즘을 제안하거나 경험적 실험을 수행하기보다는 개념적 분석을 채택합니다. 방법론은 다음과 같습니다:

1. 베이스라인의 정형화: 저자들은 결정론적인 연속 시간 자율 동역학계(deterministic continuous-time autonomous dynamical system)인 초기값 문제 $\dot{x}(t) = f(x(t)), x(0) = x_0$로 시작합니다.
2. 불확실성 원천의 범주화: 이들은 다섯 가지의 뚜렷한 불확실성 원천을 베이스라인에 체계적으로 도입하여, 각 원천이 상태 분포의 진화에 어떻게 영향을 미치는지 분석합니다:
   • S1: 초기 조건 불확실성(Initial Condition Uncertainty): 점 형태의 $x_0$를 확률 분포 $p_0$로 대체합니다. 진화는 **리오빌 방정식(Liouville equation)**에 의해 지배됩니다.
   • S2: 프로세스 노이즈(Process Noise): 노이즈가 지속적으로 주입되는 SDE(Stochastic Differential Equation)로 ODE를 대체합니다. 진화는 **포커-플랑크 방정식(Fokker-Planck equation)**에 의해 지배됩니다.
   • S3: 부분 관측(Partial Observations): 관측 방정식 $y_k = h(x(t_k)) + v_k$를 도입합니다. 이는 필터링 문제로 이어지며, 불확실성은 예측-업데이트 주기(예: 칼만 필터)를 통해 업데이트됩니다.
   • S4: 파라미터 불확실성(Parameter Uncertainty): 진화 법칙 $f_\theta$의 파라미터 $\theta$를 미지수로 취급합니다. 이 불확실성은 시간을 따라 체계적으로 전파되며, 오차를 누적시키고 시스템의 질적 행동(예: 분기/bifurcation)을 잠재적으로 변화시킵니다.
   • S5: 구조적 불확실성(Structural Uncertainty): 모델의 형태 자체가 잘못된 경우(예: 잘못된 함수 형태, 누락된 상태 변수, 또는 잘못된 역학 유형)를 다룹니다.
3. 상호작용 분석: 저자들은 이러한 원천들이 어떻게 결합되는지, 그리고 상대적인 지배력이 어떻게 다른 예측 지평(prediction horizons)에 따라 변화하는지 논의합니다 (단기 예측은 초기 조건이 지배하고, 장기 예측은 파라미터와 구조가 지배함).
4. 작업 의존적 분류: 저자들은 특정 작업(예측, 시스템 식별, 제어, 검증)에 따라 이러한 원천들의 알레아토리/에피스테믹 성격을 평가합니다.

주요 기여

1. 동역학계 불확실성의 분류 체계

본 논문은 정적인 ML 환경과 구별되는, 동역학계에 특화된 불확실성 원천의 구조적 분해를 제공합니다. 핵심적인 통찰은 불확실성 전파의 시간적 성격입니다:

• 초기 조건 불확실성은 한 번 주입된 후 흐름(flow)에 의해 변형됩니다.
• 프로세스 노이즈는 지속적으로 주입됩니다.
• 파라미터 불확실성은 시간이 지남에 따라 누적되는 체계적인 편향(bias)으로 작용하여 전체 궤적의 이력에 영향을 미칩니다.

2. 불확실성 유형의 맥락 의존적 분류

저자들은 어떤 원천이 본질적으로 알레아토리인지 에피스테믹인지에 대한 개념에 도전합니다. 그들은 분류가 모델링 선택에 달려 있음을 입증합니다:

• 초기 조건의 알레아토리 vs 에피스테믹: 만약 $x_0$가 불완전한 센서로부터 추정된 고정되어 있으나 알려지지 않은 양이라면, 불확실성은 에피스테믹입니다. 만약 $x_0$가 자연적 변동성(예: 사람이 흔들리는 추를 매번 다르게 놓는 경우)을 나타내는 확률 변수라면, 이는 알레아토리입니다.
• 구조적 불확실성: 본 논문은 구조적 불확실성(즉, "올바른 모델"에 대한 불확실성)이 질적으로 구별된다는 점을 강조합니다. 파라미터 불확실성이 고정된 가설 공간 내에서 추가 데이터를 통해 줄일 수 있는 것과 달리, 구조적 불확실성은 고정된 가설 공간 내의 추가 데이터로는 해결할 수 없는 "알려지지 않은 미지의 것(unknown unknowns)"을 포함합니다.

3. 작업 중심의 불확실성 정량화 필요성

본 논문은 알레아토리와 에피스테믹 불확실성을 구분하는 것의 효용이 작업에 따라 달라짐을 주장합니다:

• 예측/필터링: 주요 관심 대상은 상태 $x(t)$입니다.
• 제어: 이 둘의 구분은 운영상 매우 중요합니다. 에피스테믹 불확실성은 "정보의 가치"를 가지며 시스템에 작용함으로써(탐색을 통해) 줄일 수 있는 반면, 알레아토리 불확실성은 줄일 수 없습니다.
• 검증: 불확실성은 안전성을 보장하기 위해 도달 가능 집합(reachable sets)으로 변환됩니다.

4. 모델링 관점

저자들은 기존 및 잠재적인 모델링 접근 방식을 검토합니다:

• 확률 이론: 표준 분포(1차)는 알레아토리 불확실성을 잘 포착합니다. 에피스테믹 불확실성을 위해 2차 분포(분포에 대한 분포)가 제안되지만, 이는 계산적으로 까다로울 수 있으며, 만약 실제 값이 정밀하지만 알려지지 않은 양인 경우 개념적으로 불필요할 수도 있습니다.
• 집합 기반 표현: 저자들은 에피스테믹 불확실성을 표현하기 위한 **미분 포함 관계(differential inclusions)**와 **크레디알 집합(credial sets, 확률 분포의 집합)**의 유용성을 언급하며, 특정 맥락에서는 확률 분포보다 무지를 포착하는 데 더 적합할 수 있다고 주장합니다.

결과 및 발견

개념적 논문으로서, "결과"는 이론적 통찰과 명료화입니다:

• 지평 의존적 지배력: 본 논문은 서로 다른 불확실성 원천이 서로 다른 시간 척도에서 지배적임을 확립합니다. 초기 조건은 단기 지평을 지배하고, 프로세스 노이즈는 중간 지평에서 누적되며, 파라미터/구조적 불�확실성은 장기 지평을 지배하여 시스템의 어트랙터(attractor)를 결정합니다.
• 질적 변화: 파라미터 불확실성은 단순히 양적인 편차를 넘어, 시스템 행동의 질적인 변화(예: 안정적 평형 상태와 카오스 사이의 구분)를 초래할 수 있습니다.
• 표준 확률 모델의 한계: 본 논문은 ML의 표준 확률 모델이 특히 제어 설정에서 환원 가능한 불확실성과 환원 불가능한 불확실성을 구분하지 못한다면, 동역학계에 대해 불충분할 수 있음을 시사합니다.

의의 및 주장

본 논문은 감독 학습보다 연구가 덜 이루어진 분야인 동역학계를 위한 불확실성 모델링에 대한 머신러닝 관점을 제공한다는 점에서 의의를 가집니다.

• 개념의 명료화: 알레아토리-에피스테믹 이분법이 데이터 원천의 고정된 속성이 아니라 모델링 설정과 구체적인 질문의 결과임을 명확히 합니다.
• 분야 간 가교: ML이 동역학계를 위한 유연한 함수 근사기(예: Neural ODEs)를 제공하는 동시에, 동역학계가 ML을 위한 프레임워크(예: 필터링, 도달 가능성 분석)를 제공한다는 양방향 관계를 강조합니다.
• 향후 방향: 저자들은 다음과 같은 향후 연구 기회를 식별합니다:
  • 지도 학습의 2차 방법론을 동역학계의 궤적 수준으로 적용하기.
  • 상태 불확실성뿐만 아니라 유도된 양(예: 안정화 시간, 특정 영역에 진입할 확률)에 초점을 맞춘 새로운 불확실성 정량화 척도 개발하기.
  • 구조적 불확실성("알려지지 않은 미지의 것")을 표현하는 어려움 해결하기.

저자들은 이 작업이 특정 새로운 알고리즘을 제안하거나 벤치마크에서 우수한 성능을 입증하기보다는, 하나의 관점으로서 근본적인 가정을 재검토하라는 호출(call to revisit)로 프레임화하며 겸허한 태도를 유지합니다.