기술 요약: PyCC.id – 구조적 식별성을 갖춘 가설 기반 방정식 발견을 위한 패키지

문제 정의

데이터 기반 방정식 발견은 시계열 측정값으로부터 지배 방정식을 추론하는 것을 목표로 하는 근본적인 역문제(inverse problem)이다. 이 분야의 지속적인 과제는 데이터-기반 모델링이 발생하는 불량 조건(ill-conditioned) 문제로, 서로 다른 여러 수학적 모델이 유사한 정확도로 유한한 데이터셋에 적합할 수 있다는 점이다. 순수하게 데이터에만 의존하는 접근 방식은 종종 방대한 후보 모델들을 생성하지만, 이러한 모델들은 구조적으로 크게 다를 수 있어 물리적으로 일관되지 않은 표현을 낳기도 한다. 결과적으로, 실무자들은 비물리적인 모델을 폐기하기 위해 도메인 지식에 기반한 사후 수동 필터링에 의존해야 하며, 이는 최종 모델 선택을 다소 임의적으로 만든다. 더욱이, 기존의 많은 방법론은 구조적 식별성(structural identifiability)에 대한 보장을 제공하지 못하므로, 제안된 방정식이 데이터와 일치하는지 아니면 재구성이 필요한지를 판단하기 어렵게 만든다.

방법론

이러한 한계를 해결하기 위해, 본 논문은 구조적 '스켈레톤(skeleton)'과 특성 곡선(Characteristic Curves, CCs)에 기반한 가설 기반 방법론을 구현하는 오픈 소스 파이썬 라이브러리인 PyCC.id(PyCC)를 소개한다.

핵심 프레임워크

"블랙박스" 방식처럼 처음부터 방정식을 찾는 것과 달리, PyCC는 실무자가 물리적 직관이나 도메인 지식에 기반하여 구조적 스켈레톤을 정의하도록 요구한다. 이 스켈레톤은 상미분 방정식(ODE)의 가계(families)를 분류하고, 전역 역학을 일변수 1차원(1D) 함수로 분해한다.

• 구조적 식별성: 이 프레임워크는 위상 공간(phase space)에서 입증 가능한 구조적 식별성 특성을 가진 스켈레톤을 활용한다. 이를 통해 광범 sel한 훈련을 수행하기 전에, 가설로 세운 구조가 데이터와 일치하는지를 공식적으로 검증할 수 있다.
• 가설 통합: 사용자는 물리적 대칭성, $f(0)=0$과 같은 제약 조건, 또는 기함수/우함수 요구 사항과 같은 사전 정보를 스켈레톤 내에 정의된 함수에 직접 주입할 수 있다. 이는 탐색 공간을 물리적으로 동기화된 구조로 제한하여 구조적 모호성을 완화한다.

파라미터화 전략

라이-브러리는 원하는 해석력과 사전 지식의 수준에 따라 1D 함수($f_i$)를 식별하기 위한 세 가지 뚜-별한 전략을 지원한다:

1. 함수적 접근법 (Functional Approach): 1D 함수를 미지의 상태로 취급하고 신경망(NN)이나 심볼릭 회귀(SymbR)와 같은 보편적 근사기를 사용하여 근사한다.
2. 파라미터적 접근법 (Parametric Approach): 함수의 형태를 완전히 가설로 세우고 스칼라 파라미터 $\{a_i\}$에 의해 매개화하며, 이를 비선형 최적화를 통해 최적화한다.
3. 하이브리드 접근법 (Hybrid Approach): 1D 함수 $\{f_i\}$와 스칼라 파라미터 $\{a_j\}$를 동시에 피팅하는 결합 방식이다.

소프트웨어 아키텍처

PyCC는 PyTorch 및 PySR(심볼릭 회귀용)과 같은 확립된 도구들을 구조화된 파이프라인 내에서 활용하여 과학적 머신러닝 생태계 내에서 통합 프레임워크 역할을 수행한다. 핵심 기능은 다음과 같다:

• pycc.simulate(): 순방향 시스템 적분을 위한 다재다능한 ODE 솔버이다. 이론적 시뮬레이션(그라운드 트루스 데이터 생성용)과 발견된 모델의 검증을 모두 지원한다. 다양한 백엔드(NN, SymbR, Poly, Interp)와 호환된다.
• pycc.train(): 시스템 역학을 식별하기 위한 주요 진입점이다. 디스패처(dispatcher) 역할을 수행하며, 사용자가 지정한 방법(NN, SymbR, Poly)에 따라 데이터를 적절한 모듈로 라우팅한다.
• pycc.post_processing(): (NN 또는 Poly를 통해 얻은) 수치적 CC를 명시적인 심볼릭 표현으로 변환하도록 설계된 유틸리티이다. 이는 모델 검사, 분석 및 후속 시뮬레이션을 위한 최적화된 심볼릭 모델 생성을 용이하게 한다.

주요 기여

본 논문은 최근의 이론적 발전을 유연하고 사용자 친화적인 라이브러리로 응축한 도구로서 PyCC.id를 제시한다. 주요 기여는 다음과 같다:

• 가설 기반 워크플로우: 순수 데이터 기반 발견에서 구조적 스켈레톤 접근 방식으로 초점을 전환하여 물리적 일관성과 구조적 식별성을 보장한다.
• 모듈성 및 상호 운용성: 이 라이브러리는 기존 패키지와 경쟁하는 것이 아니라, 통합된 프레임워크 내에서 (PySR의 심볼릭 능력이나 신경망의 유연성과 같은) 각자의 강점을 활용하는 인터페이스 역할을 한다.
• 하드웨어 가속: 신경망 훈련을 위한 멀티코어 CPU 및 GPU(NVIDIA CUDA 및 intel-extension-for-pytorch를 통한 Intel XPU)에 대한 네이티브 지원을 제공한다.
• 물리적 제약 조건: 훈련 과정 중에 (기함수/우함수 대칭성, 특정 값 등) 제약 조건을 직접 강제할 수 있어 더욱 견고한 모델을 도출한다.
• 포괄적인 도구 세트: 내장된 시뮬레이터, 다양한 파라미터화 방법 지원, 그리고 Google Colab 튜토리얼을 포함한 광범위한 문서를 제공한다.

결과 및 예시

논문은 마찰이 있는 비선형 진동자(속도 의존 감쇠와 위치 의존 복원력을 포함하는 2차 미분 방정식으로 제어됨)라는 고전적인 물리 시스템을 사용하여 PyCC의 능력을 입증한다.

• 데이터 생성: 이론적 방정식을 사용하여 위치, 속도, 외력을 포함하는 데이터셋을 생성하였다.
• 식별: 사용자는 속도 의존 마찰($F_{ext} = \ddot{x} + f_1(\dot{x}) + f_2(x)$)에 해당하는 스켈레톤을 정의하고 $f_2(0)=0$ 및 함수들에 대한 기함수 성질과 같은 제약 조건을 적용하여, 신경망을 이용한 함수적 접근법으로 시스템 역학을 성공적으로 식별하였다.
• 검증: 학습된 함수($f_1$ 및 $f_2$)를 시각화한 결과, 이론적 구성 관계와 매우 밀접하게 일치함을 확인하였다.
• 후처리: 수치적 결과가 심볼릭 회귀(PySR)를 통해 해석 가능한 표현식으로 변환되었으며, 이는 데이터 기반 근사에서 해석 가능한 심볼릭 모델로 전환하는 라이브러리의 능력을 보여주었다.
• 시뮬레이션: 식별된 모델을 순방향으로 적분한 결과, 이론적 역학과 정확하게 일치함을 보였다.

의의

본 논문은 PyCC.id를 방정식 발견의 불량 조건 문제를 해결하기 위한 중요한 단계로 자리매김한다. 구조적 스켈레톤을 통해 도메인 지식의 통합을 공식화함으로써, 이 라이브러리는 가설로 세운 구조를 알고리즘 수준에서 검증하거나 배제할 수 있는 경로를 제공한다. 이는 임의적인 사후 필터링에 대한 의존도를 줄이고, 해석 가능하며 물리적으로 일관된 지배 방정식을 발견하는 것을 용이하게 한다. 본 연구는 많은 패키지가 처음부터 "최선의" 방정식을 찾으려 노력하는 반와 달리, PyCC는 가설로 세운 물리적 구조가 측정된 역학과 일치하는지를 검증하기 위한 공식적인 파이프라인을 제공함으로써 과학적 머신러닝 응용의 신뢰성과 해석 가능성을 높인다는 점을 강조한다.