당신이 자동차 엔진이나 뛰는 심장처럼 복잡한 기계가 어떻게 작동하는지 오직 그것이 돌아가는 영상을 보는 것만으로 이해하려고 한다고 상상해 보십시오. 과학에서는 이를 "동역학계 재구성(reconstructing a dynamical system)"이라고 부릅니다. 이는 마치 발자국만을 보고 그 신발의 모양, 걷는 사람의 무게, 그리고 그가 지나온 경로를 알아내야 하는 탐정이 된 것과 같습니다. 과학자들은 오랫동안 이러한 시스템을 설명하기 위해 수학 방정식을 사용해 왔지만, 최근에는 인공지능을 사용하여 이러한 규칙을 자동으로 학습하기 시작했습니다. 목표는 단순히 다음에 무슨 일이 일어날지 예측하는 것이 아니라, 그것이 왜 일어나는지를 이해하는 것입니다. 이를 위해 AI 모델은 "생성적 대리 모델(generative surrogate)" 즉, 스스로 작동하며 실제 시스템의 장기적인 행동, 즉 "기후(climate)"를 재현할 수 있는 디지털 트윈이 되어야 합니다. 하지만 문제가 하나 있습니다. 뉴런이 발화하는 것부터 날씨 패턴에 이르기까지 대부분의 현실 세계의 현상들은 계단식의 불연속적인 스냅샷이 아니라, 매끄럽고 연속적인 흐름 속에서 발생한다는 점입니다.

한동안 최고의 AI 탐정들은 "이산 시간(discrete-time)" 모델을 사용해 왔습니다. 이것은 플립북 애니메이션과 같습니다. 시스템이 한 프레임에서 다음 프레임으로 도약하는 방식입니다. 이러한 플립북은 다음 프레임을 예측하는 데는 뛰어나지만, 데이터가 이상하고 불규칙한 시간 간격으로 들어올 때(예를 들어, 의사가 체크할 때만 기록되는 심박수 모니터처럼)나 시스템에 갑작스럽고 강한 도약이 있을 때(예를 들어, 뉴런이 발화하고 즉시 리셋되는 경우처럼) 어려움을 겪습니다. 반면에 연속적인 시간을 위해 설계된 모델들도 있지만, 이들은 종종 "블랙박스"와 같습니다. 작동은 잘 되지만, 너무 수학적으로 복잡해서 과학자들이 내부의 톱니바퀴가 어떻게 돌아가는지 들여다보기 어렵습니다. 또한 이들은 거대한 퍼즐 조각을 하나씩 다 테스트하며 맞추려는 것처럼 학습 속도가 매우 느린 것으로 악명이 높습니다.

이 논문은 **연속 시간 조각 선형 순환 신경망(continuous-time Piecewise-Linear Recurrent Neural Network, cPLRNN)**이라는 새로운 종류의 AI 탐정을 소개합니다. 이 모델은 두 세계의 장점을 결합하여 이 퍼즐을 해결합니다. 자동차가 매끄럽게 주행하지만, 도로는 직선이고 평평한 구간들로 이루어진 자동차 여행을 상상해 보십시오. 각 구간에서 도로가 직선이기 때문에, 모든 미세한 회전을 계산하기 위해 GPS가 필요하지 않습니다. 단지 간단한 공식만 알면 어느 순간에 어디에 있을지 정확히 알 수 있습니다. cPLRNN은 정확히 이와 같이 작동합니다. 이 모델은 복잡하고 무질서한 시스템의 행동을 단순하고 직선적인 조각들로 나눕니다. 이를 통해 불규칙한 시간에 도착하는 데이터를 쉽게 처리하고 갑작스러운 도약도 능숙하게 다룰 수 있으며, 동시에 학습 속도가 빠르고 수학적으로 투명합니다. 저자들은 이 새로운 모델이 기존의 툭툭 끊기는 플립북이나 느린 블랙박스 모델만큼 복잡한 시스템을 잘 재구성할 수 있음을 보여주면서도, 훨씬 더 빠르게 수행하며, 시스템의 휴지점(resting points)이나 반복되는 루프(repeating loops)와 같은 숨겨진 구조에 대한 명확한 지도를 제공한다는 것을 입증했습니다.

문제점: "프레임 레이트"의 불일치

대부분의 물리적, 생물학적 세계는 연속적인 시계에 따라 움직입니다. 뉴런은 타이머가 울릴 때까지 기다렸다가 발화하는 것이 아니라, 임계값에 도달하는 순간 발화합니다. 행성은 궤도를 건너뛰는 것이 아니라 매끄럽게 미끄러져 나갑니다. 그러나 이러한 시스템을 재구성하는 데 가장 성공적이었던 많은 AI 모델들은 "이산 시간" 모델이었습니다. 이 모델들은 초당 60프레임으로 화면을 업데이트하는 비디오 게임과 같습니다. 데이터가 일정한 60프레임 속도로 들어온다면 잘 작동할 것입니다. 하지만 데이터가 엉망이라면 어떨까요? 환자가 깨어날 때만 기록되는 의료 센서라거나, 배터리가 가득 찼을 때만 데이터를 보내는 기상 관측소라면 어떨까요?

이산 모델은 여기서 어려움을 겪습니다. 이들은 불규칙한 데이터를 경직된 격자에 억지로 끼워 맞춰야 하는데, 이는 둥근 말뚝을 사각형 구멍에 맞추려는 것과 같습니다. 또한 이들은 "하드 임계값(hard thresholds)", 즉 뉴런이 스파이크를 일으키고 즉시 리셋되는 것과 같은 갑작스러운 변화를 처리하는 데 어려움이 있습니다. 이를 해결하기 위해 연구자들은 연속적인 시간을 위해 설계된 "뉴럴 ODE(Neural ODEs, 상미분 방정식)"를 시도해 왔습니다. 하지만 뉴럴 ODE는 마치 길 없는 빽빽한 숲을 걷는 것과 같습니다. 자신이 어디에 있는지 파악하기 위해 아주 작은 단계들을 조심스럽게 밟아야 하며(수치 적분), 이로 인해 학습 속도가 믿기지 않을 정도로 느려집니다. 게다가 이들은 수학적으로 분석하기에 너무 복합적이어서, 과학자들이 시스템이 실제로 어떻게 작동하는지 알 수 없게 만듭니다.

해결책: "직선" 지름길

저자들은 이러한 작고 느린 단계들을 피하기 위해 cPLRNN을 개발했습니다. 이들의 비밀 병기는 "조각 선형(piecewise-linear)" 설계라는 수학적 트릭입니다.

당신이 도시를 운전하고 있다고 상상해 보십시오. 일반적인 복잡한 도시는 예측하기 어려운 구불구불하고 휘어진 길들로 가득합니다. 하지만 도시 전체가 직선이고 평평한 고속도로로 만들어졌다고 상상해 보십시오. 특정 고속도로 위에 있다는 것만 안다면, 5분 후에 어디에 있을지 알기 위해 GPS가 필요하지 않습니다. 단지 당신의 속도와 방향만 알면 됩니다. 간단한 공식을 사용하여 즉시 정확한 위치를 계산할 수 있습니다.

cPLRNN은 복잡한 시스템의 행동을 이 도시처럼 취급합니다. 이 모델은 시스템의 "상태 공간(state space, 시스템이 할 수 있는 모든 가능한 상태)"을 여러 개의 작은 영역으로 나눕니다. 각 영역 내부에서 시스템은 직선 형태의 고속도로처럼 행동합니다. AI는 각 고속도로에 대한 규칙을 학습합니다. 시스템이 이러한 직선 경로를 따라 달릴 때, cPLRNN은 어디로 가는지 알아내기 위해 작은 단계들을 밟을 필요가 없습니다. 대신 "준해석적(semi-analytical)" 해법, 즉 직접적인 수학 공식을 사용하여 정답으로 바로 뛰어넘습니다.

유일하게 까다로운 부분은 시스템이 하나의 직선 고속도로를 떠나 다른 고속도로로 진입하는 "스위칭 경계(switching boundary)"에 부딪힐 때입니다. 이는 시스템의 변수가 0을 통과할 때(예를 들어, 뉴런의 전압이 임계값에 도달할 때) 발생합니다. cPLRNN은 이 교차(crossing)가 정확히 언제 발생하는지를 찾아내는 특별한 알고리즘을 가지고 있습니다. 추측하고 확인하는 대신, 경로가 선을 통과하는 정확한 순간을 짚어내기 위해 영점 찾기(root-finding) 방법을 사용합니다. 교차 시간을 알게 되면, 즉시 다음 고속도로의 공식으로 전환합니다.

발견한 것: 속도, 정확도, 그리고 명확성

연구진은 이 새로운 모델이 현실 세계를 얼마나 잘 다룰 수 있는지 확인하기 위해 몇 가지 다른 과제들로 테스트를 진행했습니다.

1. 혼돈의 나비 (Lorenz-63 시스템)
그들은 나비의 날개 모양을 닮은 유명한 혼돈 시스템으로 시작했습니다. 이 시스템은 AI 모델의 표준 테스트입니다.

• 결과: cPLRNN은 시스템의 장기적인 "기후"를 재구성하는 데 있어 기존의 가장 우수한 모델들(느린 뉴럴 ODE 및 빠르지만 툭툭 끊기는 이산 모델 포함)만큼 성능이 좋았습니다.
• 속도의 승리: 여기서 큰 놀라움이 있었습니다. 뉴럴 ODE는 작은 단계들을 밟아야 했기에 학습 시간이 오래 걸린 반면, cPLRNN은 몇 배 더 빠르게 학습되었습니다. 일부 테스트에서 cPLRNN은 정확도를 전혀 잃지 않으면서도 뉴럴 ODE보다 3~5배 더 빠르게 학습되었습니다.
• 통찰력: 모델이 직선을 기반으로 구축되었기 때문에, 저자들은 학습된 모델에 대한 수학적 계산만으로 시스템의 "고정점(fixed points, 시스템이 머물고 싶어 하는 곳)"과 "리미트 사이클(limit cycles, 반복되는 루프)"을 쉽게 찾을 수 있었습니다. 이들을 찾기 위해 수백만 번의 시뮬레이션을 실행할 필요 없이, 직접 계산할 수 있었던 것입니다.

2. 스파이킹 뉴런 (Leaky Integrate-and-Fire)
다음으로, 그들은 즉시 발화하고 리셋되는 뉴런 모델을 테스트했습니다. 여기에는 "하드 임계값"과 갑작스러운 도약이 포함되며, 이는 매끄러운 모델들이 다루기 매우 어려운 부분입니다.

• 결과: cPLRNN은 이러한 갑작스러운 도약을 완벽하게 처리했습니다. 모델의 "스위칭 시간"(고속도로를 바꾸는 시점)을 뉴런이 발화하는 순간과 정확히 일치시켰습니다.
• 불규칙한 데이터 테스트: 그 후 그들은 데이터가 불규칙한 시간 간격으로 기록되는 시나리오(예: 의사가 환자를 무작위로 체크하는 상황)를 시뮬레이션했습니다. 기존의 이산 모델들은 여기서 처참하게 실패했습니다. 데이터의 간격을 감당하지 못해 사실상 무너졌습니다. 그러나 cPLRNN은 거침없이 통과했습니다. 모델은 간격을 신경 쓰지 않고 불규칙한 지점들 사이의 매끄러운 경로를 계산했기에 뉴런의 행동을 완벽하게 재구성할 수 있었습니다.

3. 현실 세계 데이터: 심장 박동과 뇌 세포
마지막으로, 그들은 실제 데이터인 인간의 심장 박동과 뇌의 단일 뉴런 기록을 사용했습니다.

• 심장 박동: 심박수가 불규칙한 간격으로 기록된 PhysioNet 데이터베이스를 사용하여, cPLRNN은 미래의 심박수를 예측하는 데 있어 이산 모델보다 훨씬 뛰어난 성능을 보였습니다.
• 뉴런: 실제 뇌 기록을 통해, cPLRNN은 뉴런이 두 가지 안정적인 작동 모드(휴식과 발화)를 가진다는 "쌍안정성(bistable)" 상태를 발견했습니다. 이는 모델이 수학적 분석만으로 밝혀낸 중요한 생물학적 통찰입니다.

이것이 왜 중요한가

이 논문은 cPLRNN이 "동역학계 재구성" 분야에서 중요한 진전임을 시사합니다. 이 모델은 빠르고 정확한 모델(이산 모델)과 매끄럽고 연속적인 모델(뉴럴 ODE) 사이에서 하나를 선택할 필요가 없다는 것을 증명합니다. 두 가지 모두를 가질 수 있습니다.

"직선" 트릭을 사용함으로써, cPLRNN은 수치 적분의 느리고 고된 과정을 피합니다. 이를 통해 과학자들은 데이터를 억지로 틀에 맞추지 않고도 지저지고 불규칙한 데이터를 다룰 수 있게 되었습니다. 무엇보다도, cPLRNN은 과학자들이 사랑하는 "수학적 분석 가능성"을 유지합니다. 모델이 단순한 선형 조각들로 구성되어 있기 때문에, 연구자들은 끝없는 시뮬레이션을 돌리지 않고도 강력한 수학적 도구를 사용하여 시스템의 휴지점이나 반복되는 루프와 같은 숨겨진 구조를 찾아낼 수 있습니다.

저자들은 이 방법이 강력하지만 완벽하지는 않다고 언급했습니다. 매우 드문 경우에 수학적으로 "흔들림(수치적 불안정성)"이 발생할 수 있으며, 스위칭 시간을 찾는 알고리즘이 경계가 너무 많을 경우 막힐 수도 있습니다. 그러나 대부분의 실용적인 문제, 특히 불규칙한 데이터나 갑작스러운 도약이 포함된 문제를 다룰 때, cPLRNN은 자연계의 복잡한 메커니즘을 이해하기 위한 빠르고 정확하며 투명한 방법을 제공합니다. 이 모델은 AI라는 블랙박스를, 톱니바퀴가 어떻게 돌아가는지 정확히 볼 수 있는 투명한 유리 벽이 있는 기계로 바꾸어 놓습니다.