Learning Ergodic Dynamical Systems from a Finite Trajectory

당신이 날씨, 주식 시장, 혹은 문자 메시지의 다음 단어와 같이 혼돈스러운 시스템의 미래를 예측하려고 한다고 상상해 보십시오. 과학계에서는 이를 "동역학계(dynamical system)를 학습한다"라고 부릅니다. 보통 과학자들이 이러한 패턴을 학습하려고 할 때, 그들은 통계학의 황금률에 의존합니다. 바로 데이터 포인트들이 독립적이어야 한다는 규칙입니다. 동전 던지기를 생각해보십시오. 만약 앞면이 나왔다고 해서 다음 던지기에서 뒷면이 나올 확률이 변하지는 않습니다. 각 던지기는 새로운 시작입니다. 하지만 현실 세계는 좀처럼 그렇게 작동하지 않습니다. 동역학계에서는 다음 상태가 전적으로 현재 상태에 달려 있습니다. 오늘 비가 온다면, 내일도 비가 올 가능성이 높습니다. 데이터는 하나의 연속적인 이야기이며, 모든 매듭이 이전의 매듭과 연결되어 있는 끊어지지 않는 하나의 실타래와 같습니다.

이것이 이 논문이 다루는 까다로운 퍼즐입니다. 즉, 하나의 긴 문장이 이전 문장에 의존하는 단 하나의 길고 연속적인 이야기를 읽고 있을 때, 어떻게 그 시스템의 규칙을 배울 수 있는가 하는 문제입니다. 저자들은 "에르고딕(ergodic)" 시스템에 초점을 맞춥니다. 쉬운 말로, 에르고딕 시스템이란 충분히 오래 관찰하면 결국 가능한 모든 상태를 방문하게 되며, 각 상태에서 머무는 시간은 그곳에 존재할 장기적인 확률과 일치하는 시스템을 말합니다. 이는 공원을 돌아다니는 취객과 같습니다. 그를 충분히 오래 지켜본다면 그는 결국 모든 풀밭을 밟게 될 것이며, 특정 풀밭에 머무는 시간은 그가 그곳을 얼마나 좋아하는지를 알려줄 것입니다. 이 논문은 질문합니다. 이러한 긴 방황의 기록(walk) 하나만으로도 그런 시스템을 위한 신뢰할 수 있는 수정구슬을 만들 수 있는가?

"유한 궤적으로부터의 에르고딕 동역학계 학습(Learning ergodic dynamical systems from a finite trajectory)"이라는 제목의 이 논문은 이 시스템을 "마르코프 과정(Markov process)"으로 취급함으로써 이 문제에 깊이 파고듭니다. 마르코프 과정을 "따라하기 게임"이라고 생각해 보십시오. 리더의 다음 움직임은 5분 전에 어디에 있었는지가 아니라, 바로 지금 어디에 서 있는지에 의해서만 결정됩니다. 저자들은 이 게임의 규칙을 추측하기 위해 "비선형 최소제곱법(nonlinear least squares)"이라는 방법을 제안합니다. 당신이 무용수의 다음 동작을 추측하려고 한다고 상상해 보십시오. 당신은 그들을 잠시 관찰하고, 그들의 움직임을 기록한 다음, 그들이 다음에 어디로 발을 내디딜지 가장 잘 예측하는 선(또는 곡선)을 그리려고 노력합니다. 저자들은 데이터가 "끈적거리고"(과거에 의존적이며) 단 하나의 긴 기록만을 가지고 있더라도, 여전히 매우 훌륭한 예측을 할 수 있음을 보여줍니다. 그들은 시스템이 "에르고딕"하고 "잘 섞인다면(mixing well, 즉 구석에 영원히 갇혀 있지 않다면)" 그들의 방법이 수학적으로 작동함을 증명합니다. 또한 그들은 이 방법이 여러 숫을 동시에 예측하거나, 지난 몇 단계를 기억하는 시스템, 심지어 시스템이 시간에 따라 어떻게 진화하는지를 설명하는 수학적 도구인 "코프만 연산자(Koopman operator)"와 같은 더 복잡한 상황을 처리할 수 있도록 업그레이드될 수 있음을 보여줍니다. 그 결과는 우리의 예측이 얼마나 정확할지에 대한 보증(guarantees)을 제공하며, 이는 우리의 단일 기록이 얼마나 길었는지와 시스템의 행동이 얼마나 "혼돈스럽거나 끈적거리는지"에 따라 달라집니다.

단일 궤적의 이야기

저자들은 단순하지만 강력한 아이디어로 논의를 시작합니다. 즉, 시스템의 수천 개의 별개적이고 독립적인 스냅샷을 모으는 대신(이는 종종 불가능합니다), 시스템의 삶을 담은 단 하나의 연속적인 영화, 즉 "유한 궤적(finite trajectory)"으로부터 학습하는 데 집중하는 것입니다. 현실 세계에서 우리는 종종 하나의 역사만을 연구할 수 있습니다. 예를 들어 단 한 번의 주식 시장 폭락이나 스포츠 팀의 한 시즌 같은 것 말입니다. 논문은 우리가 이 하나의 역사로부터 게임의 규칙을 배울 수 있지만, 데이터가 독립적이지 않기 때문에 주의해야 한다고 주장합니다.

이를 가능하게 하기 위해 저자들은 "균등 기하 에르고딕성(uniform geometric ergodicity)"이라는 개념에 의중을 둡니다. 이는 용어가 어렵지만, 시스템이 자신의 과거를 얼마나 빨리 잊는지를 측정하는 척도라고 생각하면 됩니다. 만약 시스템이 "균등 기하 에르고딕적"이라면, 이는 시스템을 어디서 시작하든 상관없이 빠르게 안정적인 행동 패턴에 안착함을 의미합니다. 이는 팽이와 같습니다. 어떻게 튕기더라도 결국 일정한 흔들림 속으로 안착합니다. 저자들은 시스템이 이와 같이 작동한다면, 시작 지점의 "기억"이 충분히 빨리 사라져서 우리가 데이터의 장기적인 평균을 시스템의 진정한 본질에 대한 신뢰할 수 있는 가이드로 취급할 수 있음을 증명합니다.

그들 작업의 핵심은 "비선형 최소제곱법"이라 불리는 방법입니다. 로봇에게 춤의 다음 단계를 예측하도록 가르친다고 상상해 보십시오. 당신은 로봇에게 춤 영상을 보여줍니다(궤적). 로봇은 현재의 자세를 바탕으로 다음 동작을 추측하려고 노력합니다. "최소제곱" 부분은 로봇이 자신의 추측과 실제 움직임 사이의 총 오차를 최소화하려고 노력한다는 것을 의미합니다. 저자들은 로봇이 모든 프레임이 서로 연결된 하나의 연결된 영상으로부터 배우고 있음에도 불구하고, 영상이 충분히 길고 춤이 에르고딕하다면 여전히 완벽하게 춤을 배울 수 있음을 보여줍니다.

그들은 "고확률 보증(high-probability guarantees)"을 도출합니다. 이는 단순히 "작동한다"라고 말하는 것이 아니라, 그것이 작동할 확률이 정확히 얼마인지, 그리고 예측이 진실에 얼마나 가까울지를 계산한다는 것을 의미합니다. 그들은 정확도가 두 가지 주요 요소에 달려 있다는 것을 발견했습니다. 즉, 궤적이 얼마나 긴지(데이터가 많을수록 좋습니다)와 시스템이 얼마나 "끈적거리는지"(과거를 얼마나 빨리 잊는지)입니다. 시스템이 과거를 빠르게 잊는다면(높은 에르고딕성), 학습은 빠릅니다. 만약 시스템이 과거를 오랫동안 붙잡고 있다면(낮은 에르고딕성), 동일한 수준의 정확도를 얻기 위해 훨씬 더 긴 영상이 필요합니다.

기초를 넘어

이 논문은 단순한 단일 숫자 예측에 머물지 않습니다. 저자들은 자신들의 방법이 다음과 같은 더 복잡한 시나리오를 처리할 수 있을 만큼 유연하다는 것을 보여줍니다.

• 벡터 값 상태 (Vector-Valued States): 단 하나의 숫자(예: 온도)를 예측하는 대신, 시스템은 숫자들의 전체 벡터(예: 온도, 습도, 풍속을 동시에)를 예측해야 할 수도 있습니다. 저자들은 이 고차원 공간에서 전체 벡터를 하나의 객체로 취급함으로써, 자신들의 수학적 방법이 이러한 다차원 예측에서도 똑같이 잘 작동함을 보여줍니다.
• 고차 시스템 (Higher-Order Systems): 때때로 다음 단계는 현재 단계뿐만 아니라 지난 몇 단계에도 의존합니다. 자동차를 생각해 보십시오. 자동차의 다음 위치는 현재 위치뿐만 아니라 잠시 전의 속도에도 달려 있습니다. 저자들은 이러한 고차 시스템을 단순한 1차 시스템처럼 보이게 하는 새로운 형식으로 "들어 올리는(lift)" 방법을 보여주며, 이를 통해 자신들의 방법이 적용될 수 있게 합니다.
• 유한 상태 공간 (Finite-State Spaces): 만약 시스템이 보드게임의 칸 번호(1부터 100까지)처럼 몇 가지 특정 상태에만 있을 수 있다면 어떨까요? 저자들은 이 설정에 자신들의 방법을 적응시켜, 이것이 문장의 다음 단어를 예측하는 문제와 같은 문제들과 자연스럽게 연결됨을 보여줍니다. 그들은 "대리 최소제곱 접근법(surrogate least squares approach)"이라는 영리한 기술을 사용하여, 특정 상태를 예측하는 문제를 확률 벡터를 예측하는 문제로 전환하여 해결하기 쉽게 만듭니다.
• 코프만 연산자 (Koopman Operators): 마지막으로, 저자들은 "코프만 연산자"를 다룹니다. 이전의 방법들이 다음 단계를 예측하는 것에 관한 것이었다면, 코프만 연산자는 시스템의 모든 관측 가능한 특성의 전체적인 미래 진화를 예측하는 것에 관한 것입니다. 이는 단순히 위치뿐만 아니라 시스템의 모든 측면의 미래 행동을 열 수 있는 마스터 키를 갖는 것과 같습니다. 그들은 자신들의 최소제곱법이 실제로 이 마스터 키를 학습하는 방법임을 보여주며, 그 키가 자물쇠에 얼마나 잘 맞는지에 대한 보증을 제공합니다.

결론

이 논문은 단일 궤적으로부터 학습하는 것이 가능할 뿐만 아니라, 시스템이 에르고딕하다면 엄격한 수학적 보증과 함께 수행될 수 있다고 결론짓습니다. 저자들은 이를 위한 도구 상자를 제공하며, 여기에는 얼마나 많은 데이터가 필요한지와 예측이 얼마나 정확할지를 알려주는 공식이 포함되어 있습니다. 그들은 데이터가 의존적이지만(독립적이지 않지만), 에르고딕 시스템의 "망각" 특성이 이러한 도전을 극복할 수 있게 해준다는 점을 강조합니다. 결과는 단순히 추측하거나 시뮬레이션한 것이 아니라 수학적으로 증명되었으며, 이는 복잡한 현실 세계의 시스템을 단 하나의 역사로부터 이해하고 예측하는 데 있어 견고한 토대를 제공합니다. 이 논문은 향로의 문을 열어두며, 자신들이 특정 규범과 환경에 집중했더라도 핵심 아이디어가 훨씬 더 복잡한 시나리오로 확장될 수 있음을 시사하면서도, 현재로서는 단 하나의 이야지만으로도 게임의 규칙을 배우기에 충분하다는 점을 확고히 세웠습니다.