Long-memory Markov chains with power-law intensities

무작위성의 리듬

당신이 번화한 도시의 거리를 지켜보고 있다고 상상해 보세요. 자동차, 보행자, 배달 트럭들이 혼란스러운 춤을 추며 빠르게 지나갑니다. 때로는 단 하나의 사건이 연쇄 반응을 일으킵니다. 빨간불이 켜지면 갑자기 자동차 행렬이 멈춰 서고, 거리의 공연가가 저글링을 시작하면 군중이 모여들어 교통 흐름을 더욱 늦추기도 합니다. 과학에서는 이를 "자기 흥분(self-exciting)" 과정이라고 부르는데, 이는 한 사건이 다음 사건이 곧 일어날 가능성을 높이는 현상을 말합니다. 수십 년 동안 수학자들은 이를 모델링하기 위해 **호크스 프로세스(Hawkes process)**라는 도구를 사용해 왔습니다. 이것을 디지털 드럼 비트에 비유할 수 있습니다. 드럼이 한 번 타격될 때마다, 소리는 잠시 커졌다가 서서히 사라집니다.

까다로운 부분은 그 소리가 어떻게 사라지느냐 하는 점입니다. 많은 단순한 모델에서 소리는 몇 초 만에 멈추는 종소리처럼 빠르게 사라집니다. 이는 예측과 계산이 쉽습니다. 하지만 주식 시장, 지진, 또는 소셜 미디어 트렌드와 같은 현실 세계에서는 그 "메아리"가 훨씬 더 오래 지속되며, 거대한 종이 몇 시간 동안 웅웅거리는 것처럼 천천히 사라지는 경우가 많습니다. 이를 "장기 기억(long memory)"이라고 합니다. 문제는 메아리가 사라지는 방식이 "멱법칙(power law)"을 따를 때, 수학적 계산이 믿을 수 없을 정도로 복잡해진다는 것입니다. 다음 사건을 예측하려면 이론적으로 태초부터 발생한 모든 개별 사건을 기억해야 합니다. 이는 마치 우주의 전체 역사를 보여주는 백미러를 보면서 운전하려는 것과 같습니다. 처리하기에는 정보가 너무 많습니다. 이 논문은 이러한 복잡한 통계적 영역에 발을 들여, 슈퍼컴퓨터로 모든 것을 기억하지 않고도 이러한 긴 메아리를 추적할 수 있는 더 단순하고 스마트한 방법을 구축할 수 있는지 살펴봅니다.

---

논문의 핵심 아이디어: 메모리 절약 기술

이경섭 교수가 이끄는 저자들은 사용하기 훨씬 쉬우면서도 "장기 기억" 시스템처럼 작동하는 새로운 종류의 수학적 모델을 구축했습니다. 그들은 이를 **마르코프 성질을 가진 강도 모델(Markovian intensity model)**이라고 부릅니다. 이것이 왜 대단한 일인지 이해하기 위해, 당신이 커피숍에 다음 손님이 언제 들어올지 예측하려고 노력한다고 상상해 보세요.

기존의 복잡한 방식(표준 멱법칙 호크스 프로세스)에서는 다음 고객이 도착할 확률을 알기 위해, 이전의 모든 고객이 정확히 언제 들어왔는지 알아야 합니다. 각 고객이 서서히 사라지는 아주 작은 "흥분"을 더하기 때문입니다. 이는 지난 100년 동안 히터가 켜질 때마다의 기록을 모두 기억하여 방의 온도를 계산하려는 것과 같습니다.

이경섭 교수의 모델은 영리한 지름길을 제시합니다. 모델은 커피숍의 전체 역사를 기억하는 대신, 매 순간 오직 두 개의 숫자(2차원 상태)만을 추적합니다:

1. 현재의 "소음"이 얼마나 큰가 (현재의 강도)
2. 그 소음이 얼마나 빨리 사라지고 있는가 (감쇠 기울기)

이것을 체력 바(health bar)와 재생률(regeneration rate)을 가진 비디오 게임 캐릭터에 비유할 수 있습니다. 캐릭터가 과거에 언제 데미지를 입었는지 일일이 알 필요 없이, 현재 체력과 체력이 회복되는 속도만 알면 되는 것과 같습니다. 저자들은 새로운 사건이 발생할 때마다 이 두 숫자를 업데이트함으로써, 모델이 기존의 복잡한 시스템이 가진 "장기 기억" 동작을 완벽하게 흉내 낼 수 있다는 것을 증证明했습니다. 이 모델은 동일한 느린 메아리를 포착하면서도, 아주 작고 관리 가능한 메모리만을 사용합니다.

발견 및 증명 내용

이 논문은 단순히 이 기술이 작동할 것이라고 추측하는 데 그치지 않고, 엄격한 수학적 검증을 거쳤습니다.

첫째, 저자들은 이 새로운 시스템이 **안정적(stable)**임을 보여주었습니다. 수학의 세계에서 "안정적"이라는 것은 시스템이 통제 불능 상태에 빠지지 않는다는 것을 의미합니다. 이 모델을 오랫동안 실행하더라도 "체력 바"와 "재생률"이 무한대로 폭발하거나 0으로 추락하지 않고, 예측 가능한 반복 패턴 속에 안착하게 됩니다. 저자들은 공이 언덕 아래로 굴러 내려갈 때 절벽으로 날아가는 대신 골짜기에 멈출 것인지를 확인하는 것과 같은 "리아푸노프 기준(Lyapunov criteria)"을 사용하여 이를 증명했습니다. 새로운 사건으로부터 오는 "흥분"이 자연적인 감쇠 속도에 비해 너무 강하지 않다면, 시스템은 차분하고 예측 가능한 상태를 유지한다는 것을 밝혀냈습니다.

둘째, 모델이 진정으로 무작위적이면서도 연결되어 있음을 보여주었습니다. 저자들은 이 시스템이 어떤 상태든 도달할 수 있으며(기약성, irreducible), 지루한 루프에 갇히지 않는다(비주기성, aperiodic)는 것을 증명했습니다. 이는 모델이 현실 세계의 무질서하고 예측 불가능한 특성을 다룰 수 있을 만큼 유연하면서도, 동시에 수학적으로 건전하다는 것을 의미합니다.

마지막으로, 저자들은 모델이 실제로 현실 세계처럼 작동하는지 확인하기 위해 시뮬레이션을 수행했습니다. 그들은 새로운 모델을 사용하여 5만 개의 가상 이벤트를 생성하고, 이를 "로컬 휘틀 추정량(Local Whittle estimator)"이라는 도구로 분석했습니다. 이 도구는 노이즈 속에서 숨겨진 패턴을 찾는 탐정과 같습니다. 결과에 따르면, 모델이 안정성의 경계(가장 격렬한 상태)에 맞춰 조정되었을 때, 자연계에서 발견되는 "장기 기억" 행동을 성공적으로 재현했습니다. 과거 사건의 "메아리"는 마땅히 그래야 하는 만큼 길게 지속되었으며, 이는 두 숫자를 이용한 지름길이 효과적임을 확인시켜 주었습니다.

이것이 왜 중요한가

이 논문의 아름다움은 실질적인 골칫거리를 해결했다는 점에 있습니다. 이전에는 장기적인 메아리가 있는 시스템(금융 위기나 바이럴 트렌드 등)을 모델링하려면, 정확성(역사가 가득 담긴 복잡한 모델 사용)과 속도(너무 많이 잊어버리는 단순한 모델 사용) 중 하나를 선택해야 했습니다. 이경섭 교수의 모델은 이 두 가지의 장점을 모두 제공합니다. 즉, 장기 기억 시스템의 정확성과 단 두 개의 숫자만을 기억하는 시스템의 속도 및 단순성을 동시에 갖춘 것입니다.

저자들은 이러한 결과가 아직 실제 데이터를 수집한 것이 아니라 시뮬레이션과 수학적 증명에 기반하고 있다는 점을 주의 깊게 명시했습니다. 그러나 그들은 이론이 성립함을 보여주었습니다. 우주의 전체 역사를 기억해야 하는 필요성을 간단한 두 숫자의 업데이트 규칙으로 대체함으로써, 그들은 우리 세상의 복잡하고 자기 흥분적인 사건들을 더 쉽고, 빠르고, 정확하게 예측할 수 있는 문을 열었습니다. 이는 때때로 먼 과거를 이해하기 위해 모든 것을 되돌아볼 필요 없이, 바로 지금에 관한 올바른 두 가지를 알면 된다는 사실을 상기시켜 줍니다.