Deformation of semi-circle law for the correlated time series and Phase transition

당신이 아주 작은 사각형 격자로 이루어진 거대하고 마법 같은 거울을 가지고 있다고 상상해 보십시오. 만약 이 거울을 오래된 TV의 정적(static)과 같은 완전히 무작위적이고 혼돈스러운 노이즈로 채운다면, 당신이 보는 반사상은 '반원 법칙(semicircle law)'이라는 매우 예측 가능하고 매끄러운 형태를 따르게 됩니다. 그것은 마치 완벽하고 부드러운 언덕과 같습니다. 양 끝은 낮고, 가운데는 높으며, 너무 격렬한 일은 일어나지 않는 형태입니다.

하지만 이 노이즈가 무작위가 아니라면 어떻게 될까요? 만약 거울 속의 사각형들이 서로 이웃한 칸들에게 비밀을 속삭이며 패턴을 만들어낸다면, 즉 **시간적 상관관계(temporal correlations)**를 가진다면 어떻게 될까요? 이것이 바로 마사토 히사카도(Masato Hisakado)와 타쿠야 카네코(Takuya Kaneko)가 연구한 내용입니다. 그들은 금융 시계열(주식 가격이나 환율 등)을 가져와서 이 '속삭임'이 언덕의 모양을 어떻게 변화시키는지 알아보기 위해 '위그너 행렬(Wigner matrices)'을 구축했습니다.

거대한 반전: 언덕에 뾰족한 왕관이 씌워지다

그들의 주요 발견은, 금융 수치들이 서로 상관되어 있을 때 완벽한 반원이 변형된다는 것입니다. 단순히 출렁이는 것이 아니라, 형태 자체가 변합니다. 언덕의 중심부는 훨씬 더 높고 날카로운 정점이 되고, 꼬리 부분(양 끝)은 더 길게 늘어나 '두꺼워집(fatter)'집니다.

이것을 사람들이 원형으로 서 있는 군중이라고 생각해 보십시오. 만약 모두가 독립적이라면, 그들은 고르게 퍼져 있을 것입니다. 하지만 만약 그들이 서로 손을 잡고 서로의 움직임에 반응하고 있다면(상관관계), 그들은 가운데로 더 빽빽하게 모이고 가장자리로는 더 길게 늘어날 것입니다. 저자들은 상관관계가 강해질수록 정점은 더 뾰족해지고 꼬리는 더 두꺼워진다는 것을 발견했습니다.

"마법의 숫자"와 상전이(Phase Transition)

여기서부터 정말 흥미로워집니다. 저자들은 두 가지 유형의 '속삭임' 또는 상관관계를 살펴보았습니다:

1. 지수적 감소(Exponential Decay): 속삭임이 빠르게 사라지는 경우입니다. 마치 친구들 사이에서 비밀이 전달되다가 몇 단계 지나면 듣기를 멈추는 것과 같습니다. 이 경우 언덕은 뾰족해지지만, 안정적인 상태를 유지합니다.
2. 멱법칙 감소(Power Law Decay): 속삭임이 매우 끈질긴 경우입니다. 아주 느리게 사라지기 때문에, 오래전의 숫자가 현재에도 여전히 영향을 미칩니다. 여기서 **상전이(phase transition)**가 일어납니다.

저자들은 $\gamma = 1/2$라는 매우 중요한 '마법의 숫자'를 발견했습니다.

• 만약 속삭임의 끈질김이 1/2보다 크다면 ($\gamma > 1/2$), 시스템은 안정적입니다. '4차 모멘트'(꼬리가 얼마나 두꺼운지를 측정하는 수학적 방법)는 유한하게 유지되며, 최대 고윳값(언덕의 가장 높은 지점)도 유한합니다.
• 만 만약 끈질김이 1/2 이하라면 ($\gamma \le 1/2$), 상황은 통제 불능이 됩니다. 4차 모멘트와 최대 고윳값은 무한대가 됩니다.

이것은 일반적인 교통량 아래에서는 잘 버티지만, 교통량이 너무 '끈적해지면'(장기 상관관계가 너무 강해지면) 갑자기 붕괴하는 다리와 같습니다. 이는 단순한 추측이 아닙니다. 저자들은 수치 시뮬레이션을 통해 데이터가 1/2이라는 선을 기준으로 양쪽에서 다르게 행동하는 것을 명확히 확인하며 이 전이를 목격했습니다.

실전 탐정 작업

연구팀은 단순히 수학 놀이만 한 것이 아닙니다. 그들은 이 이론을 실제 금융 데이터에 테스트했습니다. 그들은 암호화폐, 원자재, 국채, 외환(FX) 환율을 포함한 25가지의 서로 다른 시계열을 조사했습니다.

그들은 다음과 같은 '귀무가설' 테스트를 설정했습니다: 만약 이 시장들이 그저 무작위 노이즈(정규 i.i.d.)라면 어떻게 될까?

• 결과: 주식과 원자재 같은 대부분의 시장은 반원 법칙에 꽤 잘 부합했습니다. 즉, 대부분 무작위적입니다.
• 예외 사례: 그러나 특정 외환 시장(USD/CHF, USD/CAD, EUR/CHF, EUR/GBP 등)과 일부 암호화 자산들은 이들이 단순한 무작위 노이즈라는 가설을 기각했습니다. 이들의 고윳값 분포는 앞서 언급한 징후들, 즉 더 높은 정점과 더 두꺼운 꼬리를 보였습니다.

저자들은 이러한 특정 시장에서의 편차가 주로 시간적 상관관계 때문임을 계산해 냈습니다. 예를 들어, USD/CHF 시장의 경우, 가장 짧은 시차(lag)에서의 상관관계가 충분히 강력하여 4차 모멘트를 무작위 노이즈에서 기대되는 범위인 2 근처를 훨씬 벗어난 2.128까지 끌어올렸습니다.

배제된 요인들

이 논문이 무엇을 주요 원인으로 보지 않는지 주목하는 것도 중요합니다. 금융 데이터는 '두꺼운 꼬리(fat tails, 극단적 사건)'로 유명하지만, 저자들은 이러한 특정 위그너 행렬의 경우 시간적 상관관계가 변형의 주된 동력이라고 주장합니다. 그들은 이러한 편차가 단지 수익률의 두꺼운 꼬리 특성 때문이 아니라, 상관관계 구조에 따라 달라진다는 것을 명시적으로 보여주었습니다.

또한, 그들은 이 현상이 다른 유형의 무작위 행렬(예: 위시트 행렬/Wishart matrices)과는 다르다는 점을 분명히 합니다. 다른 시스템에서는 '상전이'가 2차 모멘트에 의해 제어되지만, 이 위그너 행렬의 세계에서는 모든 것이 4차 모멘트에 달려 있습니다. 이는 서로 다른 유형의 무작위 행렬들이 각기 다른 '보편성 클래스(universality classes)'에 속해 있음을 시사합니다. 즉, 상관관계에 반응하는 그들만의 고유한 규칙이 있다는 것입니다.

확신의 근거는 무엇인가?

저자들은 상관관계의 강도가 높아짐에 따라 4차 모멘트가 증가한다는 자신들의 분석적 수학 모델에 확신을 가지고 있습니다. 그들은 합성 데이터(분수 브라운 운동 등)와 실제 금융 데이터를 사용한 수치 시뮬레이션을 통해 이를 뒷받침합니다. 이러한 시뮬레이션은 전이 지점 근처에서의 유한 크기 스케일링(finite-size scaling) 동작을 보여주며, $\gamma = 1/2$에서의 상전이가 실재한다는 사실을 지지합니다.

하지만 저자들은 모멘트 계산은 견고하지만, '약수렴(weak convergence)'(심층적인 통계적 보증)에 대한 엄밀한 수학적 증명을 위해서는 스티얼체스 변환(Stieltjes transform)과 같은 더 고급 도구가 필요하다는 점을 조심스럽게 언급했습니다. 따라서 시뮬레이션과 모멘트 분석을 통한 증거는 강력하지만, 수렴에 대한 절대적인 수학적 증명은 여전히 진행 중인 과제로 남아 있습니다.

요약하자면, 이 논문은 금융 시장, 특히 통화 시장이 단순한 무작위 노이즈가 아님을 밝혀냈습니다. 시장은 수학적 풍경을 왜곡하는 숨겨진 '기억'을 가지고 있으며, 이 기억이 부드러운 언덕을 뾰족하고 길게 늘어진 산맥으로 바꿉니다. 그리고 만약 이 기억이 너무 강해지면, 전체 구조는 임계점을 넘어 무한대로 치닫게 됩니다.