Moderate-to-large deviation asymptotics for real eigenvalues of the elliptic Ginibre matrices

기술 요약: 타원형 Ginibre 행렬의 실수 고윳값에 대한 중등-대규모 편차 점근론

1. 문제 정의

본 논문은 실수 Ginibre 앙상블(eGinOE)의 타원형 변형에서 실수 고윳값의 개수 $N_n$의 통계적 특성을 조사한다. $N_n$의 일반적인 거동은 이미 잘 확립되어 있다. 즉, 강한 비대칭성(고정된 비대칭 파라미터 $\tau \in [0,1)$)과 약한 비대칭성($n \to \infty$일 때 $\tau \to 1$) 모두에 대해 중심한계정리(CLT)와 대수의 법칙(LLN)이 성립한다. 그러나 희귀 사건(대규모 편차)의 확률은 여전히 미개척 영역으로 남아 있다.

기존 문헌은 극단적인 경우들을 다루어 왔다:

• 왼쪽 꼬리(Left Tail): 매우 적은 수의 실수 고윳값($m \ll \mathbb{E}[N_n]$)이 나타나는 경우.
• 오른쪽 꼬리(Right Tail): 거의 모든 고윳값이 실수인 경우($m \approx n$).

그러나 두 가지 중요한 중간 영역(intermediate regimes)이 해결되지 않은 채 남아 있었다:

1. 강한 비대칭성: 가우시안 변동 스케일과 극단적인 왼쪽 꼬리 사이를 잇는 중간 영역인 $m = O(\sqrt{n})$인 경우.
2. 약한 비대칭성: 가우시안 변동과 극단적인 오른쪽 꼬리 사이를 잇는 거시적 영역인 $m = O(n)$인 경우.

본 연구의 주요 목적은 이 중등-대규모 편차(moderate-to-large deviation) 영역에서 점근적 확률 $p_{n,m} = \mathbb{P}(N_n = m)$을 유도하여, 알려진 가우시안 변동 영역과 극단적인 대규모 편차 영역 사이의 자연스러운 연결을 확립하는 것이다.

2. 방법론

저자들은 실수 고윳값의 개수에 대한 생성 함수를 중심으로 엄밀한 해석적 접근법을 사용한다.

2.1. 생성 함수 및 Pfaffian 구조

$2n$인 짝수 차원의 경우, eGinOE는 Pfaffian 점 프로세스를 형성한다. $2n$ 차원에 대한 실수 고윳값의 확률 분포에 대한 생성 함수는 다음과 같이 행렬식으로 표현된다:
$$\sum_{k=0}^n z^k p_{2n,2k} = \det \left[ I_{2n} + (z-1)M_{2n} \right]$$
여기서 $M_{2n}$은 $(0,1)$ 범위 내에 스펙트럼을 갖는 특정 대칭 행렬이다. 이 표현식을 통해 로그 생성 함수를 $M_{2n}$의 거듭제곱들의 트레이스(trace)로 전개할 수 있다:
$$\log \left( \sum_{k=0}^n z^k p_{2n,2k} \right) = -\sum_{k=1}^\infty \frac{(1-z)^k}{k} \text{Tr}(M_{2n}^k)$$

2.2. 모멘트의 점근적 분석

저자들은 두 영역에서 $\text{Tr}(M_{2n}^k)$에 대한 알려진 점근적 결과들을 활용한다:

• 강한 비대칭성: $\text{Tr}(M_{2n}^k) \sim \sqrt{2n} \cdot C_k(\tau)$.
• 약한 비해칭성: $\text{Tr}(M_{2n}^k) \sim 2n \cdot C_k(\alpha)$, 여기서 $\tau = 1 - \alpha^2/n$.

이러한 극한값들은 폴리로그함수(polylogarithms)와 베셀 함수(Bessel functions)를 포함하는 적분으로 표현되는 극한 로그 생성 함수 $\Psi_s(z)$ 및 $\Psi_w(z)$의 유도를 가능하게 한다.

2.3. 생성 함수로부터 계수 도출 (핵심 기술 단계)

중심적인 과제는 생성 함수의 점근적 거동으로부터 계수 $p_{2n,2k}$의 점근적 거동을 복구하는 것이다. 저자들은 실수 근을 갖는 다항식의 "지수 프로파일(exponential profiles)"에 관한 Borodin, Corwin, Gorin [47]의 최신 결과를 적용한다.

• 약한 비대칭성: 스케일링이 $O(n)$이므로, [47]의 표준 정리가 직접 적용되어 계수들이 극한 로그 생성 함수의 르장드르 변환(Legendre transform)을 통해 유도된 비율 함수(rate function)를 따른다는 것을 확립한다.
• 강한 비대칭성: 스케일링이 $O(\sqrt{n})$이다. 다항식의 차수보다 선행 점근 차수가 작기 때문에 표준 정리는 적용되지 않는다. 저자들은 이 경우을 처리하기 위한 새로운 확장(정리 4.1)을 증명하며, 다항식의 아주 작은 부분만이 리딩 오더(leading order)에 기여하더라도 계수의 지수 프로파일이 여전히 존재하며 르장드르 변환에 의해 결정됨을 보여준다.

3. 주요 기여 및 결과

3.1. 주요 정리 (중등-대규모 편차 확률)

논문은 확률을 지배하는 비율 함수 $\phi_s(x)$와 $\phi_w(x)$를 유도한다:
$$\lim_{n \to \infty} \frac{\log p_{2n,2m}}{\text{scaling}} = -\phi(x)$$
여기서 $x$는 정규화된 실수 고윳값의 개수이다.

• 강한 비대칭성 ($\tau$ 고정, $m \sim \sqrt{n}$):
  비율 함수는 $\text{Li}_{3/2}$를 포함하는 함수에 대한 르장드르 변환으로 주어진다:
  $$\phi_s(x) = \sup_{u \in \mathbb{R}} \left\{ \frac{x}{2}u - \Psi_s(e^u) \right\}$$
  여기서 $\Psi_s(z) = -\sqrt{\frac{1+\tau}{1-\tau}} \frac{1}{2\pi} \text{Li}_{3/2}(1-z)$이다.

• 약한 비대칭성 ($\tau = 1 - \alpha^2/n$, $m \sim n$):
  비율 함수는 파라미터 $\alpha$를 포함하는 적분에 대한 르장드르 변환으로 주어진다:
  $$\phi_w(x) = \sup_{u \in \mathbb{R}} \left\{ \frac{x}{2}u - \Psi_w(e^u) \right\}$$
  여기서 $\Psi_w(z) = \frac{2}{\pi} \int_0^1 \log(1 - (1-z)e^{-\alpha^2 s^2}) \sqrt{1-s^2} \, ds$이다.

3.2. 일관성 및 매칭

저자들은 자신들의 결과가 기존 문헌과 엄밀하게 연결됨을 입증한다:

• 가우시안 영역: 비율 함수 $\phi_s$와 $\phi_w$의 최솟값은 알려진 극한 평균($\mathbb{E}[N_n]$)에서 발생하며, 그 곡률은 알려진 분산과 일치하여 중심한계정리를 회복한다.
• 극단적 왼쪽 꼬리: $x \to 0$일 때, 유도된 비율 함수는 매우 적은 수의 실수 고윳값에 대해 이미 알려진 점근적 확률을 회복한다 (결과 [15, 50]과 일치).
• 극단적 오른쪽 꼬리: 약한 비대칭성 영역에서 $x \to 1$일 때, 비율 함수는 $m \approx n$인 경우의 알려진 대규모 편차 결과를 회복한다 (결과 [4]와 일치).
• 보편성: 강한 비대칭성 영역에서의 비율 함수 형태는 $\tau$에 관계없이(스케일링 인자 제외) 독립적임을 보여주며, 이는 구형 앙상블 [31] 및 단순 대칭 배제 과정(SSEP) [18]에서 발견되는 것과 유사한 보편적 구조를 시사한다.

3.3. 누적 모멘트 및 생성 함수

논문은 또한 모든 차수 $\ell$에 대해 $N_n$의 누적 모멘트(cumulants)의 점근적 거동을 확립하여, 평균과 분산을 넘어선 분포의 형태에 대한 완전한 설명을 제공한다.

4. 의의 및 주장

본 논문은 타원형 Ginibre 앙상블의 실수 고윳값 개수에 대한 중등-대규모 편차 점근론을 체계적으로 유도한 첫 번째 연구라고 주장한다.

• 영역 간의 연결: 주요 기여는 가우시안 변동 영역과 극단적인 대규모 편차 영역 사이의 간극을 메워, 모든 스케일에 걸친 확률 분포에 대한 통합된 설명을 제공하는 것이다.
• 고전적 사례에 대한 새로운 결과: 본 결과는 중간 영역 $m=O(\sqrt{n})$이 이전에 규명되지 않았던 고전적인 실수 Ginibre 앙상블($\tau=0$)에 대해서도 새로운 내용임을 밝힌다.
• 방법론적 발전: [47]의 "지수 프로파일" 기법을 대규모 편차의 속도($c_n$)가 다항식 차수($n$)에 비해 아선형(sublinear)인 스케일링 영역까지 확장하였으며, 이는 강한 비대칭성 사례를 처리하기 위해 필요한 기술적 확장이다.
• 물리적 관련성: 저자들은 이러한 통계의 이해가 상전이, 동역학계의 안정성, 그리고 소멸하는 브라운 운동 입자(annihilating Brownian particles)와의 연결성을 포함하여 비가역적(non-Hermitian) 시스템의 스펙트럼 특성을 규명하는 데 필수적이라고 언급한다.

논문은 분석이 짝수 차원에서 사용 가능한 행렬식 공식에 의존하고 있음을 인정하며, 생성 함수에 대한 다루기 쉬운 행렬식 표현이 부족하기 때문에 홀수 차원으로 이 결과를 확장하는 것은 향-과제로 남겨둔다고 결론짓는다.