Asymptotic statistics for finite continued fractions with restricted digits

1. 연구 배경 및 문제 제기 (Problem)

이 논문은 수론의 고전적인 난제 중 하나인 자렘바 추측 (Zaremba's Conjecture) 과 그 확장에 대한 점근적 통계를 다룹니다.

• 자렘바 추측 (Conjecture 1.1): 임의의 자연수 $N$에 대해, 분모가 $N$인 유리수 $a/N$의 연분수 전개 $[0; a_1, a_2, \dots, a_\ell]$에서 모든 부분 몫 (partial quotient) $a_j$가 어떤 절대 상수 $A$ 이하가 되는 $a$가 존재한다는 주장입니다.
• 현재 상황: Bourgain-Kontorovich (2014) 는 $A=50$인 경우와 밀도 (density) 의 관점에서 거의 모든 $N$에 대해 추측이 성립함을 보였으나, 정확한 $A$의 값이나 모든 $N$에 대한 보장은 여전히 미해결 상태입니다.
• 프랙탈 차원과의 연관성: Hensley 는 자렘바 추측이 성립하기 위한 충분 조건으로, 제한된 숫자 $A$를 가진 실수 집합 $E_A$의 하우스도르프 차원 $\delta_A$가 $1/2$보다 커야 함을 제시했습니다 (Conjecture 1.2).
• 연구의 목표: 특정 분모 $N$을 가진 유리수 집합의 크기 $|\Sigma_{N,A}|$가 점근적으로 $N^{2\delta_A - 1}$에 비례한다는 강한 형태의 추측 (Conjecture 1.3) 을 검증하는 것입니다. 하지만 고정된 분모 $N$에 대한 정확한 통계를 구하는 것은 매우 어렵기 때문에, 저자는 $\epsilon$-두꺼운화 ($\epsilon$-thickening) 된 집합을 도입하여 평균적인 (averaging sense) 점근적 행동을 분석하고자 합니다.

2. 방법론 (Methodology)

저자는 동역학계 (dynamical systems) 의 전송 연산자 (Transfer Operator) 기법과 타우버리안 정리 (Tauberian theorem) 를 결합하여 문제를 접근합니다.

1. 제약된 전송 연산자 (Constrained Transfer Operators):

   • 가우스 맵 (Gauss map) $T(x) = \{1/x\}$ 및 허수 이차체 $\mathbb{Q}(\sqrt{-d})$ 위의 복소 가우스 맵에 대해 정의됩니다.
   • 숫자가 제한된 집합 $A$에 해당하는 역분지 (inverse branches) 만을 포함하도록 연산자 $L_{s,w,A}$를 정의합니다.
   • 이 연산자의 스펙트럼 성질 (quasi-compactness, 고유값의 존재, Dolgopyat 추정치) 을 분석하여, 연산자의 최대 고유값 $\lambda_{s,w,A}$가 $1$이 되는 지점$s_0(w)$를 찾습니다. 이때$s_0(0) = \delta_A$ (하우스도르프 차원) 가 됩니다.

2. 복소 해석학 및 Perron 공식:

   • 연분수 길이에 대한 생성함수 (Dirichlet series) $L(s,w)$를 정의하고, 이를 전송 연산자의 resolvent 와 연결합니다.
   • Perron 공식 (Perron's Formula) 을 사용하여 복소 평면에서의 적분을 통해 계수 $d_n(w)$의 합 (즉, 집합의 크기) 에 대한 점근적 공식을 유도합니다. 이 과정에서 적분 경로를 이동하며 주극점 (simple pole) $s_0(w)$에서의 잔류 (residue) 를 계산합니다.

3. 확률론적 평활화 과정 (Probabilistic Smoothing Process):

   • 고정된 $N$에 대한 정확한 계산을 피하기 위해, $N$ 주변의 작은 구간 $[N - \lfloor N\epsilon(N) \rfloor, N]$에 걸쳐 정의된 보조 확률 공간 $\Sigma_{N,A}(\epsilon)$을 도입합니다.
   • 이 평활화 과정을 통해 점근적 오차 항을 통제하고, 집합 크기에 대한 더 깔끔한 점근적 식을 얻습니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

이 논문은 실수 연분수와 허수 이차체 위의 복소 연분수 모두에 대해 다음과 같은 결과를 도출했습니다.

가. 실수 연분수에 대한 결과 (Theorem 1.4)

• 결과: 제한된 숫자 $A$를 가진 유리수 집합 $\Sigma_{N,A}$를 포함하는 보조 확률 공간 $\Sigma_{N,A}(\epsilon)$ ($\Sigma_{N,A} \subset \Sigma_{N,A}(\epsilon) \subset \Omega_{N,A}$) 을 구성할 수 있으며, 그 크기는 다음과 같이 점근적으로 행동합니다.
  $$|\Sigma_{N,A}(\epsilon)| \sim N^{2\delta_A - \eta}$$
  여기서 $0 < \eta < 1$인 상수입니다.
• 의미: 이는 자렘바 추측이 "평균적인" 관점에서 성립함을 시사하며, 집합 크기의 지수 부분이 $2\delta_A - 1$에 근접함을 보여줍니다.

나. 복소 연분수에 대한 일반화 (Theorem 1.6)

• 배경: Hurwitz, Ei-Nakada-Natsui 등에 의해 연구된 허수 이차체 $\mathbb{Q}(\sqrt{-d})$ ($d \in \{1, 2, 3, 7, 11\}$) 위의 연분수 확장.
• 결과: 실수 경우와 유사하게, 복소 연분수에 대한 보조 공간 $\Sigma_{N,A}(\epsilon)$에 대해 다음이 성립합니다.
  $$|\Sigma_{N,A}(\epsilon)| \sim N^{2\delta_A - \theta}$$
  여기서 $0 < \theta < 2$입니다. (실수 경우의 $\eta$와 달리 지수 범위가 $0$에서$2$사이인 것은 하우스도르프 차원$\delta_A$가$0$과$2$ 사이 값을 가지기 때문입니다.)
• 특이점: 복소수 경우의 지수 $\theta$는 $1$과$2$ 사이로 개선될 가능성이 있으나, 현재 결과는 실수 경우보다 약하게 나옵니다.

4. 의의 및 의의 (Significance)

1. 자렘바 추측에 대한 새로운 증거: 고정된 분모 $N$에 대한 정확한 카운팅은 어렵지만, $\epsilon$-두꺼운화된 집합에 대한 점근적 통계가 자렘바 추측의 핵심인 $N^{2\delta_A - 1}$ (또는 복소수 경우 $N^{2\delta_A - 2}$) 형태를 따름을 보였습니다. 이는 추측이 "대부분의" 경우에 성립할 것이라는 강력한 동역학적 증거를 제공합니다.
2. 동역학적 방법론의 적용: 전송 연산자의 스펙트럼 갭 (spectral gap) 과 Dolgopyat 추정치를 활용하여, 수론적 문제 (유리수의 분포) 를 동역학적 시스템의 성질 (하우스도르프 차원) 과 직접적으로 연결했습니다.
3. 복소 연분수 영역의 확장: 실수 연분수에서 잘 알려진 결과들을 허수 이차체 위의 복소 연분수로 성공적으로 일반화하여, 자렘바 추측이 더 넓은 수체 (number fields) 에서도 유효할 수 있음을 시사합니다.
4. 기술적 정교함: Perron 공식의 오차 항 분석과 평활화 과정을 통해, 기존 연구 (Bourgain-Kontorovich 등) 에서 사용된 원환체 방법 (circle method) 이나 조합론적 접근과는 다른, 해석적 동역학 (analytic dynamics) 기반의 접근법을 정립했습니다.

결론

이 논문은 제한된 숫자를 가진 연분수 집합의 크기에 대한 정밀한 점근적 공식을 유도함으로써, 자렘바 추측의 타당성을 동역학적 관점에서 뒷받침합니다. 특히 고정된 분모가 아닌 $\epsilon$-두꺼운화된 집합에 대한 평균적 행동을 분석함으로써, 기존에 풀기 어려웠던 정확한 카운팅 문제를 우회하여 해결책을 제시했습니다.