Explicit spectral gap for Hecke congruence covers of arithmetic Schottky surfaces

1. 연구 문제 및 배경 (Problem & Background)

• 배경: 이산 군 $\Gamma \subset SL_2(\mathbb{Z})$ 에 의해 정의된 쌍곡면 $X = \Gamma \backslash \mathbb{H}^2$ 의 라플라시안 (Laplacian) 스펙트럼은 중요한 연구 주제입니다. 특히, $\Gamma$ 가 유한한 면적 (finite-area) 을 갖는 경우 (예: $\Gamma = SL_2(\mathbb{Z})$) 셀버그 (Selberg) 의 $3/16$ 정리가 유명합니다.
• 문제: 그러나 $\Gamma$ 가 무한한 면적 (infinite-area) 을 갖는 "얇은 군 (thin groups)"인 경우, 스펙트럼 갭 (spectral gap) 에 대한 명확한 하한을 찾는 것은 훨씬 어렵습니다.
  • $\Gamma$ 의 극한 집합 (limit set) 의 하우스도르프 차원 (Hausdorff dimension) 을 $\delta$ 라고 할 때, $\delta > 1/2$ 인 경우 $L^2$ 스펙트럼은 유한하며, 가장 작은 고유값은 $\lambda_0 = \delta(1-\delta)$ 입니다.
  • 목표: $\Gamma$ 의 합동 부분군 (congruence subgroups), 특히 $\Gamma_0(p)$ 로 정의된 Hecke 합동 부분군에 대한 덮개 $X_0(p)$ 에서 발생하는 "새로운 (new)" 고유값들의 분포를 분석하고, 명시적 (explicit) 인 스펙트럼 갭을 증명하는 것입니다. 즉, $\lambda_1(p)$ 가 얼마나 큰 하한을 가지는지 규명하는 것입니다.
• 기존 연구의 한계:
  • Gamburd (2002) 는 $\delta > 5/6$ 인 경우 $\lambda_1(p) \ge 5/36$ 을 증명했습니다.
  • Bourgain-Gamburd-Sarnak (2011) 은 $\delta > 1/2$ 인 경우 갭이 존재함을 보였으나, **구체적인 수치 (explicit constant)**를 제공하지 않았습니다.
  • Calderón-Magee (2022) 는 아키텍처 Schottky 군에 대해 명시적인 갭을 개선했으나, 여전히 $\delta > 4/5$ 가 필요했고 갭의 크기가 제한적이었습니다.

2. 주요 결과 (Key Results)

이 논문은 **일반화 리만 가설 (GRH, Generalized Riemann Hypothesis)**을 가정하여 다음과 같은 결과를 도출합니다.

• 주요 정리 (Theorem 1.4):
  • $\Gamma \subset SL_2(\mathbb{Z})$ 가 Schottky 군이고 $\delta > 3/4$ 라고 가정합니다.
  • 2 차 $L$-함수에 대한 GRH 를 가정하면, "거의 모든 (density one subset)" 소수 $p$ 에 대해 다음이 성립합니다:
    $$\Omega(X_0(p)) \cap \left[ \frac{5}{6}\delta + \eta, \delta \right] \stackrel{m}{=} \Omega(X) \cap \left[ \frac{5}{6}\delta + \eta, \delta \right]$$
    여기서 $\Omega(X)$ 는 $X$ 의 고유값에 대응하는 $s$ 값들의 집합 ($\lambda = s(1-s)$) 입니다.
  • 의미: 새로운 고유값이 존재하지 않는 구간 (스펙트럼 갭) 의 하한이 $\frac{5}{6}\delta + \eta$ 입니다.
  • 비교:
    • Gamburd: $\delta > 5/6$ 필요, 갭 하한 $5/36$ (상수).
    • Calderón-Magee: $\delta > 4/5$ 필요, 갭 하한 $\frac{\delta}{6} + \frac{2}{3}$.
    • 본 논문: $\delta > 3/4$ 만 필요하며, 갭 하한이 $\frac{5}{6}\delta$ 로 더 큽니다. ($\delta < 1$ 이므로 $\frac{5}{6}\delta > \frac{\delta}{6} + \frac{2}{3}$ 임).
  • 오류 소수 개수: 조건을 만족하지 않는 소수 $p \le x$ 의 개수는 $O_\epsilon(x^{1 - \frac{3}{\delta}(\sigma - \frac{5}{6}\delta) + \epsilon})$ 으로 매우 드뭅니다.

3. 방법론 (Methodology)

논문은 다음과 같은 수학적 도구들을 결합하여 증명을 수행합니다.

가. 전이 연산자 (Transfer Operators) 및 정제된 제타 함수

• Schottky 군의 기하학적 구조: Schottky 군은 원판들의 집합을 사용하여 구성되며, 이를 통해 군 원소를 "단어 (words)"로 표현합니다.
• 전이 연산자: 고유값 문제는 전이 연산자 $L_{s, \rho}$ 의 고유값 1 과 동치입니다.
  • Dyatlov-Zworski 가 제안한 **정제된 전이 연산자 (Refined Transfer Operator, $L_{\tau, s, \rho}$)**를 사용합니다. 이는 "해상도 파라미터 $\tau$"를 도입하여 연산자의 크기를 제어하고, 고유함수의 존재 여부를 더 정밀하게 추정할 수 있게 합니다.
• 정제된 제타 함수: $\zeta_\tau(s, \lambda_p^0) = \det(1 - L_{\tau, s, \lambda_p^0}^2)$ 의 영점 (zeros) 을 분석하여 새로운 고유값의 개수를 세는 방식을 사용합니다.

나. 힐베르트 - 슈미트 노름 (Hilbert-Schmidt Norm) 추정

• Jensen 공식을 사용하여 영점의 개수 $N_p(\sigma)$ 를 전이 연산자의 힐베르트 - 슈미트 노름 $\|L_{\tau, s, \lambda_p^0}\|_{HS}$ 의 합으로 상한 (upper bound) 합니다.
• 개별 소수 $p$ 에 대한 노름 추정은 어렵지만, 소수 구간 $(x/2, x]$ 에 대한 합을 추정하는 것이 핵심 아이디어입니다.
  $$\sum_{p \sim x} \|L_{\tau, s, \lambda_p^0}\|_{HS}^2$$

다. 수론적 도구 및 GRH 활용

• Trace Formula (Trace of Induced Representation):
  • $\Gamma_0(p)$ 로 유도된 표현 $\lambda_p^0$ 의 대각합 (trace) $\text{tr}(\lambda_p^0(\gamma))$ 을 계산합니다.
  • $\gamma \not\equiv \pm I \pmod p$ 인 경우, 이 값은 Kronecker 기호 $\left( \frac{\text{tr}(\gamma)^2 - 4}{p} \right)$ 와 일치함을 보입니다 (Lemma 3.6).
• GRH 의 역할:
  • Kronecker 기호의 합 $\sum_{p \le x} \left( \frac{d}{p} \right)$ 에 대한 점근적 거동을 추정하기 위해 GRH 를 사용합니다.
  • GRH 하에서 이 합은 $O(x^{1/2+\epsilon})$ 으로 매우 작게 bound 됩니다.
  • 만약 GRH 를 사용하지 않는다면, conductor 에 대한 의존도가 커져서 $\delta > 3/4$ 라는 조건을 만족하는 명시적인 갭을 얻기 어렵습니다 (현재 알려진 무조건적 bound 는 너무 약함).

라. 최적화 (Optimization)

• 해상도 파라미터 $\tau$ 를 $x$ 의 함수로 최적화하여 ($\tau \approx x^{-3/2\delta}$), 최종적인 오차 항을 최소화하고 원하는 스펙트럼 갭을 얻습니다.

4. 기술적 기여 (Technical Contributions)

1. 명시적 갭의 개선: $\delta > 3/4$ 조건 하에서 $\frac{5}{6}\delta$ 라는 더 큰 스펙트럼 갭을 증명하여 기존 결과 (Gamburd, Calderón-Magee) 를 개선했습니다.
2. GRH 기반의 정밀한 추정: 얇은 군 (thin groups) 에 대한 스펙트럼 갭 문제에서 GRH 를 사용하여 character sum 을 정밀하게 제어함으로써, 명시적인 상수를 도출하는 데 성공했습니다.
3. 정제된 전이 연산자의 체계적 적용: Dyatlov-Zworski 의 정제된 전이 연산자 기법을 Hecke 합동 부분군의 맥락에 적용하여, 힐베르트 - 슈미트 노름의 합을 효과적으로 추정하는 새로운 프레임워크를 제시했습니다.
4. 대수적 구조와 해석학의 결합: 군 표현론 (유도 표현의 대각합), 수론 (Kronecker 기호, GRH), 그리고 동역학 시스템 (전이 연산자, Schottky 군의 기하학) 을 통합하여 문제를 해결했습니다.

5. 의의 및 영향 (Significance)

• 수론적 동역학: 이 결과는 아키텍처 Schottky 표면의 Hecke 덮개에 대한 스펙트럼 이론을 심화시켰으며, 이는 수론적 문제 (예: 소수 분포, 리만 가설 관련 문제) 와 동역학 시스템 (혼돈, 확산 등) 을 연결하는 중요한 고리입니다.
• 응용 가능성: 명시적인 스펙트럼 갭은 구체적인 수학적 문제 (예: 랜덤 워크의 수렴 속도, 디오판토스 근사, 소수 분포의 오차 항 등) 에 직접적으로 적용될 수 있습니다.
• 미래 연구: GRH 를 가정하지 않고도 유사한 결과를 얻을 수 있는지, 혹은 다른 얇은 군 (thin groups) 가족에 대해 이 방법이 확장 가능한지에 대한 연구의 발판이 됩니다.

요약하자면, 이 논문은 GRH 를 전제로 하여 Schottky 군의 Hecke 덮개에서 이전보다 더 넓고 명시적인 스펙트럼 갭을 증명한 중요한 성과입니다.