An Analogue of the Dedekind Eta Function for Hecke Groups $H(\sqrt{D})$

이 논문은 실수 이차체 (Real Quadratic Field) 의 기본 판별식 $D \equiv 1 \pmod 4$에 해당하는 헤케 군 (Hecke Group) $H(\sqrt{D})$을 위한 데데킨드 에타 함수 ($\eta$-function) 의 아날로그를 구성하고, 이에 수반되는 모듈러 형식 (Modular Form) 의 푸리에 계수 (Fourier coefficients) 의 점근적 성장과 부호 패턴을 연구한 것입니다.

주요 내용은 다음과 같습니다.

1. 연구 문제 및 배경

• 헤케 군 (Hecke Groups): 헤케는 $\lambda > 0$에 대해 $T_\lambda = \begin{pmatrix} 1 & \lambda \\ 0 & 1 \end{pmatrix}$와 $S = \begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix}$로 생성되는 군 $H(\lambda)$를 도입했습니다. $\lambda = 1$일 때는 모듈러 군 $SL(2, \mathbb{Z})$이 되며, $\lambda > 2$일 때는 무한한 면적을 가진 기본 영역 (Fundamental Domain) 을 갖는 제 2 종 푸카시안 군 (Fuchsian group of the second kind) 이 됩니다.
• 문제 제기: 기존 연구들은 주로 비정칙 (non-holomorphic) Eisenstein 급수나 Maass cusp 형식에 집중되어 있었습니다. 이 논문은 $D \equiv 1 \pmod 4$인 실수 이차체 $\mathbb{Q}(\sqrt{D})$에 대응하는 $\lambda = \sqrt{D}$인 헤케 군 $H(\sqrt{D})$에 대해 정칙 (holomorphic) 모듈러 형식을 구성하는 것을 목표로 합니다.
• 도전 과제: $H(\sqrt{D})$의 기본 영역은 무한한 면적을 가지므로, 제곱 적분 가능한 (square-integrable) 모듈러 형식은 존재하지 않습니다. 따라서 저자들은 제곱 적분 가능성 대신, $\infty$에서의 극점 (cusp) 에서 소멸하는 새로운 형태의 정칙 모듈러 함수를 구성합니다.

2. 주요 구성 및 정의

저자들은 고전적인 데데킨드 에타 함수 $\eta(z)$의 아날로그를 다음과 같이 정의합니다.

• $\eta_D(z)$의 정의:
  $$\eta_D(z) := q^{m_D} \prod_{n=1}^{\infty} \left( (1-q^n)^{\chi_D(n)} \prod_{a=1}^{D} (1 - e^{2\pi i a/D} q^n)^{\chi_D(a)} \right)$$
  여기서 $q = e^{2\pi i z / \sqrt{D}}$, $\chi_D$는 모듈로 $D$의 원시 실수 디리클레 문자 (primitive real character) 이며, $m_D$는 $L(-1, \chi_D) = -2m_D$를 만족하는 자연수입니다.
• 특수한 경우 ($D=5$): $D=5$인 경우, $\eta_5(z)$를 정의하고 이를 5 제곱한 $\Delta_5(z) = \eta_5(z)^5$가 $H(\sqrt{5})$에 대한 정칙 모듈러 형식이 됨을 증명합니다. 이는 람마누잔의 $\Delta(z)$의 아날로그 역할을 합니다.

3. 방법론

• 모듈러성 증명 (Modularity):
  • 데데킨드 에타 함수의 모듈러성 증명 방법을 일반화하여 적용했습니다.
  • 이중 함수 (Dual Function) 관계: $\Phi_D(z)$와 그 이중 함수 $\Phi^\#_D(z)$ 사이의 모듈러 변환 관계를 유도했습니다. 이는 Mellin 변환과 디리클레 $L$-함수의 함수 방정식을 사용하여 증명되었습니다.
  • Weil 스타일 증명: $\eta_D(z)$가 $H(\sqrt{D})$의 생성원 ($z \mapsto z+\sqrt{D}$ 및 $z \mapsto -1/z$) 에 대해 어떻게 변환되는지 직접 계산하여 모듈러성을 입증했습니다.
• 점근적 분석 (Asymptotic Analysis):
  • 푸리에 계수 $a_D(N)$의 크기를 분석하기 위해 Cauchy 적분 공식과 **정상 위상법 (Method of Stationary Phase)**을 사용했습니다.
  • 생성 함수 $G(q)$의 특이점 (singularities) 을 분석하여, $q$가 단위근 (roots of unity) 에 가까워질 때의 거동을 정밀하게 추정했습니다.
  • 특이 급수 (Singular Series): 계수의 부호 패턴을 결정하는 $S_D(N)$을 도입하고, 이를 디리클레 $L$-함수와 관련된 값들로 표현했습니다.

4. 주요 결과 (Key Results)

A. 모듈러성 (Theorems 1.6, 1.10)

• $\Delta_5(z)$와 $\eta_D(z)$ ($D>5$) 는 각각 $H(\sqrt{5})$와 $H(\sqrt{D})$에 대한 정칙 모듈러 형식입니다.
• 이 함수들은 $\infty$ 극점에서 소멸하며, $H(\sqrt{D})$의 작용 하에서 일정한 위상 인자 (root of unity) 를 곱해 변환됩니다.

B. 푸리에 계수의 점근적 성장 (Theorem 1.17)

• $a_D(N)$의 점근적 공식은 다음과 같이 유도되었습니다:
  $$a_D(N) \sim e^{\alpha_D} S_D(N) \frac{1}{N^{3/4}} \exp\left(2\sqrt{c_D N}\right)$$
  여기서 $c_D = \frac{\sqrt{D} L(2, \chi_D)}{n_D^2}$ ($n_D$는 $D$에 대한 최소 이차 비잉여수) 이며, $S_D(N)$은 특이 급수입니다.
• 성장률: 계수는 지수적으로 성장하지만, 데데킨드 에타 함수의 역수 (분할 함수 $p(N)$) 의 경우보다 느리고, $\Delta(z)$의 계수 (다항식 성장) 보다 빠릅니다. 즉, 중간 영역에 위치합니다.
• 부호 패턴: $a_D(N)$의 부호 변화는 $S_D(N)$에 의해 결정되며, 이는 주기적인 패턴을 보입니다. 예를 들어, $n_D=3$인 경우 부호 패턴은 3 주기를 가집니다.

C. 2 항 점근 전개 (Theorem 1.25, $D=5$의 경우)

• $D=5$인 경우, 주된 지수 항 외에 **2 차 지수 항 (secondary exponential term)**이 중요한 영향을 미칩니다.
• 이는 $a_5(N)$의 그래프가 $D=13, 17$의 경우보다 더 불규칙하고 '톱니 모양 (jagged)'으로 나타나는 이유를 설명합니다.
• 공식:
  $$a_5(N) \approx (\text{Leading Term}) + (\text{Secondary Term}) \cdot \cos(\dots) \cdot \exp(\dots)$$

D. 분할 함수와의 연결 (Section 7)

• $a_D(N)$을 고전적인 분할 함수 (partition functions) 와 연결하는 정확한 항등식을 유도했습니다.
• $a_D(N)$은 이차 비잉여수로 이루어진 분할, 그리고 특정 단위근을 가중치로 둔 분할들의 합으로 표현될 수 있음을 보였습니다.

5. 의의 및 기여

1. 새로운 모듈러 형식의 발견: 무한 면적을 가진 기본 영역을 갖는 헤케 군에 대해 정칙 모듈러 형식을 최초로 구성했습니다. 이는 기존에 주로 비정칙 형식이나 Maass 형식만 연구되었던 영역을 확장합니다.
2. 계수의 정밀한 분석: 푸리에 계수의 성장률과 부호 패턴에 대한 정량적인 분석을 제공하여, 무한 곱 (infinite product) 의 지수 구조가 계수의 거동에 미치는 영향을 명확히 했습니다.
3. 수론적 연결: 모듈러 형식의 계수와 분할 이론, $L$-함수, 그리고 이차체의 산술적 성질 (이차 비잉여수 등) 사이의 깊은 연결을 밝혔습니다.
4. 계산적 검증: $D=5, 13, 17$에 대한 구체적인 계수 값을 표로 제시하여 이론적 결과를 수치적으로 검증했습니다.

이 논문은 해석적 수론과 모듈러 형식 이론의 교차점에서 새로운 구조를 발견하고, 그 산술적 성질을 체계적으로 규명한 중요한 연구로 평가됩니다.