The Lang-Trotter conjecture on average for genus-$2$ curves with $S_3$ reduced automorphism group

1. 연구 배경 및 문제 제기 (Problem)

• Lang-Trotter 추측: Lang 과 Trotter 는 CM(복소곱) 을 갖지 않는 타원곡선 $E/\mathbb{Q}$에 대해, $p < X$인 소수 $p$ 중 $E$가 $p$에서 초특이 (supersingular) 감소를 갖는 개수가 점근적으로 $c \frac{\sqrt{X}}{\log X}$에 비례할 것이라고 추측했습니다. 이는 여전히 미해결 문제입니다.
• 평균적 결과 (Average Result): Fouvry 와 Murty 는 타원곡선 가계 (family) 에 대해 위 추측의 평균적 형태를 증명했습니다. 즉, 매개변수 $a, b$를 갖는 타원곡선 $y^2 = x^3 + ax + b$의 집합에서 초특이 감소가 일어나는 소수의 개수의 평균이 위 점근식과 유사하게 행동함을 보였습니다.
• 연구의 목적: 본 논문은 이 '평균적 Lang-Trotter 추측'을 종수 2 (genus-2) 곡선으로 확장하는 것을 목표로 합니다. 특히, 축소 자동사상 군 (reduced automorphism group) 이 대칭군 $S_3$를 포함하는 특정한 종수 2 곡선 가계 $C_\lambda$를 대상으로 합니다.

2. 연구 대상 및 정의 (Object)

• 대상 곡선: 매개변수 $\lambda \in K$ (대수적 폐체) 에 의해 정의되는 종수 2 곡선:
  $$C_\lambda: y^2 = x(x-1)(x-\lambda)\left(x - \frac{\lambda-1}{\lambda}\right)\left(x - \frac{1}{1-\lambda}\right)$$
  이 곡선들은 축소 자동사상 군 $RA(C_\lambda)$가 $S_3$를 포함하는 것으로 특징지어집니다. (대부분의 $\lambda$에 대해 $RA(C_\lambda) \cong S_3$입니다.)
• 초특이성 (Superspeciality): 종수 2 곡선 $C$가 $p$에서 초특이 (superspecial) 라는 것은 그 야코비 다양체 (Jacobian variety) 가 초특이 타원곡선들의 곱과 동형임을 의미합니다.
• 주요 질문: $\lambda \in \mathbb{Q}$에 대해, $p < X$인 소수 중 $C_\lambda$가 $p$에서 초특이 감소를 갖는 개수 $\phi_\lambda(X)$의 평균을 구하는 것입니다.

3. 방법론 (Methodology)

저자들은 다음과 같은 단계적 접근법을 사용했습니다:

1. 타원곡선으로의 환원 (Reduction to Elliptic Curves):

   • Ibukiyama, Katsura, Oort 의 결과에 따라, $C_\lambda$가 초특이일 필요충분조건은 두 개의 연관된 타원곡선 $E_{\Lambda-}(\lambda)$와 $E_{\Lambda+}(\lambda)$가 모두 초특이인 것입니다.
   • 이 두 타원곡선은 $\lambda$와 $\sqrt{\lambda^2-\lambda+1}$을 계수로 갖는 특정 방정식으로 정의됩니다.

2. 소수 $p$별 초특이 $\lambda$의 개수 계산 ($\psi_p$):

   • 주어진 소수 $p$에 대해, $\mathbb{F}_p$ 위에서 $C_\lambda$가 초특이가 되는 $\lambda$의 개수 $\psi_p$를 계산합니다.
   • 이를 위해 $E_{\Lambda\pm}(\lambda)$의 초특이성 조건을 Hilbert Class Polynomial $P_D(X)$의 근과 연결했습니다.
   • Endomorphism Ring 분석: $p \equiv 1 \pmod 4$와 $p \equiv 3 \pmod 4$의 경우로 나누어 타원곡선의 엔도모피즘 링 (endomorphism ring) 을 분석하고, 이를 통해 $j$-불변량 (j-invariant) 이 특정 Hilbert Class Polynomial 의 근임을 보였습니다.
     • $p \equiv 1 \pmod 4$: $j$-불변량은 $P_{3p}(X) \pmod p$의 근입니다.
     • $p \equiv 11 \pmod{12}$: $j$-불변량은 $P_p(X) \pmod p$의 근입니다.
     • $p \equiv 7 \pmod{12}$: 초특이인 $\lambda$는 존재하지 않음을 증명했습니다.

3. 다항식의 인수분해 및 근의 중복도 분석:

   • $P_{3p}(X) \pmod p$의 인수분해 구조를 상세히 분석했습니다. 특히 $p \equiv 1 \pmod 4$인 경우, $P_{3p}(X)$가 $\mathbb{F}_p$ 위에서 어떻게 분해되는지 (특정 상수근 $8000, 54000$의 중복도와 나머지 근들의 구조) 를 Gross-Zagier 공식과 모듈러 다항식 (modular polynomials) 의 성질을 이용해 규명했습니다.

4. 평균 계산 (Average Estimation):

   • 계산된 $\psi_p$ 값을 사용하여 $\sum_{|\lambda| \le N} \phi_\lambda(X)$를 합산했습니다.
   • Fouvry 와 Murty 의 기법을 차용하여, 소수 $p$에 대한 합을 Dirichlet $L$-함수와 Legendre 기호를 이용한 합으로 변환하고, Polya-Vinogradov 부등식 및 Abel 합변환을 적용하여 점근적 행동을 유도했습니다.

4. 주요 결과 (Key Results)

논문은 세 가지 주요 정리를 증명했습니다:

• Theorem A (소수 $p$별 $\psi_p$의 공식):
  소수 $p \ge 5$에 대해, $\mathbb{F}_p$에서 $C_\lambda$가 초특이가 되는 $\lambda$의 개수 $\psi_p$는 다음과 같습니다.

  • $p \equiv 1 \pmod 4$: $\psi_p = \frac{3}{2} h(-3p)$
  • $p \equiv 7 \pmod{12}$: $\psi_p = 0$
  • $p \equiv 11 \pmod{12}$: $\psi_p = 3 h(-p)$
    (여기서 $h(-D)$는 판별식 $-D$의 이차 형식류수입니다.)

• Theorem B (정수 $\lambda$에 대한 평균):
  $N > X^{1+\epsilon}$일 때, $|\lambda| \le N$인 정수 $\lambda$에 대한 평균은 다음과 같습니다.
  $$\frac{1}{N} \sum_{|\lambda| \le N} \phi_\lambda(X) \sim \frac{(6 + 4\sqrt{3})\pi}{9} \frac{\sqrt{X}}{\log X}$$

• Theorem C (유리수 $\lambda$에 대한 평균):
  높이 (height) $ht(\lambda) \le N$인 유리수 $\lambda$에 대한 평균은 다음과 같습니다.
  $$\frac{1}{N^2} \sum_{\lambda \in \mathbb{Q}, ht(\lambda) \le N} \phi_\lambda(X) \sim \frac{4(3 + 2\sqrt{3})}{3\pi} \frac{\sqrt{X}}{\log X}$$

5. 의의 및 기여 (Significance)

1. Lang-Trotter 추측의 종수 2 확장: 기존 타원곡선 (종수 1) 에 국한되었던 Lang-Trotter 추측의 평균적 형태를 종수 2 곡선으로 성공적으로 확장했습니다.
2. 구체적인 가계 분석: $S_3$ 축소 자동사상 군을 갖는 구체적인 종수 2 곡선 가계에 대해, 초특이 감소가 일어나는 소수의 분포를 정량적으로 규명했습니다.
3. 이론적 도구 개발: $P_{3p}(X) \pmod p$의 인수분해 구조를 규명하고, 이를 통해 초특이 타원곡선과 Hilbert Class Polynomial 간의 관계를 정밀하게 연결하는 새로운 기법을 제시했습니다. 이는 향후 고차원 아벨 다양체나 다른 종수 곡선에 대한 연구에 중요한 기초를 제공합니다.
4. 상수 도출: 평균 점근식에서 나타나는 상수 $(6 + 4\sqrt{3})\pi/9$와 $4(3 + 2\sqrt{3})/(3\pi)$는 해당 곡선 가계의 대칭성과 기하학적 구조가 어떻게 산술적 분포에 영향을 미치는지를 보여줍니다.

요약하자면, 이 논문은 대수기하학과 정수론의 교차점에서, 특정 대칭성을 가진 종수 2 곡선들의 초특이성 분포를 체계적으로 분석하여 Lang-Trotter 추측의 평균적 형태를 확립한 중요한 연구입니다.