Square-root cancellation for sums of coefficients of $\operatorname{GL}(m)$-automorphic forms over values of random polynomials

기술적 요약: 무작위 다항식의 값에 대한 $GL_m$-자기공형 형식 계수의 합에 대한 제곱근 상쇄(Square-Root Cancellation)

문제 정의
본 논문은 자기공형 형식의 푸리에 계수를 다항식 수열을 따라 평가한 합을 추정하는 문제를 다룬다. 구체적으로, 유니터리 중심 캐릭터를 갖는 $\mathbb{Q}$ 위의 $GL_m$ 자기공형 기약 큐스프(cuspidal) 표현 $\pi$와 차수 $d$인 다항식 $P \in \mathbb{Z}[t]$가 주어졌을 때, 저자들은 다음 합을 조사한다:
$$S_P(x) = \sum_{\substack{n \le x \\ P(n) > 0}} \lambda_\pi(P(n))$$
여기서 $\lambda_\pi(n)$은 $\pi$의 정규화된 푸리에 계수를 나타낸다. 핵심 질문은 이 합이 "제곱근 상쇄(square-root cancellation)"를 보이는지, 즉 무작위 다항식들의 가계(family)에 대해 평균을 내었을 때 $S_P(x) = O(x^{1/2})$가 성립하는지 여부이다.

선형 다항식($d=1$)의 경우 $L$-함수와 합 공식(summation formulas)을 통해 다뤄지는 고전적인 문제인 푸리에 계수의 평균값 추정 문제로 귀결되지만, 일반적인 $d \ge 2$의 경우 특정 다항식에 대해서는 다루기 매우 까다로운 것으로 간주된다. 기존 연구들은 트레이스 공식(trace formulas)이나 셀베르그 고윳값 추측(Selberg eigenvalue conjecture)에 의존하는 오차항을 가진 sup-norm 경계 등을 활용하여 특정 이차 다항식과 $GL_2$ 형식에 대한 결과를 확립해 왔다 (예: Blomer, Templier, Templier–Tsimerman).

방법론
저자들은 다항식의 높이 $|P|$ (계수의 절대값의 최댓값)에 따라 다항식을 정렬하고, 차수가 $d$이고 높이가 $\le H$인 다항식들의 집합 위에서 평균을 내는 확률론적 접근 방식을 채택한다. 방법론은 세 가지 주요 분석 단계로 진행된다:

1. 이차 모멘트 분석 (Second Moment Analysis): 증명의 핵심은 다항식 가계에 대한 합의 이차 모멘트를 추정하는 것이다:
   $$\frac{1}{\#\mathcal{P}} \sum_{P \in \mathcal{P}} \left| \sum_{n \le x} \lambda_\pi(P(n)) \right|^2$$
   여기서 $\mathcal{P} = \{P \in \mathbb{Z}[t] : \deg(P)=d, |P| \le H\}$이다.

2. 원법(Circle Method) 및 지수 합(Exponential Sums):

   • 소원(Minor Arcs)을 포함하는 경우 (점근적 결과): $GL_2$ 및 $GL_3$의 경우, 저자들은 원법을 활용한다. 합의 제곱을 전개하고 대각 항($n_1 = n_2$)과 비대각 항($n_1 \neq n_2$)을 분리한다. 비대각 항은 $\sum \lambda_\pi(n) e^{2\pi i \gamma n}$ 형태의 꼬리(twisted) 선형 합에 대한 경계치를 사용하여 처리한다.
     • $GL_2$의 경우, 윌튼(Wilton)의 경계치를 사용한다.
     • $GL_3$의 경우, 밀러(Miller)의 첨가적 꼬리(additive twists)에 관한 결과를 활용한다.
     • $GL_m$ ($m \ge 2$)의 경우, 장, 뤼, 왕(Jiang, Lü, Wang)의 경계치를 사용한다.
   • 소원 없이 (상한값): 일반적인 $m$에 대해, 저자들은 꼬리 지수 합에 대한 구체적인 점근적 경계가 필요하지 않도록 가정을 완화한다. 이들은 무작위 다항식의 계수를 매끄럽게 하기 위해 가우스 커널(야코비 테타 함수)을 도입한다. 이를 통해 지수 합에 대한 더 약한 조건 하에서도 원법을 적용할 수 있게 된다. 구체적으로는 $\sup_{a/q} |\sum \lambda_\pi(n) e^{2\pi i (a/q) n}| \ll q^\sigma x^\tau$ 형태의 균등한 경계만을 요구한다.

3. 랭킨-셀베르그 이론 (Rankin–Selberg Theory): 이차 모멘트의 대각 항은 계수 자체의 이차 모멘트의 점근적 거동, 즉 $\sum_{n \le x} |\lambda_\pi(n)|^2 \sim C_\pi x$를 사용하여 평가된다. 이는 랭킨-셀베르크 $L$-함수 $L(s, \pi \times \tilde{\pi})$로부터 유도된다.

주요 기여 및 결과

1. 일반적인 제곱근 상쇄 (정리 1.1):
   저자들은 임의의 차수 $d$에 대해 거의 모든 다항식에 대하여, 모든 $GL_m$ 큐스프 형식($m \ge 2$)에 대해 제곱근 상쇄가 발생함을 무조건적으로 입증하였다. 구체적으로 $x \le H^{\alpha - \varepsilon}$ (여기서 $\alpha$는 $m$과 $d$에 의존)일 때, 제곱된 합의 평균은 $O(x)$로 유계된다. 이는 일반적인 다항식에 대해 해당 합이 $O(x^{1/2})$임을 의미한다.

   • 지수 $\alpha$는 $\min \left( \frac{2}{2d(2m+3) + 3m + 4}, \frac{2}{d(m^2-1)} \right)$로 주어진다.

2. $GL_2$ 및 $GL_3$에 대한 점근 공식 (정리 1.2):
   $m=2$와 $m=3$의 경우, 저자들은 더 강력한 결과인 이차 모멘트에 대한 점근 공식을 증명한다:
   $$\frac{1}{\#\mathcal{P}} \sum_{P \in \mathcal{P}} \left| \sum_{n \le x} \lambda_\pi(P(n)) \right|^2 = C_\pi x + O\left( \frac{x}{(\log x)^N} \right)$$
   이는 $x \le H^{\beta(m) - \varepsilon}$에서 성립하며, 여기서 $\beta(2) = \frac{1}{2+3d}$이고 $\beta(3) = \frac{1}{7d+4}$이다. 이는 무작위 합이 분산이 $x$에 비례하는 랜덤 워크(random walk)처럼 행동함을 확인시켜 준다.

3. 산술 함수에 대한 일반 정리 (정리 3.1 & 4.1):
   본 논문은 임의의 산술 함수 $g(n)$의 합에 대한 이차 모멘트에 관한 일반적인 프레임워크(정리 3.1)를 제공한다. 단, $g$가 특정 꼬리 합 경계와 이차 모멘트 조건을 만족해야 한다. 이는 무작위 다항식의 값에 대한 일반 산술 함수의 이차 모멘트 점근식을 제시한 문헌 중 최초의 결과이다.

의의 및 주장
본 논문은 무작위 다항식의 값에 대한 $GL_m$-자기공형 계수 합에 대해 임의의 차수에 걸쳐 제곱근 상쇄를 입증한 최초의 무조건적 증명이라고 주장한다. 특정 다항식에서 벗어나 "일반적인(generic)" 설정에 초점을 맞춤으로써, 저자들은 일반적인 문제의 난해함을 우회하였다.

저자들은 황(Huang)이나 다스굽타-리옹-영(Dasgupta–Leung–Young) 등에 의한 최근의 특정 $GL_2$ 사례의 진전이 특정 다항식에 대한 오차항을 개선하기는 하지만, 본 연구의 무작위 다항식 설정에서의 지수 $\beta(2)$를 즉각적으로 개선하지는 못한다는 점을 강조한다. 본 연구의 의의는 셀베르그 고윳값 추측에 의존하지 않는 무조건성(unconditionality)과 더 높은 랭크의 군($m \ge 2$인 $GL_m$)으로의 확장성에 있다.

본 연구는 계수의 절대값에 관한 문제(통상 로그 수준의 절감만을 허용함)와 달리, 상쇄가 기대되는 부호가 있는 합(signed sums)에 집중함으로써 차별화된다. 결과는 원법과 가우스 커널을 포함하는 새로운 확률론적 프레임워크에 꼬리 선형 합(장-뤼-왕, 밀러, 윌튼의 결과)에 대한 알려진 경계치를 결합하여 도출되었다.