Counting square-free values of random polynomials

기술 요약: 무작위 다항식의 제곱 자유(Square-Free) 값의 개수 세기

문제 정의
본 논문은 정수 다항식이 취하는 제곱 자유 값의 개수를 세는 문제를 다룬다. $P \in \mathbb{Z}[t]$를 차수가 $d$인 다항식이라 하자. 관심 대상인 $E_P(x)$는 $1 \le n \le x$ 범위 내에서 $P(n)$이 제곱 자유 값인 실제 개수와 기대 주항(main term)인 $S_P x$ 사이의 오차항으로 정의된다. 여기서 $S_P$는 소수들에 대한 특이 급수(singular series) 곱이다. 모든 기약 다항식에 대해 $E_P(x) = o(x)$라는 것은 민속적 추측(folklore conjecture)이지만, $d \ge 4$인 경우에 대해서는 여전히 증명되지 않은 상태이다 (심지어 무한히 많은 제곱 자유 값을 가진다는 존재성조차 $d \le 3$인 경우에만 알려져 있다).

저자는 무작위 다항식 패밀리에 대해 평균을 내었을 때 $E_P(x)$의 거동을 조사한다. 구체적으로, 저자는 $P_d(H) = \{P \in \mathbb{Z}[t] : \deg(P)=d, |P| \le H\}$인 다항식 집합을 고려한다. 목표는 오차항의 제2 모멘트(second moment)의 크기를 결정하는 것이다:
$$(2H)^{-d-1} \sum_{P \in P_d(H)} |E_P(x)|^2$$
Filaseta, Shparlinski, Browning 등을 포함한 이전 연구들은 이 모멘트에 대한 상한(bounds)을 확립해 왔으나, 무작위 다항식의 맥락에서 오차항의 정확한 차수(order of magnitude)는 완전히 규명되지 않았었다.

방법론
증명은 확률론적 정수론과 복소 해석적 기법을 결합하여 여러 단계의 분석 과정을 거친다:

1. 절단 및 모델 전이 (Truncation and Model Transition): 저자는 제곱 자유 수의 지시 함수(indicator function)인 $\mu^2(P(n))$을 $k \le z$에 대한 합을 포함하는 절단된 모델 $SP(z)$로 대체한다. 이를 통해 제2 모멘트 전개에서 대각 항($n=m$)과 비대각 항($n \neq m$)을 분리할 수 있다.
2. 조합론적 계수 (Combinatorial Counting): 보조정리 2.1부터 2.3은 $k^2$에 대한 다항식의 근의 개수와 제곱수로 나누어지는 다항식의 분포에 대한 상한을 제공한다. 이러한 상한들은 절단으로 인해 발생하는 오차를 추정하는 데 매우 중요하다.
3. 체사로 합산(Cesàro Summation) 및 페론 적분(Perron Integrals): 본 논문에서 확인된 핵심적인 혁신은 제2 모멘트 구조가 본질적으로 체사로 합산을 포함하고 있다는 인식이다. 비대각 합 $\sum_{n \neq m} c(m,n)$ (여기서 $c(m,n)$은 $m-n$에 의존함)은 페론 공식의 변형을 사용하여 변환된다. 이를 통해 $1/(s(s+1))$ 커널을 사용하는 복소 적분을 사용할 수 있으며, 이는 추가적인 수렴 인자를 제공한다.
4. 디리클레 급수 분석: 산술 함수 $b(k) = c(k, 0)$를 분석한다. 이 함수의 디리클레 급수는 $\zeta(s)\zeta(2+2s)G(s)/\zeta(2)^2$임을 보였으며, 여기서 $G(s)$는 $\Re(s) > -3/4$에서 정칙(holomorphic)인 함수이다.
5. 경로 이동 (Contour Shifting): 적분 경로를 $s=1, s=0, s=-1/2$에서의 극(pole)을 지나 왼쪽으로 이동시킨다. 저자는 적분선을 $\Re(s) = -1/2 - \delta$로 이동시킨다. 이는 체사로 커널에 의한 수렴성과 임계 구역(critical strip)에서의 리만 제타 함수의 특정 상한 덕분에 가능하다. 논문은 린델로프 가설(Lindelöf hypothesis)이나 부수적 수렴성(subconvexity) 상한이 이 특정 설정에서 이점을 제공하지 못함을 명시적으로 언급한다.

주요 기여 및 결과
주요 기여는 오차항의 제2 모멘트에 대한 점근적 거동을 결정하는 것이다. 논문은 오차항이 전형적으로 $x^{1/4}$의 크기임을 증명한다 (즉, 제2 모멘트가 $x^{1/2}$이므로).

정리 1.1은 다음의 점근 관계를 확립한다 (여기서 $\gamma_0 \approx 0.192$는 $s=-1/2$에서의 유수(residue)로부터 유도된 특정 상수이다):

1. $x \le H^{1/(d+3)}$인 경우:
   $$(2H)^{-d-1} \sum_{P \in P_d(H)} |E_P(x)|^2 = \gamma_0 x^{1/2} + O(x^{1/2-\delta})$$
   이는 $x \le H^\alpha$인 임의의 $\alpha < 1/(d+3)$에 대해 성립한다.

2. $x \le H^{1/(d+28/9)}$인 경우:
   $$(2H)^{-d-1} \sum_{P \in P_d(H)} |E_P(x)|^2 = \gamma_0 x^{1/2} + O(x^{4/9+\varepsilon})$$
   이는 임의의 $\varepsilon > 0$와 $\beta < 1/(d+28/9)$에 대해 성립한다.

상수 $\gamma_0$는 $s = -1/2$에서의 디리클레 급수의 유수로부터 발생하며, 구체적으로 $\zeta(-1/2)$와 $G(s)$의 오일러 곱을 포함한다. 제2 모멘트의 $x^{1/2}$ 항은 전형적인 오차 $E_P(x)$가 $x^{1/4}$ 차수임을 의미한다.

의의 및 주장
논문은 제2 모멘트의 크기 $x^{1/2}$ (따라서 오차의 $x^{1/4}$)가 즉각적으로 드러나지 않는다고 주장하는데, 이는 대각 항들만으로도 $x H^{d+1}$ 차의 항이 기여하기 때문이다. 참신함은 비대각 항들이 대각 기여를 정밀하게 상쇄한다는 데 있으며, 이는 무작위 다항식에 대한 산술 함수 위의 제2 모멘트에서 내장된 체사로 합산에 의해 촉진되는 현상이다.

저자는 이 결과가 $n \neq m$ 항들의 기여에 대한 완전한 점근 전개를 제공한다고 강조한다. 이 연구는 제곱 자유 값에 대한 이해를 첫 번째 모멘트(평균 결과)를 넘어 제2 모멘트로 확장하여, 오차의 분포에 대한 더 정교한 그림을 제시한다. 논문은 미르스키(Mirsky)의 연구가 $\mu^2$의 모든 모멘트에 대한 점근 관계가 가능함을 시사하지만, 체사로 합산을 포함하는 계산은 매우 까다로워 보인다고 언급한다.

결과는 차수 $d$와 $x$와 $H$ 사이의 관계에 따라 조건부적이지만, 무작위 다항식의 제곱 자유 값 문제에서 오차항의 "전형적인" 거동을 정량화하는 중요한 진전이다.