A concavity inequality and interior $C^2$ estimate for Hessian quotient equations

기술 요약: 헤시안 몫 방정식에 대한 오목성 부등식 및 내부 $C^2$ 추정

문제 정의
본 논문은 다음과 같은 형태의 볼록한 해(convex solutions)를 갖는 완전 비선형 타원형 헤시안 몫 방정식(Hessian quotient equations)에 대한 내부 헤시안 추정(내부 $C^2$ 정칙성)을 확립하는 근본적인 문제를 다룬다:
$$F(D^2u) := \frac{\sigma_k(D^2u)}{\sigma_l(D^2u)} = f(x, u)$$
여기서 $1 \le l < k \le n$이며, $\sigma_k$는 헤시안 행렬 $D^2u$의 고윳값들에 대한 $k$번째 기본 대칭 함수를 나타낸다.

내부 $C^2$ 추정은 몬주-앙페르 방정식($k=n, l=0$)의 경우 $n=2$에서 잘 이해되어 있으며, 다양한 구조적 가정하의 $\sigma_2(D^2u)=f$와 같은 특정 사례에서도 잘 알려져 있으나, 일반적인 헤시안 몫에 대해서는 상당한 공백이 존재한다. Pogorelov와 Urbas의 선행 연구는 추가적인 구조가 없는 경우 $k \ge 3$에서 이러한 추정이 실패함을 보여주었다. 최근의 진전인 Lu와 Tsai [LT26]는 인접한 몫(adjacent quotients, $k-l=1$) 및 $k-l=2$인 경우에 대해 내부 추정을 확립하였으나, 그들의 프레임워크는 연산자 $F$에 대한 오목성 부등식(Assumption 1.1 in [LT26])에 관한 대수적 가정에 의존하였다. 본 논문은 $k-l \in \{1, 2\}$인 경우에 대해 해당 가정을 엄밀하게 증명하는 것을 목표로 한다.

방법론
저자들은 대수적 부등식, 기하학적 변환, 그리고 정칙성 이론을 결합한 다단계 분석적 접근 방식을 채택한다:

1. 대수적 오목성 부등식: 본 연구의 핵심은 헤시안 몫 연산자에 대한 정량적 오목성 부등식을 증명하는 것이다. 저자들은 가장 큰 고윳값 $\lambda_{\max}$의 다중도(multiplicity)가 $m$인 특정한 상황에 집중한다. 이들은 첫 $m$개의 성분이 동일한($\xi_1 = \dots = \xi_m$) 방향 $\xi$로 분석을 제한하는데, 이는 가장 큰 고윳값의 야코비 부등식(Jacobi inequality) 계산에서 발생하는 미분과 대응된다.

   • $k-l=1$인 경우(인접 몫 $\sigma_k/\sigma_{k-1}$), 몫 $q_k = \sigma_k/\sigma_{k-1}$의 성질을 사용하여 부등식을 직접 확립한다.
   • $k-l=2$인 경우, 저자들은 "1차원 리프팅(one-dimensional lifting)" 기법을 활용한다. 고윳값 $\lambda \in \mathbb{R}^n$을 $\Lambda = (\lambda, \sqrt{F(\lambda)})$를 통해 $\mathbb{R}^{n+1}$로 임베딩한다. 이 변환은 문제를 더 높은 차원의 인접 몫 문제로 환원시켜, $k-l=1$인 결과들을 적용할 수 있게 한다.
   • 핵심 부등식(Lemma 2.4)의 증명은 고윳값의 점근적 분석과 뉴턴 부등식(Newton inequalities)의 사용을 포함하는 모순 증명법을 사용한다.

2. 야코비 부등식 및 르장드르 변환: 오목성 부등식이 확립되면, 저자들은 $b = \log \lambda_{\max}(D^2u)$에 대한 야코비 부등식을 유도한다. [LT26]의 프레임워크를 따라, 저자들은 이 야코비 부등식을 르장드르 변환, 평균값 부등식, 그리고 부분 적분과 결합하여 내부 헤시안 추정을 도출한다.

3. 리우빌 정리(Liouville Theorem): 전역 해(entire solution)의 강성(rigidity)을 증명하기 위해, 저자들은 Bian과 Guan의 상수 계수 정리(constant-rank theorem)를 적용하여 볼록한 전역 해의 헤시안이 완전한 계수(full rank)를 가짐을 보인다. 그 후, 르장드르 변환을 사용하여 문제를 쌍대 방정식(dual equation)으로 매핑한다. 쌍대 해에 대한 균등 바운드를 확립하고 에반스-크릴로프(Evans-Krylov) 추정치를 적용함으로써, 쌍대 해의 헤시안이 상수임을 보이고, 이는 원래의 해가 이차 다항식임을 의미한다.

주요 기여 및 결과

• 정리 1.1 (오목성 부등식): 저자들은 $k-l \in \{1, 2\}$에 대하여, 가장 큰 고윳값이 충분히 크고 테스트 벡터 $\xi$가 다중도 조건($\xi_1 = \dots = \xi_m$)을 만족할 때, 헤시안 몫 연산자 $F$에 대한 특정 오목성 부등식이 성립하는 상수 $A$와 $K$가 존재함을 증명한다. 이 결과는 Lu-Tsai 프레임워크에서 요구되는 구조적 가정을 검증한다.
• 정리 1.2 (내부 $C^2$ 추정): 정리 1.1과 Lu-Tsai 프레임워크의 직접적인 결과로서, 본 논문은 $k-l \in \{1, 2\}$인 경우 $\sigma_k(D^2u)/\sigma_l(D^2u) = f$의 볼록한 해에 대한 내부 헤시안 추정을 확립한다. 구체적으로, $|D^2u(0)| \le C$이며, 여기서 $C$는 차원, 해의 $C^{0,1}$ 노름, 그리고 $f$의 정칙성에 의존한다.
• 정리 1.3 (리우빌 정리): 본 논문은 이차 성장(quadratic growth, $u(x) \ge a|x|^2 - c$)을 갖는 $\sigma_k(D^2u)/\sigma_l(D^2u) = 1$의 임의의 전역 볼록 해 $u \in C^4(\mathbb{R}^n)$가 반드시 이차 다항식임을 증명한다. 이는 이전의 강성 결과를 $k-l \in \{1, 2\}$인 경우까지 확장한다.

의의 및 주장
본 논문은 볼록한 해를 갖는 헤시안 몫 방정식의 내부 $C^2$ 정칙성에 대한 분류를 완성한다고 주장한다. $k-l=1$ 및 $k-l=2$인 경우에 대한 대수적 오목성 부등식을 해결함으로써, 저자들은 특이해(singular solutions)가 알려져 있지 않은(즉, $l \le k-3$인 경우와 달리) 영역의 이론적 공백을 메운다.

저자들은 자신의 결과가 알려진 특이 예시들($l \le k-3$인 경우)과 결합되어, 볼록한 해에 대해 내부 $C^2$ 추정이 성립할 필요충분조건이 $k-l \in \{1, 2\}$임(다루어진 구조적 조건 하에서)을 보여주는 날카로운 이분법(sharp dichotomy)을 제공한다고 언급한다. 또한, 리우빌 정리는 이차 성장이 해를 이차 다항식으로 강제한다는 현상을 이 더 넓은 클래스로 확장하여 강성을 확인한다.

본 연구는 Lu와 Tsai [LT26]가 개발한 프레임워크에 의존하며, 이를 $k-l=2$에 대한 리프팅 기법을 통해 보완함으로써 필요한 대수적 기초를 제공한다. 저자들은 또한 Tsai [T26]가 대칭 다항식의 기저 변환(change of basis)을 사용하여 $k-l=1$인 경우에 대한 가정을 독립적으로 증명했음을 언급하면서도, 본 논문은 리프팅 기법을 통해 $k-l=2$까지 아우르는 통합된 접근 방식을 제공한다고 밝힌다.