Exterior Dirichlet Problems for Hessian Quotient Equations of Mixed Type

기술 요약: 혼합형 헤시안 몫 방정식의 외부 디리클레 문제

문제 정의
본 논문은 유계 영역 $D \subset \mathbb{R}^n$ ($n \geq 3$)의 여집합에서 정의된 혼합형 헤시안 몫 방정식에 대한 외부 디리클레 문제를 조사한다:
$$\frac{\sigma_k(\eta(D^2u))}{\sigma_l(\eta(D^2u))} = 1 \quad \text{in } \mathbb{R}^n \setminus D,$$
여기서 경계 조건은 $\partial D$ 위에서 $u = \phi$이다. $\eta(M) = (\text{tr } M)I - M$은 대칭 행렬에 대한 선형 연산자이며, $\sigma_k$는 고윳값들의 $k$번째 기본 대칭 함수를 나타낸다. 본 연구는 주어진 이차 점근식을 보이는 매끄럽고 엄격한 $\tilde{\Gamma}_k$-허용 가능한 해를 찾는 데 중점을 둔다.

저자들은 인덱스 $k$와 $l$의 범위에 관한 기존 문헌의 특정 공백을 다룬다. Chen–Dong–Han [3]의 연구와 같은 기존의 혼합 헤시안 몫 방정식에 관한 작업들은 대수적 제약으로 인해 $l + 2 \leq k \leq n$ 범위로 제한되어 있었다. 본 논문은 인덱스 차이 $k - l$에 대한 제한 없이, 임계 사례인 $l = n - 1$ (즉, $k=n$)을 포함하여 외부 문제에 대한 존재성과 유일성을 확립하는 것을 목표로 한다.

방법론
증명 전략은 Li와 Xiao [18]의 연구에서 영감을 얻은 3단계 부해(subsolution) 구성과 Caffarelli와 Li [4]의 정규화된 최댓값 기법(regularized maximum technique)을 결합한 것에 의존한다. 방법론은 다음과 같이 진행된다:

1. 부해 구성:

   • 경계 근방 배리어(Near-Boundary Barrier): $\partial D$의 튜브 근방에서 부해를 구성한다. 그 형태는 인덱스에 따라 달라진다: $k < n$인 경우, 거리 함수 $d(x)$를 포함하는 지수적 배리어를 사용하며, 임계 사례 $k=n$인 경우에는 이차 배리어를 사용한다. 이는 도메인 경계의 엄격한 $\eta$-1-볼록성(strict $\eta$-1-convexity)에 기초한다.
   • 원거리 배리어(Far-Field Barrier): 원점에서 멀리 떨어진 영역에서는 타원체의 용량 퍼텐셜(capacitary potential)로부터 유도된 감쇠 함수에 의해 섭동된 이차 다항식 $Q_c(x) = \frac{1}{2}x^T Ax + c$ ($A \in \tilde{\Gamma}_k$)를 기반으로 부해를 구성한다. 이 단계는 최적의 감쇠율을 확립하기 위해 Li–Li–Yuan [17]의 외부 리우빌 정리(exterior Liouville theorem)를 활용한다.
   • 중간층(Intermediate Layer): 근경계 및 원거리 부해를 정규화된 최댓값 기법을 사용하여 중간층을 통해 연결함으로써, 전역 부해가 매끄럽고 엄격하게 허용 가능하도록 보장한다.

2. 근사 및 사전 추정(A Priori Estimates):

   • 문제는 유계 영역 $\Omega_R = E_R \setminus D$ 상에서 근사된다.
   • $C^0$ 및 $C^1$ 추정: 비교 원리를 적용하여 해를 구성된 부해와 초해(supersolution) 사이에 가둔다. 경계 기울기 추정치는 Hopf의 보조정(Hopf's lemma)과 배리어 함수들을 사용하여 유도된다.
   • $C^2$ 추정: 핵심적인 기술적 과제는 균등한 2계 도함수 유계성을 확립하는 것이다.
     • 경계 추정: 접선 도함수와 혼합 도함수는 배리어 논증을 통해 제어된다. 임계 사례 $k=n, l=n-1$에 대한 법선 도함수 추정은 몫의 대수적 구조를 처리하기 위해 블록 행렬에 대한 $\sigma_{n-1}$의 정교한 전개를 필요로 한다.
     • 전역 추정: 연산자 $F$의 오목성(concavity)과 최댓값 원리를 사용하여 라플라시안을 유계시키며, 이는 허용 조건과 결합되어 전역 $C^2$ 유계를 산출한다.

3. 극한 통과 및 유일성:

   • 확장되는 도메인 상의 해의 단조 수열이 전역 해 $u \in C^\infty(\mathbb{R}^n \setminus D)$로 수렴함을 보인다.
   • 유일성은 허용 콘(admissible cone) 상에서 선형화된 연산자의 균등 타원성을 이용하여 두 해의 차이에 적용된 최댓값 원리 논증을 통해 확립된다.

주요 기여 및 결과

• 존재성 및 유일성: 유계 $C^\infty$ 도메인 $D$ (경우에 따라 엄격한 $\eta$-1-볼록성)와 경계 데이터 $\phi$에 대하여, 모든 $0 \leq l < k \leq n$에 대해 유일한 매끄러운 엄격 $\tilde{\Gamma}_k$-허용 가능한 해가 존재함을 증명한다.
• 인덱스 제한 제거: 이전의 내부 추정치에서 발견되었던 $l+2 \leq k$라는 제한 없이 모든 $k, l$에 대해 결과가 성립하며, 특히 임계 사례 $l = n-1$을 별도로 다룬다.
• 최적 점근식: 해 $u$는 다음의 점근 전개를 만족한다:
  $$\lim_{|x| \to \infty} |x|^{n-2} \left| u(x) - \left( \frac{1}{2}x^T Ax + b \cdot x + c \right) \right| < \infty.$$
  결정적으로, 본 논문은 잔여 항(remainder term)과 그 도함수에 대해 최적의 감쇠율 $|x|^{n-2}$를 확립하며, 이는 종종 추가적인 기술적 제한을 요구하거나 더 느린 감쇠율을 나타냈던 헤시안 몫 방정식 및 특수 라그랑지안 방정식에 대한 기존 결과들을 개선한 것이다.
• 전계 도함수 감쇠: 저자들은 잔여 항 $u - Q_c$에 대한 전계 도함수 감쇠 추정식 $|D^m(u - Q_c)(x)| \leq C_m |x|^{2-n-m}$ (모든 $m \geq 0$에 대하여)을 얻었다.

의의
본 논문은 이전에 외부 도메인에서의 혼합 헤시안 몫 방정식의 가해성을 제한했던 경계 추정의 대수적 한계를 극복함으로써 그 의의를 갖는다. 부해 구성을 정교화하고 $\eta(M)$의 특수한 성질을 활용함으로써, 저자들은 외부 디리클레 문제의 이론을 전체 범위의 혼합 헤시안 몫으로 확장한다. $\sigma_{n-1}$의 정교한 전개를 통해 임계 사례 $l = n - 1$을 다룬 것은 독립적인 관심사가 될 만한 결과로 강조된다. 또한, 추가적인 가정 없이 점근 행렬 $A$에 대한 최적의 감쇠율을 확립한 것은 완전 비선형 타원 방정식 분야의 기존 결과들을 정교화한 것이다.