Convex-cocompact representations into the isometry group of the infinite-dimensional hyperbolic space

1. 문제 제기 (Problem Statement)

• 배경: 유한 차원 쌍곡 공간 ($H^n$) 에서의 볼록 콤팩트 표현은 푸슈시안 (Fuchsian) 표현의 자연스러운 일반화로 잘 연구되어 왔습니다. 특히, $H^n$으로 가는 표현 공간에서 볼록 콤팩트 표현의 집합은 열린 집합 (stability) 임이 알려져 있습니다 (Marden, Thurston 등).
• 무한차원의 난제: 무한차원 쌍곡 공간 $H^\infty$는 닫힌 공이 콤팩트하지 않은 '비적절 (non-proper)' 공간입니다. 이로 인해 유한 차원에서 성립하는 많은 기하학적 성질 (예: 콤팩트 부분집합의 존재성 등) 이 성립하지 않아, 볼록 콤팩트 표현의 정의와 안정성 연구가 복잡해집니다.
• 기존 연구의 한계: Monod 와 Py 는 $Isom(H^n)$에서 $Isom(H^\infty)$로 가는 '이국적인 (exotic)' 표현들을 분류했습니다. 이들은 $H^\infty$에서 최소 작용을 하며 경계에 고정점이 없는 비가약 (irreducible) 표현들입니다. 그러나 이러한 표현들의 변형 (deformation) 가능성과, 곡면 군 (surface groups) 의 표현 공간이 얼마나 풍부한지에 대한 연구는 부족했습니다.
• 핵심 질문:
  1. 무한차원 공간에서도 볼록 콤팩트 표현이 안정적 (open set) 인가?
  2. 이국적인 표현들의 변형을 통해 기존 분류에 포함되지 않는 새로운 볼록 콤팩트 표현을 구성할 수 있는가?

2. 방법론 (Methodology)

저자는 다음과 같은 수학적 도구와 기법을 활용합니다:

• 준거리 동형 (Quasi-isometric Embeddings) 과의 동치:
  • 유한 차원에서의 결과를 확장하여, 표현 $\rho: \Gamma \to Isom(H^\infty)$가 볼록 콤팩트일 필요충분조건이 궤도 사상 (orbit map) $\tau_\rho: \gamma \mapsto \rho(\gamma)(x_0)$가 준거리 동형 (quasi-isometric embedding) 임을 증명합니다.
  • 이를 위해 Mazur 의 콤팩트성 정리 (Banach 공간에서 콤팩트 집합의 닫힌 볼록 껍질은 콤팩트함) 를 사용하여, 무한차원 공간 내에서도 국소 콤팩트인 불변 볼록 집합을 구성합니다.
• 안정성 증명 (Stability):
  • 준거리 동형 성질이 표현의 작은 변형에 대해 유지됨을 보임으로써, 볼록 콤팩트 표현들의 집합이 표현 공간에서 열린 집합임을 증명합니다.
• 굽힘 기법 (Bending):
  • Johnson 과 Millson 이 개발한 굽힘 (bending) 기법을 적용합니다. 이는 격자 (lattice) 를 자유곱 (free product with amalgamation) 또는 HNN 확장으로 분해한 후, 분해된 부분군을 특정 원소의 중앙화자 (centralizer) 로 켜는 (conjugating) 방식입니다.
  • $H^\infty$에서의 무한차원 리 군 (infinite-dimensional Lie group) 구조를 분석하여, 로조드롬 (loxodromic) 등거리 변환의 중앙화자가 무한차원임을 보이고, 이를 통해 연속적인 변형 파라미터를 확보합니다.
• 스펙트럼 표현 (Spectral Representation):
  • 실 힐베르트 공간 위의 정규 연산자 (normal operator) 에 대한 Goodrich 의 스펙트럼 표현 정리를 사용하여, 중앙화자의 구조와 리 대수 (Lie algebra) 를 분석합니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

A. 볼록 콤팩트 표현의 안정성 (Stability Theorem)

• 주요 정리 (Theorem 1.1): 유한 생성 군 $\Gamma$와 표현 $\rho: \Gamma \to Isom(H^\infty)$에 대해 다음 두 명제는 동치입니다.
  1. 궤도 사상이 $\Gamma$-equivariant 준거리 동형 (quasi-isometric embedding) 이다.
  2. $\Gamma$가 $H^\infty$ 내의 볼록이고 국소 콤팩트인 불변 집합 $C$ 위에서 cocompactly 작용하며, $\rho(\Gamma)$가 $Isom(H^\infty)$에서 강하게 이산적 (strongly discrete) 이다.
• 결과 (Corollary 1.2): 유한 생성 군 $\Gamma$에 대해, 볼록 콤팩트 표현들의 집합은 전체 표현 공간 $Hom(\Gamma, Isom(H^\infty))$에서 열린 집합을 이룹니다. 이는 무한차원 비적절 공간에서도 볼록 콤팩트 표현이 변형 가능함을 의미합니다.

B. 이국적인 표현의 변형과 새로운 표현의 구성

• 굽힘을 통한 변형: Monod 와 Py 가 분류한 이국적인 표현 $\rho_t: Isom(H^2) \to Isom(H^\infty)$를 곡면 군 $\Gamma$로 제한한 후, 굽힘 기법을 적용하여 새로운 표현들을 구성합니다.
• 비공액성 (Non-conjugacy):
  • $H^\infty$에서 로조드롬 등거리 변환의 중앙화자는 무한차원 리 군임을 증명합니다.
  • 이 중앙화자 내의 서로 다른 병진 길이 (translation length) 를 가진 원소들을 사용하여 굽힘을 수행하면, 서로 공액 (conjugate) 이 아니며, 원래 이국적인 표현의 제한과도 공액이 아닌 새로운 표현들이 생성됨을 보입니다.
• 주요 정리 (Theorem 1.3): 닫힌 쌍곡 곡면의 기본군 $\Gamma$에 대해, 이국적인 표현 $\rho_t|_\Gamma$의 변형 공간에는 1-매개변수 (one-parameter) 가족의 표현들이 존재하며, 이들은 서로 공액이 아니고, $Isom(H^2)$의 어떤 이국적인 표현의 제한과도 공액이 아닙니다.

C. 무한차원 리 군의 구조 분석

• $Isom(H^\infty)$ 내의 특정 원소의 중앙화자가 무한차원 리 군임을 증명하여, 굽힘을 통한 변형이 가능할 뿐만 아니라 그 공간이 매우 풍부함을 보였습니다. 이는 유한 차원에서의 강성 (rigidity) 결과 (Mostow rigidity 등) 와 대조되는 유연성 (flexibility) 결과를 제공합니다.

4. 의의 및 중요성 (Significance)

1. 무한차원 기하학의 발전: 비적절 (non-proper) 인 무한차원 쌍곡 공간에서도 볼록 콤팩트 표현의 이론이 잘 정의되고 안정적임을 보여주었습니다. 이는 Gromov 가 제안한 무한차원 쌍곡 공간 연구의 중요한 진전입니다.
2. 표현 공간의 풍부함: 유한 차원에서는 격자의 표현이 종종 강성 (rigid) 하거나 제한적이지만, 무한차원 $H^\infty$로 가는 표현 공간은 훨씬 더 풍부함을 증명했습니다. 특히, 전체 군 $Isom(H^2)$의 표현보다 그 부분군인 곡면 군 $\Gamma$의 표현 공간이 더 다양하다는 사실은 놀라운 결과입니다.
3. 새로운 구성 방법: 굽힘 (bending) 기법을 무한차원 공간에 성공적으로 적용하여, 기존에 분류된 '이국적인' 표현들 외에 새로운 볼록 콤팩트 표현들을 체계적으로 생성할 수 있음을 보였습니다.
4. 이론적 도구: Mazur 의 콤팩트성 정리와 스펙트럼 표현 정리를 결합하여 무한차원 리 군의 구조를 분석한 방법은 향후 무한차원 기하학 및 표현론 연구에 중요한 도구가 될 것입니다.

요약하자면, 이 논문은 무한차원 쌍곡 공간에서의 볼록 콤팩트 표현 이론의 기초를 다지고, 그 표현 공간이 유한 차원 경우보다 훨씬 더 유연하고 풍부함을 증명하여, 무한차원 기하학의 새로운 지평을 열었습니다.