Bases of Steerable Kernels for Equivariant CNNs: From 2D Rotations to the Lorentz Group

1. 문제 정의 (Problem)

• 배경: 대칭성 (Symmetry) 을 신경망 구조에 내재화하면 (예: 회전, 반사, 로런츠 변환 등), 모델의 성능이 크게 향상되고 데이터 효율성이 높아집니다. 이를 위해 특징 맵 (Feature Maps) 이 특정 군 (Group) $G$에 대해 공변적 (Equivariant)이어야 합니다.
• 핵심 제약: 합성곱 레이어 $L_K$가 공변적이기 위해서는 커널 $K$가 다음 **가변성 제약 (Steerability Constraint)**을 만족해야 합니다.
  $$K(g \cdot x) = \frac{1}{|\det g|} \rho_{out}(g) K(x) \rho_{in}(g)^{-1}$$
  여기서 $\rho_{in}, \rho_{out}$는 입력과 출력 특징 맵의 군 표현입니다.
• 기존 방법의 한계: 기존 연구 [2, 9] 는 이 제약식을 풀기 위해 **클렙슈 - 고르단 계수 (Clebsch-Gordan coefficients)**를 계산하거나, 텐서 곱을 기약 표현의 직합으로 분해하는 '결합 기저 (Coupled basis)'로 변환하는 복잡한 과정을 필요로 했습니다. 이는 계산 비용이 크고, 특히 로런츠 군 (Lorentz group) 과 같은 비압축 (Non-compact) 군의 경우 매우 어렵습니다.

2. 방법론 (Methodology)

저자는 **안정자 군 (Stabilizer Group)**을 이용한 간소화된 접근법을 제안합니다.

1. 고정점 및 안정자 군 설정:
   • 궤도 (Orbit) 상의 임의의 고정점 $x_0$를 선택합니다.
   • $x_0$를 불변으로 만드는 군의 부분집합인 안정자 군 (Isotropy Group) $H = \{g \in G \mid g \cdot x_0 = x_0\}$을 정의합니다.
2. 국소적 불변성 조건 도출:
   • 제약식을 $x_0$에서 평가하면, 커널 $K(x_0)$는 $H$의 표현에 대한 **동형 사상 (Homomorphism)**이 되어야 함을 알 수 있습니다.
   • $$K(x_0) = \rho_{out}(h) K(x_0) \rho_{in}(h)^{-1}, \quad \forall h \in H$$
   • 이는 $K(x_0)$가 $H$의 기약 표현들 사이의 사영 (Intertwiner) 이 되어야 함을 의미하며, **슈어 보조정리 (Schur's Lemma)**를 사용하여 쉽게 해결할 수 있습니다.
3. 가변 (Steering) 을 통한 일반화:
   • $K(x_0)$의 일반 해 (기저) 를 찾은 후, 원래의 가변성 제약식 (11) 을 사용하여 임의의 점 $x = g \cdot x_0$로 이동시킵니다.
   • $$K(x) = \rho_{out}(g) K(x_0) \rho_{in}(g)^{-1}$$
   • 이 과정을 통해 전체 공간에 대한 커널 기저를 구성합니다.

핵심 장점: 이 방법은 클렙슈 - 고르단 계수를 사전에 계산하거나 결합 기저로 변환할 필요가 없으며, 군 표현의 행렬 요소 (Matrix elements) 만을 사용하여 직접 기저를 구성합니다.

3. 주요 결과 및 예시 (Key Results & Examples)

논문은 다양한 군에 대해 명시적인 기저를 유도했습니다.

• 2D 회전군 ($SO(2)$) 및 반사 포함 ($O(2)$):
  • 고정점에서의 안정자 군은 자명 (Identity) 하거나 매우 단순하여, 커널 기저가 삼각함수 (코사인, 사인) 의 선형 결합으로 쉽게 유도됨을 보였습니다.
  • 기존 문헌 [8] 의 결과와 일치하지만, 훨씬 더 직접적인 유도 과정을 제공합니다.
• 3D 회전군 ($SO(3)$) 및 반사 포함 ($O(3)$):
  • 북극점 ($x_0$) 을 기준으로 $H \simeq SO(2)$ (또는 $O(2)$) 로 축소됩니다.
  • 복소수 표현: 구면 조화 함수 (Spherical harmonics) $Y_l^m$을 사용하여, $K(x_0)$가 대각 행렬 형태가 되도록 유도하고, 이를 와igner D-행렬 (Wigner D-matrices) 을 통해 가변시킵니다.
  • 실수 표현: 실수 구면 조화 함수를 사용하여 실수 선형 기저를 구성했습니다.
  • 결론: 클렙슈 - 고르단 계수 없이도 $SO(3)$에 대한 완전한 기저를 얻을 수 있음을 증명했습니다.
• 로런츠 군 ($SO^+(1, 3)$):
  • 중요성: 상대론적 물리학 (입자 물리) 에 필수적이지만, 비압축 군이므로 기존 방법이 적용하기 어렵습니다.
  • 질량 있는 입자 (Massive particles): 궤도는 쌍곡면 (Hyperboloid) 이며, 안정자 군은 $SO(3)$입니다.$SU(2)$의 기약 표현 분해를 통해 스핀 0, 1, 2 등에 대한 투영자 (Projector) 형태의 커널을 유도했습니다.
    • 예: 스핀 0 은 $u_\mu u_\nu$ 형태, 스핀 1 은 $\Delta_{\mu\nu} = \eta_{\mu\nu} - u_\mu u_\nu$ 형태로 표현됩니다.
  • 질량 없는 입자 (Massless particles): 궤도는 광원 (Light cone) 이며, 안정자 군은 $ISO(2)$입니다.$SO(2)$ 부분군만 고려하여 횡방향 (Transverse) 투영자를 유도했습니다.
  • 결과: 시공간 텐서 (Spacetime tensors) 의 표현 내에서 가변적 커널을 구성하는 명시적인 공변적 (Covariant) 수식을 제시했습니다.

4. 기여 및 의의 (Contributions & Significance)

1. 계산적 효율성 및 단순성:
   • 클렙슈 - 고르단 계수의 복잡한 계산이나 수치적 기저 변환을 불필요하게 하여, 구현이 훨씬 쉬워지고 계산 자원을 절약합니다.
2. 일반성 (Generality):
   • 압축 군 (Compact groups) 뿐만 아니라 로런츠 군과 같은 비압축 군에도 적용 가능한 일반적인 프레임워크를 제공합니다.
3. 실용성 (Practicality):
   • 유도된 기저는 "바로 사용 가능한 (Ready-to-use)" 형태이며, 임의의 텐서 타입 (Scalar, Vector, Tensor 등) 간의 공변적 매핑을 쉽게 구축할 수 있게 합니다.
4. 이론적 통찰:
   • 커널이 안정자 군 하에서의 동형 사상을 통해 어떻게 구성되는지 명확히 보여주며, 군 표현론의 깊은 지식이 없어도 접근 가능한 수준으로 설명합니다.
5. 구현적 유연성:
   • 구현 시 컷오프 (Cut-off) 를 결합 기저의 라벨이 아닌, 입력/출력 특징 맵의 기약 표현 라벨에 독립적으로 적용할 수 있어 네트워크의 표현력 (Expressiveness) 을 높일 수 있다고 제안합니다.

결론

이 논문은 공변적 CNN 설계의 핵심인 가변성 커널 문제를 해결하기 위해, 안정자 군을 통한 국소적 해의 유도 후 전역적 가변이라는 간결하고 강력한 전략을 제시했습니다. 이 방법은 기존 방법론의 계산적 부담을 제거하고, 로런츠 군을 포함한 다양한 대칭군에 적용 가능한 명시적 기저를 제공함으로써, 물리 법칙을 따르는 신경망 (Physics-informed Neural Networks) 및 고에너지 물리, 천체물리학 등 다양한 분야의 딥러닝 응용에 중요한 기여를 할 것으로 기대됩니다.