기술 요약: 진단적 소프트 등변성을 위한 생성자 정렬 표현 인터페이스 (Generator-Aligned Representation Interfaces for Diagnostic Soft Equivariance)

1. 문제 정의

기존의 등변성 아키텍처(예: Group CNN, Steerable Networks, SE(3)-Transformers)는 특정 군(group)의 작용을 연산자에 직접 인코딩함으로써 엄격한 등변성을 강제합니다. 이는 강력한 이론적 보증을 제공하지만, 새로운 군이나 일반적인 백본, 혹은 다른 데이터 모달리티에 적응할 때 연산자와 표현 구조를 동시에 재설계해야 하는 "설계 경직성"을 초0낳습니다. 반면, 현대의 일반적인 시퀀스 백본(예: Transformer, State-Space Models)은 다양한 모달리티(이미지, 유전체, 포인트 클라우드)에 걸쳐 높은 이식성을 제공하지만, 입력 변환이 내부 표현의 상응하는 변환을 유도하도록 보장하는 내재적 메커니즘이 부족합니다.

본 논문은 다음과 같은 통합 격차를 식별합니다: 어떻게 하면 모든 레이어를 하드-등변(hard-equivariant) 연산자로 재설계하지 않고도, 일반적인 백본에 군 구조를 노출할 수 있는가? 저자들은 모든 레이어에서 엄격한 등변성을 강제하는 것이 종종 불필요하고 제한적이라고 주장하며, 대신 "소프트 등변성(soft equivariance)"을 학습하기 위한 진단적 접근 방식을 제안합니다.

2. 방법론: 생성자 정렬 표현 인터페이스 (GARI)

본 논문은 선택된 변환 생성자(generators)를 정렬된 뷰(aligned views)를 통해 일반 시퀀스 백본에 노출하는 표현 수준의 설계 원칙인 GARI를 소개합니다. GARI는 군 법칙을 연산자에 하드코딩하는 대신, 생성자 구조를 가시적이고 학습 가능하며 측정 가능하게 만드는 학습 가능한 인터페이스를 구축합니다.

핵심 구성 요소

이 프레임워크는 다음과 같은 아키텍처적 특징을 가진 시퀀스 기반 모델인 GARI-Net으로 구현됩니다:

1. 생성자 인덱스 스트림 (Generator-Indexed Streams): 노출된 생성자 집합 $S = \{s_1, \dots, s_q\}$에 대해, 모델은 $q+1$개의 스트림을 구축합니다: 하나의 정준 스트림($P_\theta(x)$)과 $q$개의 생성자 유도 스트림($\rho_{s_j}P_\theta(x)$). 이 스트림들은 서로 다른 변환 정렬 프레임에서 입력을 나타냅니다.
2. 공유 백본 처리 (Shared Backbone Processing): 모든 스트림은 공유 파라미터를 가진 공유 시퀀스 백본(예: Mamba2, Transformer)에 의해 처리됩니다. 이를 통해 모델은 독립적인 네트워크들의 앙상블이 아니라, 다양한 뷰에 대해 일관된 함수 패밀리를 학습하게 됩니다.
3. 프레임 변환 및 컨텍스트 복구 (Frame Conversion and Context Repair):
   • ODBC (One-dimensional Backward Convolution): 재인덱싱(예: 시퀀스 역전)으로 인해 발생하는 국소적 컨텍스트 불일치(예: 방향성 또는 자기회귀적 연산자)를 복구하기 위해 각 스트림에 적용됩니다.
   • 방향성 프레임 변환: 스트림을 정준 상호작용 프레임에서 생성자별 처리 프레임으로 일시적으로 변환한 후 다시 되돌림으로써, 교차 스트림 상호작용 전의 정렬을 보장합니다.
4. 교차 스트로크 상호작용 (Cross-Stream Interaction): "Leave-one-out" 어텐션 메커니즘을 통해 각 스트림이 다른 스트림을 주목할 수 있게 하여, 정준 뷰와 생성자 정렬 뷰 사이에서 독립적인 네트워크로 취급되지 않고 증거를 교환할 수 있도록 합니다.
5. 불일치 인식 융합 (Discrepancy-Aware Fusion): 최종 융합 블록은 맹목적인 평균화를 피합니다. 대신, 쌍별 불일치 신호(스트림 간의 불일치를 측정)와 스트림 합 신호를 사용하여 집합을 가중 처리합니다. 이를 통해 모델은 스트림 간의 불일치에 반응하여 정보가 풍부한 변이를 보존할 수 있습니다.

진단 프레임워크: 소프트 등변성 및 DEE

본 논문은 목표를 엄격한 등변성에서 특정 데이터 및 변환 분포 하에서의 잔차 오차(residual error)를 통한 소프트 등변성으로 재정의합니다.

• 소프트 등변성 잔차 (Soft Equivariance Residual): 변환된 입력의 표현과 규정된 정준 표현의 변환 사이의 기대 제곱 거리를 다음과 같이 정의합니다: $E_{\mu,\nu} = E[\Delta(F(\alpha_g x), \tau_g F(x))^2]$.
• 직접 등변성 오차 (Direct Equivariance Error, DEE): 동결된 체크포인트에서 계산되는 유한 프로브(finite-probe) 진단 지표입니다. 이는 알려진 토큰 또는 복셀 재인덱싱을 사용하여 변환된 입력의 표현을 정준 표현의 규정된 변환과 비교합니다. DEE는 학습 손실이 아니라 표현 수준의 일관성을 측정하기 위한 사후 진단 도구입니다.
• 잔차 국소화 (Residual Localization): 프레임워크는 총 오차를 세 가지 국소적 소스로 분해합니다:
  1. 인터페이스 잔차: 변환된 데이터를 인덱싱된 표현으로 변환하는 과정에서의 불일치.
  2. 스트림 잔차: 공유 백본 처리 과정에서의 부적합성.
  3. 융합 잔차: 다중 뷰를 집합하는 과정에서의 불일치.

3. 주요 기여

1. 생성자 정렬 표현 인터페이스 (GARI): 군 특화 연산자에서 재사용 가능한 인터페이스로 심볼릭 설계 단위를 전환하는 모달리티 불가지론적 설계 프리미티브입니다. 이는 정준 뷰와 변환된 뷰를 통해 생성자 구조를 일반 백본에 노출합니다.
2. 잔차 기반 소프트 등변성 및 유한 측정: 저자들은 변환 관계의 잔차를 통해 소프트 등변성을 정의하고, 이를 유한 프로브 추정치인 **직접 등변성 오차(DEE)**로 구체화했습니다. 이들은 이를 태스크 강건성(task robustness)이나 엄격한 인증과는 구별합니다.
3. GARI-Net 구현: 생성자 인덱스 스트림, 공유 처리, 순서 인식 컨텍스트 복구, 교차 스트림 상호작용, 불일치 인식 융합을 특징으로 하는 구체적인 시퀀스 모델 구현체입니다.
4. 교차 도메인 증거: 이 인터페이스 원칙은 세 가지 뚜렷한 도메인(유전체 시퀀스(역전), 2D 이미지(평면 회전), 3D 포인트 클라우드(축 방향 SO(3) 전이))에서 검증되었습니다.

4. 실험 결과

실험은 범용적인 SOTA 리더보드를 구축하는 것이 아니라, 통제된 홀드아웃 변환 하에서 인터페이스 원칙을 테스트하기 위한 진단 체인으로 설계되었습니다.

• 유전체 시퀀스 (GenomicBenchmarks):
  • 태스크: 시퀀스 역전 ($Z_2$).
  • 결과: GARI-Net은 역전된 입력에 대해 평균 정확도(0.627)에서 Caduceus-PH (0.612) 및 Caduceus-PS (0.610)보다 높은 성능을 보였습니다. 이는 비록 정상 입력에 대한 정확도는 약간 낮았음에도 불구하고, 역전된 샘플로 학습하지 않고도 생성자 정렬 인터페이스가 역전된 입력 하에서 태스크 관련 정보를 더 잘 보존함을 보여줍니다.
• 평면 이미지 (ImageNet-1K & MNIST):
  • 태스크: 순환 회전 ($C_2$ 및 $C_4$).
  • 결과: ImageNet-1K에서 GARI-Net-C4는 매칭된 Vision Mamba 베이스라인 대비 순수 일반화 회전 정확도를 1.34%p 향상시켰으며, C4 DEE를 0.983에서 0.831로 감소시켰습니다. MNIST에서는 더 넓은 $C_4$ 생성자 커버리지가 $C_2$ 구성보다 샘플 궤도 일반화에서 우수한 성능을 보이며 궤도 평균 정확도를 2.61포인트 개선했습니다.
• 3D 포인트 클라우드 (ModelNet40):
  • 태스크: 제어된 축 방향 전이 ($SO(3)$).
  • 결과: $x/y$축 인터페이스를 $C_2$에서 $C_4$로 강화했을 때, 깨끗한 정확도(clean accuracy)의 변화는 최소화하면서 홀드아웃 $z$축 정확도를 8.97포인트 높였습니다. 명시적인 $x/y/z$ 참조를 추가했을 때는 0.51포인트만 상승하여, 주요 이득이 명시적인 $z$축 노출보다는 강화된 $x/y$ 인터페이스를 통한 전이에서 발생했음을 국소화했습니다.

5. 의의 및 주장

본 논문은 GARI를 하드-등변 아키텍처를 대체하는 것이 아니라, 이식 가능한 진단적 보완재로 포지셔닝합니다.

• 주장의 겸손함: 저자들은 자신들의 발견이 유한하며 분포에 의존적임을 명시합니다. 이들은 연속적인 군에 대한 엄격한 등변성을 인증하지 않으며, 변환 강건성이 등변성과 동일하다고 주장하지도 않습니다.
• 핵심 가치: 핵심 의의는 생성자 구조를 일반 신경 모델 내에서 접근 가능하고, 학습 가능하며, 측정 가능하게 만드는 데 있습니다. 이는 새로운 군이나 모달리티를 위해 연산자를 재설계하는 계산적, 구조적 오버헤드 없이 일반 시퀀스 모델에 Lie-군 생성자 구조를 노출하는 경로를 제공합니다.
• 진단적 성격: 이 프레임워크는 "반증 가능한" 계약을 제공합니다. 만약 인터페이스가 선언된 프로브에 대해 홀드아웃 정확도나 DEE를 개선하지 못한다면, 소프트 등변성의 주장은 약화될 것입니다. 본 논문은 이 인터페이스가 백본의 군 특화 재설계 없이도 태스크 관련 변환 일관성과 홀드아웃 태스크에 대한 일반화를 지원함을 입증합니다.

요약하자면, GARI는 하드-등변 연산자의 경직성과 일반 시퀀스 모델의 이식성 사이의 간극을 메우는 유연한 아키텍처 패턴을 제공하며, 이는 잔차 및 홀드아웃 태스크 성능에 대한 엄격한 진단 프로토콜을 통해 검증되었습니다.