기술적 요약: 투영 기반 정규화를 통한 근사 공변성

문제 제기

공변성 (equivariance) 은 화학, 물리학, 로봇공학 등의 분야에서 일반화 능력과 물리적 일관성을 향상시키는 강력한 귀납적 편향으로 작용합니다. 그러나 엄격한 공변성은 상당한 제약과 계산 비용을 부과합니다. AlphaFold-3 와 같은 모델로 대표되는 최근 동향은 더 유연한 특징 매개변수화와 더 넓은 탐색 공간을 활용하여 때로는 더 나은 최소값을 얻을 수 있도록 비공변적 아키텍처를 향해 이동하고 있습니다. 또한, 실제 세계 데이터는 종종 엄격한 공변 모델이 포착할 수 없는 불완전하거나 깨진 대칭성을 보입니다.

기존의 "근사 공변성" 접근법은 일반적으로 두 가지 범주로 나뉩니다:

1. 샘플 기반 방법: 무작위로 샘플링된 군 변환 (예: 데이터 증강 또는 점별 패널티) 을 사용하여 공변성에서의 편차를 패널티화합니다. 유연하지만, 샘플당 추가 순전파 (forward pass) 가 필요하여 높은 샘플 복잡도와 계산 오버헤드를 초래합니다.
2. 명시적 매개변수화: 이러한 모델은 네트워크를 공변 성분과 비공변 성분의 합으로 명시적으로 구조화합니다 (예: 잔차 경로). 이는 종종 공변 부분의 이중 매개변수화와 모델 복잡도 증가로 이어집니다.

엄격한 제약이나 샘플 기반 정규화기의 런타임 비용을 치르지 않으면서도 공변성의 이점을 유지하고 불완전한 대칭성을 효과적으로 처리하는 중간 지점을 제공하는 방법이 필요합니다.

방법론

저자들은 **투영 기반 정규화 (Projection-Based Regularisation)**를 제안합니다. 이는 네트워크를 샘플 수준이 아닌 연산자 수준에서 공변성 방향으로 정규화하는 프레임워크입니다. 핵심 아이디어는 네트워크의 선형 계층을 공변 성분과 비공변 성분으로 직교 분해하는 데 있습니다.

이론적 프레임워크

$G$-모듈 사이의 선형 사상들의 가설 클래스를 $H$라고 합시다. 저자들은 선형 사상 $T$를 $G$-공변 사상들의 부분 공간으로 투영하는 $G$-부드러움 연산자 (Reynolds 연산자) $P(T)$를 활용합니다:
$$P(T) = \int_G \pi'(g)^* T \pi(g) \, d\lambda(g)$$
여기서 $\lambda$는 컴팩트 군 $G$의 하르 측도 (Haar measure) 입니다.

Lemma 2.1 에 따르면, 임의의 사상 $T$는 공변 성분 $P(T)$와 비공변 (반대칭) 성분 $T - P(T)$로 유일하게 분해될 수 있습니다. 저자들은 공변성으로부터의 최악의 경우 편차를 공변성 결함 (equivariance defect) $E(T)$로 정의합니다. 그리고 Lemma 3.2 에서 공변 부분 공간까지의 거리 $\|T - P(T)\|_\mu$가 상수에 의해 제한되며 공변성 결함 $E(T)$와 정량적으로 동등함을 증명합니다.

정규화 목적 함수

작업별 손실 $L_{task}$에 대한 학습 목적 함수는 다음과 같이 수정됩니다:
$$L = L_{task}(T) + \lambda_G \|P(T)\|_\mu^2 + \lambda_\perp \|T - P(T)\|_\mu^2$$
여기서 $\lambda_\perp$는 비공변 성분을 패널티화하여 모델이 공변 부분 공간에 정렬되도록 유도합니다. $\lambda_G$는 공변 부분의 정규화를 제어합니다.

푸리에 공간을 통한 효율적 계산

$P(T)$를 효율적으로 계산하는 것은 주요 과제이며, 특히 공간 영역의 적분이 계산 불가능한 연속 군 (예: $SO(n)$) 의 경우 더욱 그렇습니다. 저자들은 Peter-Weyl 정리를 활용하여 스펙트럼 (푸리에) 영역에서 이 투영을 수행합니다:

1. 분해: 선형 연산자를 군의 기약 표현 (irreps) 에 해당하는 주파수 블록으로 분해합니다.
2. 블록 대각화: Schur 의 보조정리에 따라 공변 사상은 주파수 영역에서 블록 대각형 (동등한 기약 표현들만 혼합) 입니다.
3. 투영: $P(T)$는 다음을 통해 계산됩니다:
   • $\pi \neq \sigma$인 모든 비대각 블록을 0 으로 만듭니다.
   • 대각 블록 내에서 평균을 내어 인터트윈너 공간 (intertwiner space) 으로 투영합니다.
4. 재구성: 역 푸리에 변환을 통해 공간 영역에서 투영된 가중치를 얻습니다.

이 접근법은 샘플링 없이 정확한 폐쇄형 투영을 가능하게 하며, 유한 군 (직접 평균을 통해) 과 연속 군 (스펙트럼 마스킹을 통해) 모두에 적용 가능합니다.

주요 기여

1. 이론적 정규화: 선형 연산자의 비공변 성분을 패널티화함으로써 일반적인 머신러닝 모델을 정확한 공변성 방향으로 정규화하는 이론적으로 근거 있는 접근법.
2. 연산자 수준 패널티: 점별 편차를 패널티화하는 샘플 기반 방법과 달리, 이 방법은 전체 군 궤도에 걸쳐 연산자 수준에서 비공변성을 패널티화합니다.
3. 스펙트럼 효율성: 푸리에 영역에서 투영을 정확하고 효율적으로 계산하는 프레임워크로, 샘플링 오버헤드 없이 $SO(n)$과 같은 연속 군에 적용 가능하게 합니다.
4. 실증적 검증: 기존 근사 공변성 접근법과 경쟁력 있는 작업 성능을 달성하면서도 상당한 런타임 이점을 제공함을 입증.

실험 결과

저자들은 세 가지 다른 실험 설정에서 이 방법을 평가했습니다:

1. 학습된 $SO(2)$ 불변성 (Toy Problem):

   • 점 구름을 이용한 이진 분류 작업에서 $\lambda_\perp$를 조정하여 학습된 불변성의 정도를 성공적으로 제어했습니다.
   • 목표 함수가 대칭성을 깨는 각도 섭동을 포함할 때, 정규화된 모델은 대칭성이 유지되는 영역에서는 불변성을 유지하면서 데이터에 적합하도록 적응하여 조절 가능한 편향을 보여주었습니다.

2. 불완전한 대칭성을 가진 동적 시스템:

   • 깨진 병진, 회전 및 스케일링 대칭성을 가진 연기 이류 - 확산 시뮬레이션에 적용되었습니다.
   • 회전 및 스케일링 영역에서 베이스라인 (Standard CNN, Equivariant CNN, RPP, Lift) 에 비해 투영 기반 정규화기 (+Reg) 가 일반화 (Future 및 Domain 설정) 를 일관되게 개선했으며, 대칭성이 이미 잘 정렬된 영역에서는 성능을 유지했습니다.

3. CT 스캔 금속 인공물 감소 (MAR):

   • AAPM CT-MAR 데이터셋에서 샘플 기반 정규화기 (Bai et al., 2025) 및 잔차 경로 사전 (RPP) 과 비교했습니다.
   • 성능: 투영 기반 방법은 테스트된 모든 아키텍처 (ACDNet, DICDNet, OSCNet) 에서 경쟁력 있거나 우수한 재구성 품질 (PSNR/SSIM) 을 달성했습니다.
   • 효율성: 이 방법은 샘플 기반 정규화기보다 처리량에서 크게 우위를 보였습니다. 군 샘플링을 위한 추가 순전파를 피함으로써 더 큰 배치 크기 (샘플 기반 4 대비 12) 를 허용하고 에포크 시간을 42~61% 단축했습니다. 또한 RPP 보다 더 적은 매개변수와 메모리를 필요로 했습니다.

4. MedMNIST (3D 생체의학 분류):

   • 회전 대칭성의 정도가 다양한 3D 작업 (Nodule, Synapse, Organ) 에서 평가되었습니다.
   • 이 방법은 높은 정확도를 달성하여 부분 공변 SCNN(P-SCNN) 및 RPP 와 일치하거나 초과하는 경우가 많았습니다.
   • 효율성: 비교된 모든 모델 중 가장 높은 학습 및 추론 처리량과 가장 낮은 에포크 시간을 보였으며, RPP 보다 훨씬 적은 매개변수를 필요로 했습니다.

중요성 및 주장

이 논문은 투영 기반 정규화가 유리한 정확도 - 효율성 트레이드오프를 제공한다고 주장합니다. 스펙트럼 투영을 통해 정규화를 샘플 수준에서 연산자 수준으로 전환함으로써, 이 방법은 다음과 같은 이점을 제공합니다:

• 추정기 분산 제거: 샘플링 노이즈 없이 패널티를 정확하게 계산합니다.
• 계산 오버헤드 감소: 샘플 기반 방법이 요구하는 추가 순전파를 피하여 더 큰 배치 크기와 빠른 학습/추론을 가능하게 합니다.
• 아키텍처 무관성 유지: 투영을 유도할 수만 있다면 (선형 연산자의 경우 직관적임), 이 일반적 레시피는 선형 계층을 가진 모든 모델에 적용 가능합니다.
• 불완전한 대칭성 처리: 데이터 분포가 이를 요구할 때 엄격한 제약을 완화하면서도 유익한 귀납적 편향은 유지하여 모델이 적절한 공변성 정도를 학습할 수 있게 합니다.

저자들은 이 접근법이 특히 연속 대칭 군의 경우 엄격한 공변 아키텍처와 계산적으로 비용이 많이 드는 샘플 기반 정규화에 대한 견고하고 확장 가능한 대안을 제공한다고 결론지었습니다.