An Unsupervised Tensor-Based Domain Alignment

기술 요약: 비지도 텐서 기반 도메인 정렬 (Unsupervised Tensor-Based Domain Alignment)

문제 정의
신호 처리 기반 인공지능 시스템은 서로 다른 조건(예: 다양한 장치 또는 환경) 하에서 수집된 훈련(소스) 및 테스트(타겟) 데이터가 존재하는 실제 환경에 배포될 때 성능 저하를 겪는 경우가 많습니다. 이러한 "도메인 시프트(domain shift)"는 모델의 일반화 능력을 저해하는 데이터 분포의 불일치를 생성합니다. PCA(주성분 분석), SA(Subspace Alignment), CORAL(Correlation Alignment)과 같은 전통적인 도메인 적응(DA) 기술들이 제안되어 왔으나, 이들은 일반적으로 텐서 구조의 데이터를 벡터화함으로써 다차원적 구조 특성을 활용하지 못한다는 한계가 있습니다. 또한, TAISL(Tensor-Aligned Invariant Subspace Learning)과 같은 기존의 텐서 기반 방법들은 투영 행렬에 직교 제약 조건(Stiefel manifold)을 부과합니다. 저자들은 이러한 직교 제약이 표현의 유연성을 제한하여 복잡한 도메인 변화를 포착하기 어렵게 만든다고 주장합니다.

방법론
본 논문은 공통의 불변 부공간(invariant subspace) 내에서 소스 및 타겟 텐서를 정렬하도록 설계된 텐서 기반 도메인 정렬(TDA) 알고리즘을 제안합니다. 이 방법은 벡터화를 수행하지 않고 데이터를 투영하기 위해 터커 분해(Tucker decomposition)를 활용합니다.

• 목적 함수: 프레임워크의 핵심은 정규화 항 $h(\mathcal{M})$을 포함하면서 정렬 손실 $J(\mathcal{M}, \mathcal{U})$를 최소화하는 목적 함수입니다.
  • 정렬 손실: 이 항은 정렬 행렬 $\mathcal{M} = \{M_k\}$와 공유 부공간 $\mathcal{U} = \{U_k\}$를 통한 공동 변환을 통해 소스 및 타겟 텐서의 정렬을 강제합니다. 소스와 타겟 텐서는 코어 텐서 $G_s$ 및 $G_t$에 의해 정의되는 공통 부공간으로 투영됩니다.
  • 정규화: 모어-펜로즈 유사 역행렬(Moore-Penrose pseudo-inverse)을 통해 회복된 원본 텐서와 텐서 사이의 재구성 오차를 최소화하기 위해 분산 보존 항이 추가됩니다. 이는 소스 및 타겟 텐서의 분산이 보존되도록 보장합니다.
• 매니폴드 제약: 주요 방법론적 혁신은 직교 제약의 완화입니다. $M_k M_k^T = I$ (Stiefel manifold)를 강제하는 대신, 제안된 방법은 $\text{diag}(M_k M_k^T) = 1$로 정의되는 사선 매니폴드(oblique manifold) 제약을 부과합니다. 이를 통해 비직교 변환이 가능해지며, 복잡한 도메인 변화와 투영 방향 간의 상호 의존성을 포착할 수 있는 더 큰 유연성을 제공합니다.
• 최적화: $\mathcal{M}$과 $\mathcal{U}$ 사이의 상호 의존성으로 인해 교대 최소화(alternating minimization) 전략을 사용하여 문제를 해결합니다:
  1. $\mathcal{U}$ 최적화: 고정된 정렬 행사를 사용하여, 교대 최소 자승(ALS) 알고리즘을 통한 터커 분해로 부공간 행렬을 업데이트합니다.
  2. $\mathcal{M}$ 최적화: 고정된 부공간 행렬을 사용하여, 사선 매니폴드 상에서 리만 경사 하강법(Riemannian gradient descent)을 통해 정렬 행렬을 업데이트합니다.

주요 기여

1. 기존 방법의 일반화: 제안된 프레임워크는 기존의 텐서 기반 DA 방법(TAISL 포함)을 특수 사례로 포함하는 다재다-능한 일반화된 구조를 가집니다. 사선 제약을 직교 제약으로 대체하고 특정 항들을 제거하면 기존 알고리즘으로 축소됩니다.
2. 사선 매니폴드 제약: Stiefel manifold 대신 oblique manifold를 활용함으로써 직교 제약을 완화하여, 향상된 표현 유연성과 복잡한 도메인 시프트에 대한 적응력을 제공합니다.
3. 분산 보존: 소스 및 타겟 텐서의 분산을 구체적으로 보존하도록 설계된 정규화 항의 포함은 견고한 성능을 보장합니다.
4. 이중 도메인 정렬: 소스 데이터를 타겟 도메인 쪽으로 정렬하는 데 집중하는 기존 방법들과 달리, 이 접근 방식은 정렬 과정 중에 소스와 타겟 도메인을 동시에 고려합니다.

실험 결과
저자들은 시각적(MNIST, MNIST-C, MNIST-M) 및 음향적(TUT Urban Acoustic Scenes 2018 Mobile) 데이터셋을 통해 알고리즘을 평가했습니다. 성능은 타겟 데이터에 대한 분류 정확도와 클래스 내 거리 감소로 측정되었습니다.

• 분류 정확도: 제안된 방법, 특히 사선 제약을 적용한 변형(TDA(O))은 최신 베이스라인(NA, PCA, SA, CORAL, NTSL, TAISL, E-TAISL 포함)보다 일관되게 우수한 성능을 보였습니다.
  • 이미지 텐서의 경우, TDA(O)는 모든 타겟 도메인에서 가장 높은 정확도를 달-성했습니다 (예: MNIST-C Fog에서 79.2%, MNIST-C Blur에서 71.1%, MNIST-M에서 53.1%).
  • 오디오 텐서에서도 TDA(O)는 유사하게 우수한 정확도를 달성했습니다 (1:1 페어링에서 85.7%, 무작위 페어링에서 62.7%).
• 수렴 속도: 이 방법은 베이스라인에 비해 빠른 수렴 속도를 보여주었습니다. TDA(O)는 손실 감소와 정확도 향상 측면 모두에서 가장 빠른 수렴을 보였으며, 이는 사선 제약의 효율성에 기인합니다.
• 강건성: 알고리즘은 타겟 텐서 크기가 제한적인 경우에도 신뢰성을 유지했으며 레이블 노이즈에 대해서도 강건함을 보였습니다. 베이스라인보다 일관되게 더 작은 클래스 내 거리를 달성하였는데, 이는 더 나은 교차 도메인 기하학적 일관성을 나타냅니다.
• 시각화: t-SNE 시각화는 TDA(O)가 TAISL보다 소스와 타겟 분포를 더 효과적으로 중첩시켜 우수한 도메인 적응을 달성했음을 확인시켜 주었습니다. 투영 행렬 분석 결과, 사선 제약이 무시할 수 없는 비대각 성분을 도입하였음을 보여주었으며, 이는 투영 방향 간의 향상된 상호 의존성을 확인시켜 줍니다.

의의
본 논문은 제안된 TDA 프레임워크를 복잡한 도메인 적응 작업에 대한 우수한 선택지로 자리매김합니다. 텐서 기반의 구조적 보존과 사선 매니폴드 제약의 유연성, 그리고 분산 보존 정규화를 결합함으로써, 이 방법은 전통적인 벡터 기반 및 직교 제약 텐서 방법의 한계를 해결합니다. 저자들은 이 접근 방식이 분류 정확도를 크게 높일 뿐만 아니라 도메인 정렬 변환 속도를 향상시켜, 환경이나 장치 변화로 인해 데이터 분포가 변하는 실제 응용 분야에서 강력한 솔루션이 된다고 주장합니다.