GSVD for Geometry-Grounded Dataset Comparison: An Alignment Angle Is All You Need

이 논문은 두 데이터셋 간의 선형 관계를 일반화 특이값 분해 (GSVD) 를 통해 분석하여, 각 샘플이 두 데이터셋 중 어느 쪽에 더 잘 설명되는지를 정량화하는 해석 가능한 '각도 점수'를 제안하고 이를 MNIST 데이터셋에서 검증합니다.

핵심

이 논문은 **"두 개의 데이터셋이 얼마나 닮았는지, 혹은 얼마나 다른지"**를 기하학적 관점에서 아주 직관적으로 측정하는 새로운 방법을 제안합니다.

기존의 방법들은 복잡한 수학적 모델이나 거리 계산을 사용했지만, 이 논문은 **"정렬 각도 (Alignment Angle)"**라는 하나의 숫자로 두 데이터의 관계를 설명합니다. 마치 두 사람이 서로를 얼마나 잘 이해하는지, 혹은 얼마나 다른 생각을 가지고 있는지 한 번에 파악하는 것과 같습니다.

이 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 핵심 아이디어: "공통의 언어"와 "각도"

상상해 보세요. 두 개의 서로 다른 언어를 사용하는 두 그룹 (A 그룹과 B 그룹) 이 있습니다.

• A 그룹: '1'이라는 숫자를 그리는 사람들 (MNIST 의 숫자 1)
• B 그룹: '5'라는 숫자를 그리는 사람들 (MNIST 의 숫자 5)

이 두 그룹이 같은 종이에 그림을 그릴 때, 그들의 그림이 **어떤 공통된 틀 (공간의 구조)**을 공유하는지, 그리고 각자가 어떤 독특한 특징을 가지고 있는지 비교하고 싶습니다.

이 논문은 두 그룹의 그림을 "공통의 무대 (GSVD)" 위에 올려놓습니다. 이 무대 위에서 각 그림을 설명하는 데 A 그룹의 언어가 더 적합한지, B 그룹의 언어가 더 적합한지, 아니면 둘 다 비슷한지 **한 가지 각도 (Angle)**로 측정합니다.

2. 비유: "두 개의 나침반"

이 방법의 핵심은 **GSVD(일반화 특이값 분해)**라는 수학적 도구입니다. 이를 쉽게 비유하자면 다음과 같습니다.

• 공통의 나침반 (GSVD 프레임): 두 데이터셋을 분석할 때, 서로 다른 기준을 쓰지 않고 하나의 공통된 나침반을 사용합니다. 이 나침반은 "공통된 방향"과 "각자만의 고유한 방향"을 정확히 구분해 줍니다.
• 나침반의 각도 (Alignment Angle, $\theta$): 이제 새로운 그림 (데이터) 이 들어왔을 때, 이 그림이 A 그룹의 나침반에 더 가깝게 놓여 있는지, B 그룹에 더 가깝게 놓여 있는지 각도로 재봅니다.

각도의 의미 (가장 중요한 부분!)

이 논문에서 계산하는 각도 $\theta$는 0 도에서 90 도 사이입니다.

• 0 도에 가까울수록 (A 쪽): 이 그림은 A 그룹이 설명하기 훨씬 쉽습니다. (예: 숫자 '1'이 들어왔는데, '1'을 그리는 A 그룹의 설명이 완벽하게 맞음)
• 90 도에 가까울수록 (B 쪽): 이 그림은 B 그룹이 설명하기 훨씬 쉽습니다. (예: 숫자 '5'가 들어왔는데, '5'를 그리는 B 그룹의 설명이 완벽하게 맞음)
• 45 도 (가운데): 이 그림은 A 와 B 모두가 비슷하게 설명할 수 있습니다. (예: '4'와 '9'가 섞인 듯한 그림. 두 그룹 모두 "내 것 같다"고 주장하는 모호한 상태)

3. 실제 실험: MNIST 숫자 게임

연구자들은 유명한 숫자 데이터셋 (MNIST) 을 가지고 실험했습니다.

• 실험 1: '1' vs '5'
  • '1'은 0 도에 가깝게, '5'는 90 도에 가깝게 모였습니다.
  • 결과: 두 숫자는 완전히 다른 세계에 살기 때문에, 각도 차이가 매우 큽니다. (분리도가 명확함)
• 실험 2: '4' vs '9'
  • '4'와 '9'는 서로 닮았기 때문에, 각도가 45 도 주변에 많이 몰려 있었습니다.
  • 결과: 두 숫자는 공통된 특징이 많아서, 어느 그룹에 속하는지 판단하기 애매한 (각도가 중립적인) 경우가 많습니다.

4. 왜 이 방법이 유용한가요? (일상적인 활용)

이 기술은 단순히 "어느 숫자인지" 맞추는 것보다 더 깊은 통찰을 줍니다.

1. 데이터의 "정체성" 확인: 새로운 데이터가 들어왔을 때, "이건 A 의 특징을 더 많이 타고났구나, 아니면 B 의 특징이 강하구나"를 직관적으로 알 수 있습니다.
2. 혼란스러운 데이터 찾기: 각도가 45 도인 데이터는 "누구의 것도 아닌" 혹은 "둘 다 섞인" 데이터일 가능성이 높습니다. 이런 이상치 (Outlier) 를 찾아내어 데이터를 정제하는 데 쓸 수 있습니다.
3. 시각적 진단: 연구자들은 이 각도 분석을 통해 "어떤 방향이 두 그룹을 구분하는 핵심 특징인지"를 이미지로 보여줄 수 있었습니다. 마치 "숫자 4 는 각진 선이 핵심이고, 9 는 둥근 선이 핵심"이라는 것을 그림으로 증명하는 것과 같습니다.

5. 요약: "하나의 각도로 모든 것을 알다"

이 논문은 복잡한 데이터 비교를 **"두 데이터셋 사이의 각도"**라는 아주 단순하고 직관적인 개념으로 바꿨습니다.

• 기존 방식: "이 두 데이터는 0.85 점으로 비슷합니다." (숫자만 알려줌)
• 이 논문의 방식: "이 데이터는 A 그룹과 10 도, B 그룹과 80 도의 각도를 가집니다. 즉, A 그룹의 특징을 훨씬 더 많이 가지고 있습니다." (이유와 방향까지 알려줌)

마치 **"이 사람은 A 팀의 전략을 더 잘 이해하고 있네요, 아니면 B 팀의 전략을 더 잘 이해하고 있네요"**라고 한 마디로 설명할 수 있는, 데이터 분석의 새로운 나침반을 개발한 셈입니다.

기술 요약

1. 문제 정의 (Problem)

기존의 데이터셋 비교 방법은 주로 학습된 모델의 성능 차이를 비교하거나, 임베딩 공간에서의 거리 (Embedding distance) 를 측정하는 간접적인 방식을 취합니다. 이러한 접근법은 두 데이터셋이 왜 유사하거나 다른지에 대한 기하학적 (Geometric) 인과관계를 명확히 설명하지 못합니다.

본 논문은 "기하학 기반 학습 (Geometry-grounded learning)" 관점에서, 데이터가 임의의 벡터가 아니라 문제 도메인의 구조를 반영해야 한다는 전제하에, **두 데이터셋 간의 선형 관계와 기하학적 정렬 (Alignment)**을 직접적으로 분석하는 새로운 프레임워크를 제안합니다. 특히, 두 데이터셋이 공통의 환경 공간 (Ambient space) 에서 어떻게 상호작용하는지, 그리고 개별 샘플이 어느 데이터셋의 구조에 더 잘 설명되는지를 정량화하는 것이 핵심 문제입니다.

2. 방법론 (Methodology)

2.1. 기본 원리: 코-스팬 (Co-span) 관계

두 데이터 행렬 $A \in \mathbb{R}^{d \times p}$와 $B \in \mathbb{R}^{d \times q}$ (각 열은 관측치) 가 주어졌을 때, 두 데이터셋 간의 유사성을 **선형 관계 (Linear Relation)**로 정의합니다.
$$Ax = By = z$$
여기서 $z \in \mathbb{R}^d$는 공통 환경 공간의 벡터이며, $x$와 $y$는 각각 $A$와 $B$를 사용하여 $z$를 표현하는 계수입니다. 이 관계는 샘플 간의 일대일 대응 (Pointwise correspondence) 이나 역변환 가능한 매핑을 요구하지 않으며, 두 데이터셋이 공통 공간에서 얼마나 호환되는지 (Compatibility) 를 나타냅니다.

2.2. 일반화된 특이값 분해 (GSVD) 활용

이 선형 관계를 분석하기 위해 **일반화된 특이값 분해 (Generalized Singular Value Decomposition, GSVD)**를 도입합니다. GSVD 는 두 행렬 $A$와 $B$에 대해 다음과 같은 공동 좌표계 (Joint Coordinate System) 를 제공합니다.
$$A = HCU, \quad B = HSV, \quad C^\top C + S^\top S = I$$

• $H$: 두 데이터셋이 공유하는 공통 환경 기준 프레임 (Shared ambient reference frame).
• $C, S$: 대각 행렬 (또는 블록 대각 행렬) 로, 각 공통 방향이 $A$와 $B$에 얼마나 기여하는지를 나타냅니다.
  • $C$의 성분이 크고 $S$의 성분이 작으면 해당 방향은 $A$에 특화된 구조입니다.
  • 반대로 $S$가 크고 $C$가 작으면 $B$에 특화된 구조입니다.
  • 두 값이 비슷하면 공유된 구조 (Shared structure) 입니다.

2.3. 정렬 각도 (Alignment Angle, $\theta(z)$) 정의

GSVD 프레임에서 개별 샘플 $z$에 대한 정렬 각도 (Alignment Angle) $\theta(z) \in [0, \pi/2]$를 정의하여 데이터셋 간의 상대적 설명력을 정량화합니다.
$$\theta(z) = \arctan\left(\frac{\|x\|_2}{\|y\|_2}\right)$$
여기서 $x, y$는 $Ax = By = z$를 만족하는 최소 $\ell_2$ 노름 계수입니다.

• $\theta(z) \approx 0$: 샘플 $z$가 $A$에 의해 더 효율적으로 설명됨 ("More A").
• $\theta(z) \approx \pi/2$: 샘플 $z$가 $B$에 의해 더 효율적으로 설명됨 ("More B").
• $\theta(z) \approx \pi/4$: $A$와 $B$ 모두에 의해 유사하게 설명됨 (공유 구조).

이 각도는 $A$와 $B$의 상대적 비용 (Cost) 비율을 $\arctan$ 함수를 통해 $[0, \pi/2]$ 범위의 해석 가능한 점수로 변환합니다.

2.4. 극한 방향 (Extreme Directions) 탐색

GSVD 구조를 이용하여 두 데이터셋의 기하학적 특성을 가장 극명하게 나타내는 대표 벡터 (Representative directions) 를 찾을 수 있습니다.

• $z_{min}$: $\theta(z)$가 최소가 되는 방향 (A 에 가장 특화된 구조).
• $z_{max}$: $\theta(z)$가 최대가 되는 방향 (B 에 가장 특화된 구조).
  이러한 방향들은 $H$ 행렬의 특정 열 (columns) 로부터 직접 유도되며, 데이터셋의 고유한 특징을 시각화하는 데 사용됩니다.

3. 주요 기여 (Key Contributions)

1. 기하학적 원시 객체 (Primitive) 제안: 데이터셋 비교를 위해 $Ax = By = z$ 형태의 코-스팬 (Co-span) 선형 관계를 최소한의 기하학적 원리로 제안했습니다.
2. GSVD 기반 공동 좌표계: 두 부분공간을 비교하기 위한 자연스러운 좌표계로 GSVD 를 활용하여, 공유 방향과 데이터셋 고유의 방향을 $(C, S)$ 행렬을 통해 명시적으로 분리했습니다.
3. 해석 가능한 점수 ($\theta(z)$) 도출: 개별 샘플 수준에서 데이터 정렬 정도를 진단하는 정렬 각도 점수를 유도했습니다. 이는 이진 분류기나 이상치 탐지 (Diagnostics) 에 직접 활용 가능합니다.
4. MNIST 를 통한 실증: MNIST 데이터셋을 사용하여 각도 분포와 GSVD 에서 유도된 대표 방향 (Representative directions) 을 시각화하여, 클래스 간 기하학적 분리도와 점수 분포 간의 상관관계를 입증했습니다.

4. 실험 결과 (Results)

• MNIST 실험: 서로 다른 숫자 쌍 (예: '1' vs '5', '4' vs '9') 에 대해 $A$와 $B$ 행렬을 구성하고 테스트 샘플에 대해 $\theta(z)$를 계산했습니다.
  • 분리가 명확한 쌍 (1 vs 5, 0 vs 7): 히스토그램이 0 과 $\pi/2$ 양쪽으로 뚜렷하게 분리되었습니다. 이는 각 클래스가 서로 다른 기하학적 구조를 가짐을 의미합니다.
  • 유사한 쌍 (4 vs 9): 히스토그램이 $\pi/4$ 근처에서 중첩되었습니다. 이는 두 숫자가 시각적/구조적 유사성으로 인해 공유된 기하학적 방향을 많이 가진다는 것을 보여줍니다.
• 시각화: GSVD 를 통해 추출된 대표 방향 벡터를 이미지로 재구성했을 때, '4'에 특화된 방향은 날카로운 에지 패턴을, '9'에 특화된 방향은 둥근 윤곽을 보여주며, 공유 방향은 두 클래스의 특징이 혼합된 형태를 보였습니다.
• 정보 기하학 (Information Geometry): Fisher-Rao 거도를 사용하여 각도 분포 간의 거리를 측정했습니다. Fisher-Rao 거도가 클수록 클래스 간 기하학적 분리가 명확함을 확인했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 해석 가능성 (Interpretability): 기존의 "블랙박스" 모델 비교나 단순 거리 측정을 넘어, 왜 두 데이터가 다른지 (또는 같은지) 를 기하학적 방향과 각도로 직관적으로 설명할 수 있습니다.
• 샘플 진단 도구: 개별 샘플이 학습된 데이터셋 중 어느 쪽에 더 잘 맞는지, 혹은 어느 데이터셋의 편향 (Bias) 을 반영하는지 진단할 수 있는 강력한 도구로 활용 가능합니다.
• 확장성: 이 프레임워크는 픽셀 데이터뿐만 아니라 사전 학습된 신경망의 임베딩 공간에도 적용 가능하며, 전이 학습 (Transfer Learning) 에서 소스 도메인 샘플의 적합성을 평가하거나, 도메인 적응 (Domain Adaptation) 시 중요한 샘플을 선별하는 데 유용합니다.
• 한계 및 향후 과제: 현재는 두 개의 도메인 비교에 국한되어 있으며, 대규모 데이터셋에 대한 GSVD 계산 비용 ($O(d^3)$) 이 문제될 수 있습니다. 향후 다중 도메인 확장 및 계산 효율성 개선이 필요합니다.

요약하자면, 이 논문은 **GSVD 를 기반으로 한 정렬 각도 (Alignment Angle)**라는 새로운 메트릭을 통해 데이터셋 간의 기하학적 관계를 정량화하고 해석 가능한 시각적 통찰을 제공하는 혁신적인 접근법을 제시했습니다.