Complementary t-SNE-UMAP Optimization for High-Dimensional Data Visualization

기술 요약: 고차원 데이터 시각화를 위한 상보적 t-SNE–UMAP 최적화

문제 정의
고차원 데이터 시각화는 데이터를 2차원 또는 3차원으로 축소할 때 중요한 구조적 관계의 손실이 발생할 수 있다는 점에서 까다롭습니다. t-분포 확률적 근접 이웃 임베딩(t-SNE)은 국소적 이웃 구조를 보존하는 데 매우 효과적이지만, 전역적 기하 구조를 유지하는 데 어려움을 겪을 수 있으며 클러스터 간 거리에 대한 주의 깊은 해석이 필요합니다. 반면, Uniform Manifold Approximation and Projection(UMAP)은 계산 효율성과 양호한 연속성을 제공하지만, 서로 다른 목적 함수를 최적화합니다. 기존의 접근 방식들은 대개 두 방법 중 하나를 선택하거나, 독립적으로 완료된 두 개의 임베딩을 결합하는 방식을 취합니다. 저자들은 이러한 전략들이 두 알고리즘의 상보적인 강점을 단일 최적화 과정 내에서 활용하지 못하며, 특히 t-SNE의 약한 이웃 표현을 교정하기 위해 UMAP의 그래프 구조를 사용할 기회를 놓치고 있다고 주장합니다.

방법론
제안된 방법은 두 개의 별도 임베딩을 융합하는 대신, UMAP 정보를 t-SNE 최적화 과정에 직접 통합하는 하이브리드 프레임워크를 도입합니다. 핵심 혁신은 UMAP의 가이드가 필요한 곳에만 적용되도록 설계된 상보적 에지 가중치(complementary edge weighting) 메커니즘입니다.

1. 상보적 에지 가중치:
   본 방법은 샘플 $i$와 $j$ 사이의 에지에 대해 다음과 같은 상보적 가중치 $C_{ij}$를 정의합니다:
   $$C_{ij} = W^U_{ij} (1 - T^{tSNE}_{ij})$$
   여기서 $W^U_{ij}$는 UMAP의 퍼지 그래프 가중치이고, $T^{tSNE}_{ij}$는 t-SNE 친화도의 정규화된 신뢰도입니다.

   • UMAP은 두 점을 강하게 연결하지만 t-SNE의 신뢰도가 낮은 경우, $C_{ij}$는 커지며 강한 인력(attractive force)을 추가합니다.
   • 두 방법이 이미 강한 관계에 대해 동의하는 경우, $C_{ij}$는 작아져 중복된 영향을 방지합니다.

2. 최적화 목적 함수:
   최종 목적 함수는 표준 t-SNE 쿨백-라이블러(KL) 발산과 상보적 UMAP 에지에 기반한 희소 인력 항(sparse attractive term)을 결합합니다:
   $$L_H(Y, t) = D_{KL}(P^{tSNE} || Q^Y) + \lambda(t) L_C(Y)$$
   결정적으로, 상보적 항 $L_C(Y)$는 UMAP의 반발성 비-에지(repulsive non-edge) 항을 포함하지 않으며, 이를 통해 기본 구조가 t-SNE에 의해 주도되도록 보장합니다.

3. 지연 활성화(Delayed Activation):
   초기 클러스터 형성에 간섭하는 것을 방지하기 위해, 상보적 항은 t-SNE의 "초기 과장(early exaggeration)" 단계 동안 비활성화됩니다. 가중치 $\lambda(t)$는 초기 과장 단계(실험에서는 특히 250 반복 이후) 이후에 스무스스텝(smoothstep) 스케줄을 사용하여 최대값($\lambda_{max} = 0.05$)에 도달할 때까지 점진적으로 증가합니다.

4. 초기화:
   최적화는 UMAP 임베딩을 사용하여 초기화함으로써 t-SNE 과정에 유리한 시작점을 제공합니다.

주요 기여
본 논문은 다섯 가지 주요 기여를 설명합니다:

1. 프레임워크: UMAP 그래프 정보가 t-SNE 최적화 루프 내부에서 활용되는 새로운 t-SNE–UMAP 하이브리드 모델을 제시합니다.
2. 가중치 전략: 기존 t-SNE 친화도의 강도에 따라 UMAP의 영향력을 동적으로 조절하는 상보적 신뢰도 가중치 $C_{ij}$를 도입했습니다.
3. 최적화 스케줄: 초기 t-SNE 최적화의 무결성을 보존하기 위해 초기 과장 단계 이후에만 상보적 항을 도입하는 지연 활성화 전략을 사용했습니다.
4. 엄격한 제어: 초기화, 그래프 인력, 상보적 정규화의 구체적인 효과를 격리하기 위해 매칭된 KL 제어(UMAP으로 초기화되었으나 상보적 항은 없는 t-SNE) 및 여러 어블레이션(ablation) 변형을 사용했습니다.
5. 포괄적 평가: 신뢰도(trustworthiness), 연속성(continuity), 이웃 회상(neighborhood recall), 밀도 보존(density preservation), 전역 거리 보존(global distance preservation) 등 광범위한 지표를 사용하여 9개의 벤치마크 데이터셋(MNIST, CIFAR-10/100, 테이블 데이터 포함)에 대해 광범위한 테스트와 통계적 유의성 검정을 수행했습니다.

결과
본 방법은 9개의 데이터셋에 대해 표준 t-SNE, 표준 UMAP, UMAP-초기화 t-SNE 및 기타 비선형 방법(densMAP, TriMap, PaCMAP, LocalMAP)과 비교 평가되었습니다.

• 신뢰도 및 이웃 회상: 제안된 방법(A6)은 테스트된 모든 방법 중 가장 높은 평균 신뢰도(0.9602)와 이웃 회상(0은 0.4426)을 달 기록했습니다.
• 통계적 유의성: 매칭된 KL 제어(A3)와 비교했을 때, 제안된 방법은 9개 데이터셋 모두에서 신뢰도를 향상시켰습니다. 이 향상은 Holm 보정 후 통계적으로 유의미했으며($p_{Holm} = 0.046875$), 큰 쌍체 효과 크기($d_z = 1.47$)를 보였습니다.
• 트레이드오프: 국소적 이웃 신뢰성의 향상은 트레이드오프를 동반했습니다. 본 방법은 매칭된 제어 집단에 비해 밀도 보존 측면에서 유의미하게 낮은 수치를 보였습니다($p_{Holm} = 0.046875$).
• 전역 구조: 표준 t-SNE와 비교하여 전역 유클리드 또는 젠슨-섀넌(Jensen–Shannon) 거리 보존 측면에서 유의미한 개선이 없었습니다. 실제로 표준 t-SNE가 약간 더 높은 전역 유클리드 점수를 유지했습니다.
• 실행 시간: 제안된 파이프라인은 표준 t-SNE보다 약 1.77배 느렸습니다(58.59초 vs 33.01초). 이는 상보적 항 자체보다는 주로 UMAP 초기화와 커스텀 최적화 프레임워크 때문입니다.

의의 및 주장
저자들은 본 연구의 주요 의의가 단순히 임베딩을 평균 내는 것이 아니라, 상보적인 그래프 정보를 선택적으로 통합함으로써 국소적 이웃 신뢰성을 향상시킬 수 있음을 입증하는 데 있다고 주장합니다.

본 논문은 이 방법이 차원 축소의 모든 측면을 개선하기 위한 보편적인 해결책이 아님을 명시적으로 밝히고 있습니다. 대신, 특정 이점, 즉 밀도 보존이나 최소 실행 시간보다 국소적 이웃 관계의 정확성이 우선순위인 응용 분야에서 국소적 이웃 관계의 신뢰성을 높이는 데 적합한 방법을 제공합니다. 저자들은 이러한 이득이 밀도 보존의 감소와 실행 시간 증가라는 명확한 트레이드오프를 수반한다는 점을 강조합니다. 결과적으로, 본 방법은 국소적 이웃 관계의 정확성이 밀도 보존이나 최소 실행 시간보다 중요한 경우에 가장 적합합니다. 연구 결과는 하나의 구조적 속성(국소적 신뢰도)을 최적화하는 것이 다른 속성(밀도)을 본질적으로 저하시킬 수 있으므로, 하이브리드 방법은 반드시 다중 지표를 사용하여 평가되어야 함을 시사합니다.