기술 요약: 위상적 정규화를 이용한 NMF (Top-NMF)

문제 정의

비음수 행렬 분해(Non-negative Matrix Factorisation, NMF)는 가산적인 비음수 데이터를 해석 가능한 부분 기반 표현으로 분해하는 표준적인 기법이다. 그러나 표준 NMF는 재구성 오차(reconstruction error)를 낮게 달even 하더라도, 기저 벡터(basis vectors)가 구조적 일관성을 결여하는 경우가 많다. 희소 기저(sparse basis)는 단절된 구성 요소들로 파편화될 수 있으며, 매끄러운 기저(smooth basis)는 의미적으로 구별되는 영역들을 흐릿하게 만들 수 있다. 기존의 정규화 방법들(예: 희소성, 매끄러움, 또는 그래프 정규화 계수)은 기저 서포트(basis supports)의 전역적인 위상적 구조를 직접적으로 제어하는 데 한계가 있다. 또한, 임계값 기반의 서포트를 통해 위상을 강제하려는 단순한 시도들은 불연속성과 임계값 의존성 문제로 인해 연속적인 최적화에 적합하지 않다.

본 연구가 다루는 핵심 문제는, 그래디언트 기반 최적화와 호환되면서도 특정 도메인에 적합한 위상적 특성(예: 이미지에서의 연결성, 시계열에서의 주기성, 또는 그래프에서의 클리크 유사 구조)을 갖는 NMF 기저 함수를 학습하는 방법이다.

방법론

함수적 관점과 위상적 정규화

저자들은 Top-NMF를 제안하며, 이는 기저 벡터를 단순히 행렬의 행이 아니라 구조화된 도메인 $\Omega$(예: 이미지 그리드, 그래프, 또는 시계열) 위에 정의된 비음수 함수 $v: \Omega \to \mathbb{R}_{\geq 0}$로 취급하는 프레임워크이다. 목적 함수는 표준 재구성 손실에 위상적 페널티를 추가하여 확장된다:
$$\min_{W, V \geq 0} L_{\text{recon}}(X, WV) + \lambda_{\text{top}} L_{\text{top}}(V)$$
여기서 $L_{\text{top}}(V) = \sum Q(v_j)$는 기저 함수들로부터 유도된 스칼라 위상 점수들의 합이다.

지속적 호몰로지(Persistent Homology)를 통한 연속적 정량화

임계값에 의존하는 위상 분석의 불안정성을 극복하기 위해, 이 방법은 **지속적 호몰로지(persistent homology, PH)**를 채택한다. Top-NMF는 단일 임계값 서포트를 분석하는 대신, 각 기저 함수로부터 상위 레벨 셋 필트레이션(superlevel-set filtration) 또는 (시계열을 위한 파생된 필트레이션)을 구축한다. PH는 모든 임계값에 걸쳐 위상적 특징(연결 성분, 구멍 등)의 탄생(birth)과 소멸(death)을 추적하며, 이를 통해 임계값에 의존하지 않는 안정적인 요약을 제공한다.

위상 점수 $Q(v)$는 지속성 다이어그램(persistence diagram)으로부터 유도된 스칼라 범함수이다. 본 논문은 전체 제곱 지속성(total squared persistence)(및 그 가중 변형)을 미분 가능한 위상적 특성의 대리 지표로 활용한다. 이 점수를 최소화함으로써 다음과 같은 구조적 사전 지식(priors)을 장려한다:

• 연결성 (이미지/1D 신호): 유한한 0차원 지속성 바(persistence bars)를 페널티를 부여함으로써(이는 낮은 임계값에서 병합되는 단절된 구성 성분을 나타냄), 단일하고 연결된 서포트를 장려한다.
• 주기성 (시계열): 슬라이딩 윈도우 임베딩과 Vietoris–Rips 필트레이션을 사용하여, 순환 구조(holes)를 식별하기 위한 1차원 지속성을 타겟팅한다. 타겟 기반 페널티 $(Per(v) - a)^2$를 통해 사용자가 원하는 주기성 수준을 지정할 수 있다.
• 클리크 유사 구조 (그래프): 에지 가중 그래프를 위해 새로운 **클리크 촉진 범함수($CP_\alpha$)**가 도입된다. 이 점수는 그래프 필트레이션의 지속성으로부터 유도되며, 최대 가중 스패닝 트리(maximum-weight spanning tree)를 통해 폐쇄형(closed form)으로 표현될 수 있다. 이는 정점 그룹의 병합을 지연시키고(높은 0-지속성), 조기 사이클 형성을 촉진하여(높은 1-지속성), 밀집된 클리크 유사 서브그래프를 효과적으로 장려한다.

최적화

결과적으로 도출되는 최적화 문제는 비매끄럽고 비볼록(non-convex)하다. 저자들은 이를 타메 기하학(tame geometry, o-minimal 구조)의 틀 안에서 공식화한다. 이들은 투영 서브그래디언트 방법(구체적으로 실험에서는 AdamW 사용)을 사용하며, 여기서 위상 항의 서브그래디언트는 지속성 다이어그램 또는 명시적인 스패닝 트리 공식을 통한 체인 룰(chain rule)을 통해 계산된다. (Proposition 6 및 Theorem 7의) 이론적 보증은 표준 가정 하에서 반복 계산의 누적점이 클라크 정지점(Clarke stationary points)임을 입증한다.

주요 기여

1. 함수적 정식화: 본 논문은 구조화된 도메인 상에서의 NMF를 함수적 관점에서 정식화하여, 이미지, 시계열 및 그래프에 대한 위상적 사전 지식을 정의할 수 있는 통일된 언어를 제공한다.
2. 미분 가능한 위상적 정량자: 지속적 호몰로지가 어떻게 이산적인 해석 가능성 기준을 최적화 가능한 정규화 인자로 변환하여, 전통적인 서포트 분석의 임계값 의존성을 피할 수 있는지 보여준다.
3. 도메인 특화 구현:
   • 이미지 및 신호 기저를 위한 연결성 및 구멍 없는(hole-free) 페널티 개발.
   • 슬라이딩 윈도우 임베딩을 이용한 시계열 기저용 주기성 점수 도입.
   • 에지 가중 그래프를 위한 새로운 지속적 호몰로지 기반 기술로서의 클리크 촉진 정규화기($CP_\alpha$) 제안.
4. 경험적 검증: 프레임워크는 네 가지 도메인에서 평가되었으며, 표준 NMF가 격리하지 못하는 구조적으로 일관된 기저(예: 단봉형 피크, 연결된 바, 클리크 서브그래프, 리듬감 있는 ECG 성분)를 Top-NMF가 성공적으로 회복함을 보여주었다.

실험 결과

저자들은 네 가지 도메인에서 Top-NMF를 평가하였다:

• 1D 신호: 혼합물에서 단봉형 가우시안 피크를 회복할 때, Top-NMF는 이차 국소 극대값을 페널티로 부여함으로써 표준 NMF(0.772)보다 현저히 높은 원자 회복 점수(0.997)를 달성했다(재구성 RMSE는 약간 증가함에도 불구하고).
• 이미지: 합성 바(bar) 원자와 한글 글리프(Hangul glyphs)에 대해, Top-N한 NMF는 단일 연결 성분(Betti 수 $\beta_0 = 1.0$)을 성공적으로 회복한 반면, 표준 NMF는 파편화된 기저($\beta_0 > 1.6$)를 생성했다.
• 그래프: 합성 클리크 혼합물과 실제 SocioPatterns 고등학교 접촉 데이터에서, Top-NMF는 클리크 유사 구성 요소를 성공적으로 분리했다. 실제 환경에서 Top-NMF 기저는 표준 NMF 및 네트워크 정규화 베이스라인보다 더 높은 클래스 내 에지 질량(intra-class edge mass, 0.995 vs 0.966)을 보였다.
• 시계열: 주기적 신호를 트렌드로부터 분리하는 과정에서, Top-NMF는 주기적 성분(코사인, 삼각파)과 트렌드를 성공적으로 격리했으나 표준 NMF는 이러한 특징들이 혼재되어 나타났다. MIT-BIH ECG 데이터에 적용했을 때, 방법론은 리듬감 있는 기저와 잔차 성분을 생성하였으며, 주기적 기저만을 사용하여 재구성을 수행했을 때 조기 심실 수축(PVC) 이상 탐지에 대해 높은 AUROC(0.955)를 기록하며 표준 NMF(0.105)를 압도했다.

의의 및 주장

본 논문은 Top-NMF가 도메인 특화된 구조적 사전 지식을 행렬 분해 목적 함수에 직접 인코딩할 수 있는 모듈형 프레임워크를 제공한다고 주장한다. 주요 의의는 지속적 호몰로지를 사후적 특징 추출기가 아닌, 학습 과정의 필수적이고 최적화 가능한 구성 요소로 전환했다는 점에 있다.

저자들은 이 방법이 전역적 최적해를 보장하거나 NMF의 일반적인 식별성(identifiability) 문제를 해결하는 것이 아니라, 부과된 위상적 사전 지식을 바탕으로 모호한 분해 집합 중에서 구조적으로 선호되는 해를 선택하는 것이라고 강조한다. 이 연구는 지속적 호몰로지가 학습된 표현의 바람직한 구조적 특성을 정의하기 위한 공식적인 모델링 언어 역할을 수행하며, 이를 통해 재구성 능력과 위상적 해석 가능성을 모두 갖춘 기저를 학습할 수 있음을 시사한다.

논문은 계산 오버헤드(단, 스패닝 트리 공식을 통해 완화됨)와 사용자 지정 도메인 구성(예: 필트레이션 유형, 임베딩 차원)에 대한 의존성 등의 한계를 인정한다. 따라서 Top-NMF를 자동화된 발견 절차라기보다는, 연구자가 "좋은" 기저 구조에 대한 도메인 지식을 비지도 학습에 주입할 수 있는 도구로 규정한다.