기술 요약: 일관된 표현 학습: 해석 가능성을 위한 위상학적 접근법

문제 정의

심층 신경망(DNN)은 종종 개별 잠재 특징(latent features)이 해석 가능한 의미를 결여한 표현을 학습한다. 분류 학습은 잠재 공간에서 클래스 매니폴드를 성공적으로 분리하지만, 개별 뉴런이 인간이 이해할 수 있는 개념에 대응하는 것을 보장하지는 않는다. 오토인코더와 같은 비지도 학습 환경에서는 문제가 더욱 심화된다. 클래스 레이블이 분리를 유도하지 못하기 때문에, 네트워크는 의미론적으로 연관된 샘플들이 흩어져 있거나, 개별 특징이 데이터 매니폴드의 불연속적이고 일관성 없는 부분집합에 활성화되는 표현을 학습할 수 있다.

희소성(L1)과 같은 기존의 정규화 기법은 특징이 적은 수의 샘플에만 활성화되도록 유도하지만, 해당 샘플들이 기하학적으로 연관되어 있는지까지는 보장하지 못한다. 희소한 특징이라 할지라도 데이터 매니폴드의 흩어진 영역에서 발화할 수 있다. 반면, 생물학적 신경 회로(예: 격자 세포 및 머리 방향 세포)는 **국소성(locality)**을 통해 해석 가능성을 달성한다: 즉, 뉴러은 상태 공간의 연속적인 영역에 반응한다. 본 논문은 국소성을 해석 가능한 신경 코드를 위한 설계 원칙으로 상정하며, 이를 인공 신경망에 부과하기 위해 공식화하고자 한다.

방법론

1. 이론적 프레임워크: 일관된 행렬 (Coherent Matrices)

저자들은 신경 코딩에서 영감을 얻고 위상적 데이터 분석(TDA)에 근거한 기하학적 성질인 **일관성(coherence)**을 도입한다. 이들은 네트워크의 잠재 공간을 비음수 활성화(non-negative activations)를 가진 비음수 행렬 $M$으로 모델링하며, 여기서 행은 샘플을, 열은 특징을 나타낸다.

행렬이 다음 두 조건을 만족할 때 **$\epsilon$-일관적($\epsilon$-coherent)**이라고 정의된다:

1. $\epsilon$-국소성($\epsilon$-locality): 각 행(샘플)은 기하학적으로 클러스터링된 열(특징) 집합에 주목하며, 그 역도 성립한다. 이는 **프레셰 분산(Fréchet variance)**을 사용하여 정량화된다. 구체적으로, 바리센트 맵(barycentric map) $\phi$(샘플을 특징의 가중 평균으로 매핑)와 $\psi$(특징을 샘서의 가중 평균으로 매핑)는 실제 특징/샘플에 비해 낮은 분산을 가져야 한다.
2. $\epsilon$-커버링($\epsilon$-covering): 모든 샘플은 어떤 특징에 의해 잘 설명되어야 하며, 모든 특징은 어떤 샘플에 의해 필요로 되어야 한다. 이는 공간의 어떤 부분도 누락되거나 중복되지 않음을 보장한다.

위상적 보장:
본 논문은 행렬이 $\epsilon$-일관적이고 바리센트 맵이 립시츠 연속(Lipschitz continuous)이면, 샘플과 특징의 비에토리스-립스(Vietoris-Rips) 필트레이션이 $\epsilon^{1/2}$-인터리빙(interleaved) 관계에 있음을 증명한다. 이는 샘플 공간과 특징 공간가 호환되는 위상 구조를 공유함을 의미한다. 예를 들어, 데이터가 원 위에 놓여 있다면, 일관된 특징은 반드시 그 원을 연속적인 호(arc)로 타일링하여 특징 공간이 샘플 공간의 위상을 반영하도록 해야 한다.

2. COH 목적 함수

학습 과정에서 일관성을 강제하기 위해, 저자들은 프레셰 분산에 기반한 미분 가능한 손실 함수인 COH를 도출한다.

• 정규화: 이 방법은 행과 열을 확률 분포로 취급하기 위해 제곱 L1 정규화를 사용한다.
• 손실 구성 요소: 손실은 행과 열 모두에 대해 분산(국소성)과 커버링 양을 처벌한다.
• 구현: 이 목적 함수는 비음수 활성화를 가진 모든 아키텍처(예: Softplus 사용)에 추가될 수 있다. 이는 바리센트 맵과 그 분산을 계산하며, 이상치에 대한 강건성을 확보하기 위해 상위-$k$개의 최악의 사례들을 집계한다.

주요 기여

1. 일관성의 정의: 저자들은 비음수 행렬에 대한 $\epsilon$-일치성을 정의하고, 이를 비에토리스-립스 필트레이션의 인터리빙과 연결하였다. 이는 잠재 샘플 공간과 잠재 특징 공간이 호환되는 위상을 공유한다는 이론적 보장을 제공한다.
2. 미분 가능한 목적 함수 (COH): 국소성 및 커버링 제약을 강제하는 실용적인 손실 함수인 COH를 도입하였다. 희소성이 활성화의 개수를 제한하는 것과 달리, COH는 활성화의 기하학적 연결성을 제한한다.
3. 경험적 검증: 본 방법론은 세 가지 서로 다른 설정에서 검증되었다:
   • 합성 데이터: 분리된 원들의 위상 복구.
   • 회전된 MNIST: 회전된 숫자에 대한 해석 가능한 특징 학습.
   • 언어 모델: BERT 토큰 임베딩에 일관성을 적용하여 인간이 읽을 수 있는 범주와 정렬된 해석 가능한 특징 도출.

실험 결과

합성 및 회전된 MNIST 오토인코더

• 위상 복구: "두 개의 원(Two Circles)" 유희 실험에서, 표준 오토인코더와 L1 정규화 모델은 샘플 및 특징 공간 모두에서 기대되는 분리된 원형 위상을 생성하는 데 실패했다. 오직 COH 모델만이 샘플과 특징 공간 모두에서 예상된 분리된 원형 위상을 복구하였다.
• 단일 숫자 (회전된 MNIST): 단일 회전 숫자(6)에 대해, COH는 L1(63%)에 비해 100% 튜닝된 특징(회전각에 따라 일관된 호에서 활성화되는 특징)을 달려냈다. COH 특징은 덜 희소했지만, 회전각에 대해 훨씬 더 높은 해석 가능성을 보였다.
• 이중 숫자 (회전된 MNIST): 두 개의 숫자가 포함된 더 복잡한 설정에서, COH는 일관된 잠재 공간을 지속적으로 생성했다. 여러 유효한 일관된 솔루션(예: 분리된 원 vs 병합된 원)의 존재로 인해 해석 지표(순도 등)는 시드마다 변동이 있었으나, 일관성 지표(국소성 및 커버링)는 안정적이었다. COH를 L1 희소성과 결합하면 신뢰할 수 있는 클래스 분리를 가진 얽힘 해제(disentangled) 솔루션으로 모델을 효과적으로 유도할 수 있었다.

BERT 토큰 임베딩

• 설정: 소규모 BERT 모델을 비음수 토큰 임베딩(Softplus를 통해)과 COH 목적 함수를 사용하여 학습시켰다.
• 해석 가능성:
  • 중첩(Overlap): COH 모델의 특징은 표준(부호가 있는) BERT 모델의 최근접 이웃 토큰 이웃과의 중첩도가 현저히 높았다 (평균 중첩: Softplus 전용 모델의 0.22 대비 COH 모델의 0.45).
  • 인간이 읽을 수 있는 범주: LLM(Claude Opus)을 사용하여 해석 가능성을 판단했을 때, Softplus 전용 베이스라인은 0개였던 반면, COH 모델에서는 256개 중 87.6개의 특징이 해석 가능하다고 판정되었다.
  • 식별된 범주: COH 특징은 연도, 친족 용어, 지명, 단위, 완곡 어구, 방향 전치사, 그리고 특정 동사 유형(예: 이동, 인지, 과거 시제)을 포함한 구체적인 의미론적 범주와 일치하였다.

의의 및 주장

본 논문은 잠재 샘플과 잠재 특징을 결로하여 그들이 호환되는 위상을 공유하게 만드는 엄밀한 프레임워크를 제공한다고 주장한다. 그 의의는 개별 특징의 해석 가능성을 넘어, 특징 공간 전체의 해석 가능성으로 초점을 전환했다는 점에 있다.

• 기하학적 보장: 본 연구는 기하학적 연결성(일관성)을 강제하는 것이 특징을 단순히 희소하게 만드는 것을 넘어, 데이터 매니폴드와 구조적으로 정렬되게 함을 입증한다.
• 상보성: 저자들은 일관성이 다른 목적 함수와 상보적임을 언급한다. 예를 들어, 기하학적 보장을 희생하지 않으면서 여러 유효한 일관된 솔루션 중 하나를 선택하기 위해 희소성을 사용할 수 있다.
• 한 한계점: 저자들은 바리센트 맵에 대한 립시츠 가정이 강제되기보다는 경험적으로 검증되었음을 인정한다. 또한, 복잡한 다중 클래스 설정(예: 숫자가 병합될지 분리될지 여부)에서 어떤 특정 일관된 솔루션이 발견될지는 제어하지 못하지만, 발견된 솔루션이 일관됨은 보장한다고 명시하였다.

이 연구는 위상적 데이터 분석, 신경과학, 그리고 표현 학습을 연결하며, Dowker 쌍대성(duality) 유사체와 인터리빙을 통한 이론적 토대와 함께, 명시적인 지도 학습 없이도 해석 가능한 잠재 공간을 학습할 수 있는 실용적인 도구를 제공한다.