Multi-view biclustering via non-negative matrix tri-factorisation

이 논문은 다양한 뷰의 데이터에서 사전 지식 없이도 중첩되거나 비포괄적인 바이클러스터를 식별할 수 있는 'ResNMTF'라는 새로운 비음수 행렬 삼분해 기반 다중 뷰 바이클러스터링 방법을 제안하고, 이를 평가하기 위해 실루엣 점수를 확장한 '비스실루엣 점수'를 도입했습니다.

핵심

이 논문은 **'ResNMTF'**라는 새로운 데이터 분석 방법과 **'비스실루엣 점수 (bisilhouette score)'**라는 평가 도구를 소개합니다. 어렵게 들릴 수 있지만, 일상적인 비유를 통해 쉽게 설명해 드리겠습니다.

1. 배경: 왜 이 연구가 필요한가요? (다중 뷰 데이터의 문제)

현대에는 데이터를 모으는 방법이 다양해졌습니다. 같은 사람에 대해 유전자 데이터, 단백질 데이터, 생활 습관 데이터 등 여러 가지 관점 (View) 에서 정보를 수집합니다. 이를 **'다중 뷰 데이터'**라고 합니다.

하지만 문제는 이 모든 정보가 다 중요하지 않다는 점입니다.

• 비유: imagine you are trying to understand a person's personality. You have their diary (View 1), their credit card receipts (View 2), and their medical records (View 3).
  • 기존 방법의 한계: 기존의 분석법은 보통 "이 모든 정보를 하나로 합쳐서 분석하자"거나 "각각 따로 분석하자"는 식이었습니다. 하지만 "일기에는 친구 관계가 잘 나오지만, 의료 기록에는 친구 관계가 전혀 안 나오고, 대신 건강 상태가 잘 나온다"는 식으로 데이터마다 중요한 특징이 다릅니다.
  • 기존의 또 다른 문제: "우리가 몇 개의 그룹 (클러스터) 을 찾을지 미리 정해야 한다"는 제약도 있었습니다. 마치 "이 파티에 몇 개의 테이블을 만들지 미리 정해야 한다"는 것과 비슷합니다. 하지만 실제로는 몇 개의 그룹이 숨어 있는지 모를 때가 많죠.

2. 해결책 1: ResNMTF (유연한 파티 기획자)

저자들은 ResNMTF라는 새로운 방법을 개발했습니다. 이를 **'유연한 파티 기획자'**에 비유해 볼 수 있습니다.

• 상황: 여러 개의 방 (데이터 뷰) 이 있는 큰 건물이 있습니다. 각 방에는 서로 다른 사람들이 모여 있습니다.
• ResNMTF 의 역할:
  1. 동시에 그룹화: 이 기획자는 사람 (행) 과 그들이 가진 특징 (열) 을 동시에 그룹화합니다. 예를 들어, "운동선수들 (행)"이 모여서 "축구 관련 용어 (열)"를 많이 쓰는 그룹을 찾아냅니다.
  2. 유연한 연결: 어떤 방에서는 같은 사람들이 모일 수 있고 (공통된 행), 어떤 방에서는 같은 특징이 공유될 수 있습니다 (공통된 열). ResNMTF 는 "이 두 방은 같은 사람끼리 묶고, 저 두 방은 같은 주제끼리 묶자"처럼 상황에 따라 유연하게 연결할 수 있습니다.
  3. 불필요한 그룹 제거: 만약 어떤 그룹이 그냥 우연히 모인 무작위 집단 (노이즈) 이라면, 기획자는 "이건 진짜 그룹이 아니야"라고 판단해서 제외합니다.
  4. 그룹 수 자동 결정: "몇 개의 그룹을 만들지?"를 미리 정할 필요 없이, 데이터가 자연스럽게 보여주는 최적의 그룹 수를 찾아냅니다.

3. 해결책 2: 비스실루엣 점수 (파티의 질을 측정하는 미터기)

새로운 파티 (그룹화) 를 만들었다면, 이 파티가 정말 잘 만들어진 건지 어떻게 알까요? 기존에는 "정답 (진짜 그룹)"을 알고 있어야만 점수를 매길 수 있었습니다. 하지만 정답을 모르는 상황 (무감독 학습) 에서는 점수를 매길 도구가 없었습니다.

저자들은 **'비스실루엣 점수 (bisilhouette score)'**라는 새로운 측정기를 개발했습니다.

• 비유: 파티에 참석한 손님들이 서로 얼마나 잘 어울리는지, 그리고 다른 테이블의 손님들과는 얼마나 확실히 구별되는지를 측정하는 **'만남의 질 지수'**입니다.
• 기능:
  • 그룹 내 친밀도: 같은 그룹에 속한 사람들이 서로 얼마나 가깝게 모여 있는가? (단단한 그룹인가?)
  • 그룹 간 거리: 다른 그룹의 사람들과는 얼마나 멀리 떨어져 있는가? (분명한 구분이 있는가?)
  • 중요한 점: 이 점수는 정답을 모를 때도, 그룹이 겹치거나 (한 사람이 두 그룹에 속할 수 있음), 모든 사람이 그룹에 속하지 않아도 (누구는 혼자 있을 수 있음) 정확하게 작동합니다.
  • 활용: 이 점수를 이용하면 "어떤 그룹 수가 가장 좋은가?"를 자동으로 찾아낼 수 있고, "이 그룹은 진짜인가, 아니면 우연인가?"를 판단하는 데도 쓰입니다.

4. 실험 결과: 실제로 효과가 있을까요?

저자들은 이 방법을 가상의 데이터 (인위적으로 만든 데이터) 와 실제 데이터 (뉴스 기사, 유전자 데이터 등) 에 적용해 보았습니다.

• 성공: ResNMTF 는 기존 방법들보다 더 정확하게 그룹을 찾아냈습니다. 특히, 데이터가 복잡하고 노이즈가 많을 때도 강건하게 작동했습니다.
• 점수의 신뢰성: 새로 만든 '비스실루엣 점수'는 정답을 알고 있을 때의 점수 (F-score) 와 매우 높은 상관관계를 보였습니다. 즉, 정답을 모를 때도 이 점수가 "이게 좋은 결과야"라고 정확히 알려주었다는 뜻입니다.

5. 요약: 이 논문이 우리에게 주는 메시지

1. 데이터는 다양합니다: 같은 대상이라도 보는 관점 (데이터 소스) 에 따라 중요한 정보가 다릅니다.
2. 유연하게 접근하세요: 모든 데이터를 무조건 하나로 합치거나, 반대로 완전히 분리하지 말고, 상황에 따라 유연하게 연결하는 것이 좋습니다. (ResNMTF)
3. 정답이 없어도 평가할 수 있습니다: 정답을 모를 때도 데이터 그룹의 질을 스스로 판단하고, 가장 좋은 그룹 수를 찾아낼 수 있는 도구가 있습니다. (비스실루엣 점수)

결론적으로, 이 연구는 복잡하고 다양한 데이터를 다룰 때, 더 똑똑하고 유연하게 숨겨진 패턴을 찾아내는 새로운 방법론을 제시했습니다. 마치 혼란스러운 파티에서 누가 누구와 친한지, 어떤 주제가 가장 활발한지 자연스럽게 파악해내는 현명한 사회자 같은 역할을 합니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

• 다중 뷰 데이터의 증가: 데이터 수집 및 저장 기술의 발전으로 동일한 객체에 대해 여러 소스 (예: 유전체학, 메틸화, 단백질체학 등) 로부터 얻어진 '다중 뷰 (Multi-view)' 데이터가 급증하고 있습니다.
• 기존 클러스터링의 한계:
  • 이클러스터링 (Biclustering): 행과 열을 동시에 클러스터링하여 데이터의 국소적 패턴을 찾는 기법입니다. 그러나 기존 방법들은 주로 단일 뷰에 국한되거나, 다중 뷰 통합 시 모든 뷰가 동일한 구조를 공유한다고 가정하는 등 유연성이 부족합니다.
  • 비완전성 (Non-exhaustivity) 및 중첩성 (Overlap): 실제 데이터에서는 모든 행/열이 클러스터에 속하지 않거나 (비완전성), 여러 클러스터에 속할 수 있습니다 (중첩성). 이를 처리하는 데 한계가 있습니다.
  • 적합한 내부 평가 지표 부재: 클러스터링의 품질을 평가하는 '실루엣 점수 (Silhouette score)'는 존재하지만, 이클러스터링의 복잡한 구조 (행과 열의 동시 클러스터링, 중첩, 비완전성) 를 고려한 전용 내부 평가 지표는 부족합니다. 또한, 사전에 클러스터 개수를 알 수 없는 비지도 학습 환경에서 최적의 클러스터 수를 결정하는 것이 어렵습니다.
  • 노이즈 문제: 다중 뷰 통합 시 노이즈가 많은 뷰가 전체 결과를 왜곡할 수 있으며, 모든 뷰를 강제로 공유된 구조로 묶는 것은 비효율적일 수 있습니다.

2. 제안된 방법론 (Methodology)

저자들은 ResNMTF (Restrictive Non-negative Matrix Tri-Factorisation) 라는 새로운 다중 뷰 이클러스터링 알고리즘과 Bisilhouette score라는 새로운 평가 지표를 제안했습니다.

A. ResNMTF (Restrictive Non-negative Matrix Tri-Factorisation)

• 기반: 비음수 행렬 삼분해 (NMTF) 를 확장하여 다중 뷰 환경에 적용합니다.
• 수학적 모델: 각 뷰 $v$의 데이터 행렬 $X^{(v)}$를 $F^{(v)}S^{(v)}(G^{(v)})^T$로 분해합니다.
  • $F^{(v)}$: 행 클러스터 할당 행렬
  • $G^{(v)}$: 열 클러스터 할당 행렬
  • $S^{(v)}$: 클러스터 간 상호작용 행렬
• 제약 조건 및 정규화:
  • 유연한 뷰 간 관계: 행 클러스터 ($F$), 열 클러스터 ($G$), 상호작용 행렬 ($S$) 에 대한 정규화 항을 통해 뷰 간 관계를 유연하게 제어합니다. 예를 들어, 특정 뷰는 행을 공유하고 다른 뷰는 열을 공유하도록 설정할 수 있습니다.
  • 노이즈 견고성: 모든 뷰를 강제로 공유된 행렬로 묶는 대신, 뷰 간 인자 (factors) 를 서로 정규화 (regularise) 하여 노이즈가 많은 뷰가 신호가 강한 뷰의 결과를 왜곡하는 것을 방지합니다.
• 최적화: 목적 함수를 최소화하기 위해 곱셈 업데이트 규칙 (multiplicative update rules) 을 사용하며, 라그랑주 승수를 통해 비음수 및 정규화 제약을 만족시킵니다.
• 초기화: 특이값 분해 (SVD) 를 기반으로 한 초기화 전략을 제안하여 국소 최적해에 빠지는 것을 줄입니다.
• 불필요한 클러스터 제거: 재샘플링 (resampling) 기법을 통해 노이즈로 인한 가짜 이클러스터 (spurious biclusters) 를 식별하고 제거합니다.
• 안정성 분석 (Stability Analysis): 부분 표본 추출 (sub-sampling) 을 통해 클러스터의 안정성을 평가하고, 불안정한 클러스터를 제거하여 최종 결과의 신뢰성을 높입니다.

B. Bisilhouette Score (이실루엣 점수)

• 목적: 기존 실루엣 점수를 이클러스터링에 맞게 확장한 내부 평가 지표입니다.
• 계산 방식:
  1. 특정 이클러스터 $(R_k, C_k)$에 대해 데이터 행렬을 해당 열 ($C_k$) 로만 부분화 (subset) 합니다.
  2. 이 부분 행렬 위에서 해당 행 ($R_k$) 에 대한 실루엣 계수를 계산합니다.
  3. 모든 이클러스터에 대한 점수를 평균화하여 전체 점수를 도출합니다.
• 특징:
  • 중첩 (overlap) 과 비완전성 (non-exhaustivity) 을 지원합니다.
  • 클러스터의 밀집도 (compactness) 와 분리도 (separation) 를 동시에 평가합니다.
  • 외부 정보 (Ground Truth) 없이도 최적의 이클러스터 수 ($K$) 를 선택하고 하이퍼파라미터를 튜닝하는 데 사용할 수 있습니다.

3. 주요 기여 (Key Contributions)

1. ResNMTF 알고리즘 개발:
   • 사전에 클러스터 개수를 알지 못하더라도 자동으로 최적의 수를 결정할 수 있습니다.
   • 행과 열의 중첩 및 비완전성을 자연스럽게 처리합니다.
   • 뷰 간 관계 (공유 행, 공유 열, 또는 그 조합) 를 유연하게 정의할 수 있어 다양한 시나리오에 적용 가능합니다.
   • 노이즈가 있는 뷰가 결과를 왜곡하는 것을 방지하는 정규화 메커니즘을 포함합니다.
2. Bisilhouette Score 제안:
   • 이클러스터링을 위한 최초의 전용 내부 평가 지표로, 기존 실루엣 점수의 한계를 극복했습니다.
   • 비지도 학습 환경에서 클러스터 수 결정 및 방법론 비교에 효과적입니다.
3. 안정성 분석 프레임워크:
   • ResNMTF 에 통합된 재샘플링 및 안정성 분석을 통해 노이즈로 인한 가짜 클러스터를 제거하고 안정적인 결과만 제공합니다.

4. 실험 결과 (Results)

저자들은 합성 데이터와 4 가지 실제 데이터셋 (3Sources, BBCSport, A549, TCGA) 을 사용하여 성능을 평가했습니다.

• 성능 비교:
  • ResNMTF 는 단일 뷰 기반의 NMTF, 그리고 기존 다중 뷰 방법론인 GFA (Group Factor Analysis) 와 iSSVD (integrative sparse SVD) 보다 전반적으로 우수한 성능 (F-score, Relevance) 을 보였습니다.
  • 특히 노이즈 수준이 높거나 클러스터 수가 많은 복잡한 시나리오에서 ResNMTF 의 우위가 두드러졌습니다.
  • iSSVD 는 기본 파라미터 설정 시 이클러스터 탐지에 실패하는 경우가 많았으며, GFA 는 노이즈에 둔감한 경향이 있었습니다.
• Bisilhouette Score 유효성:
  • Bisilhouette 점수는 외부 지표인 F-score 와 높은 상관관계 (Pearson correlation ~0.94) 를 보였습니다.
  • 실제 데이터셋에서 하이퍼파라미터 (제약 조건 강도 등) 를 튜닝할 때 F-score 와 유사한 최적 값을 선택하는 것으로 확인되었습니다.
  • 시각화 도구로도 유용하게 작용하여, 어떤 이클러스터가 신호를 잘 포착했는지, 어떤 것이 노이즈인지 판별하는 데 도움을 주었습니다.
• 다양한 시나리오:
  • 중첩 (overlap) 과 비완전성 (non-exhaustivity) 이 있는 데이터에서도 ResNMTF 는 안정적인 성능을 유지했습니다.
  • 뷰의 수나 샘플 수가 변해도 견고한 결과를 보여주었습니다.

5. 의의 및 결론 (Significance)

• 실용적 가치: ResNMTF 는 실제 다중 오믹스 (multi-omics) 데이터나 텍스트 마이닝 등 다양한 분야에서 복잡한 패턴을 발견하는 강력한 도구로 활용될 수 있습니다. 특히 사전 지식이 부족한 비지도 학습 환경에서 최적의 클러스터 구조를 자동으로 탐색할 수 있다는 점이 큰 장점입니다.
• 평가 지표의 혁신: Bisilhouette score 는 이클러스터링 연구 분야에서 오랫동안 부족했던 내부 평가 기준을 제공하여, 향후 다양한 이클러스터링 알고리즘의 성능 비교 및 하이퍼파라미터 튜닝의 표준 도구로 자리 잡을 가능성이 높습니다.
• 유연성: 다양한 데이터 구조 (공유 행/열의 임의의 조합) 를 지원하므로, 연구자가 데이터의 특성에 맞춰 모델의 제약 조건을 유연하게 설정할 수 있습니다.

요약하자면, 이 논문은 ResNMTF라는 새로운 알고리즘과 Bisilhouette score라는 평가 지표를 통해 다중 뷰 이클러스터링의 정확성, 안정성, 그리고 자동화 수준을 크게 향상시켰으며, 특히 비지도 학습 환경에서의 실용성을 입증했습니다.