기술 요약: 적응형 파티션 요인 분석 (Adaptive Partition Factor Analysis)

1. 문제 정의

요인 분석(Factor analysis)은 다변량 관측 변수에 영향을 미치는 잠재적 특성을 식별하기 위한 표준적인 기법이다. 그러나 전통적인 접근 방식은 일반적으로 단일 연구의 데이터를 분석하며, 여러 소스에서 데이터를 집계할 때 발생하는 변동성은 간과한다. 다중 연구 요인 분석(Multi-Study Factor Analysis, MSFA)이 연구 간 공유되는 잠재적 특성과 연구 특유의 성분을 구분하기 위해 등장했으나, 기존 방법론들은 다음과 같은 중대한 한계에 직면해 있다:

• 경직된 그룹화 가정: 기존 MSFA 모델(예: De Vito et al., 2019; Chandra et al., 2025)은 연구당 하나씩 정해진 수의 연구 특유 로딩 행렬($\Gamma_s$)을 가정한다. 이는 다음과 같은 시나리오를 포착하지 못한다:
  • 두 개 이상의 연구가 높은 동질성을 보이며 동일한 잠재 표현을 공유하는 경우.
  • 단일 연구 내에 서로 다른 잠재 구조를 가진 이질적인 하위 집단이 존재하는 경우.
  • 서로 다른 그룹의 단위들이 특정 특성을 공유하거나, 단위가 동시에 여러 그룹의 특성을 나타내는 경우.
• 정보 전환(Information Switching): 기존 프레임워크에서는 공유 요인과 특유 요인 사이의 신호를 분리하기 어려워, 연구 특유의 요인이 공유 성분으로 잘못 흡수되거나 그 반대의 경우가 발생하는 "정보 전환" 현상이 나타난다.
• 유연성 부족: 부분적 공유(partial sharing)를 해결하려는 이전의 시도들(예: Grabski et al., 2023)은 미리 지정된 그룹 수나 결정론적인 선택 행렬에 의존하며, 고전적 요인 모델부터 복잡한 적응형 파티션에 이르는 통합된 프레임워크가 부족하다.

2. 방법론: 적응형 파티션 요인 분석 (APAFA)

저자들은 잠재 요인을 위한 새로운 수축 사전 분포(shrinkage priors)를 도입하여 MSFA를 확장한 베이지안 프레임워크인 **적응형 파티션 요인 분석(Adaptive Partition Factor Analysis, APAFA)**을 제안한다. 이 접근 방식은 결정론적인 구조를 강제하지 않고 다양한 정도의 그룹 이질성을 유연하게 모델링할 수 있게 한다.

2.1 모델 명세

모델은 단위 $i$에 대한 관측 벡터 $y_i$를 다음과 같이 나타낸다:
$$y_i = \Lambda\eta_i + \Gamma\phi_i + \epsilon_i$$
여기서:

• $\Lambda\eta_i$는 모든 단위에 공통적인 공유 잠재 요인을 나타낸다.
• $\Gamma\phi_i$는 특유 요인을 나타낸다. 표준 MSFA와 달리, $\Gamma$는 모든 잠재적인 연구 특유 로딩 행렬을 연결(concatenate)하며, $\phi_i$는 확장된 잠재 요인 벡터이다.
• 결정적으로, 특유 요인의 활성화는 $\phi_i$ 내의 0과 0이 아닌 값의 패턴에 의해 제어된다. $\phi_i$의 $h$번째 요소는 $\phi_{ih} = \tilde{\phi}_{ih}\psi_{ih}$로 정의되며, 여기서 $\psi_{ih}$는 이진 지표(binary indicator)이다.

2.2 신경망 해석

저자들은 이 모델을 특정 단일 계층 신경망으로 해석한다:

• 입력: 연구 멤버십을 나타내는 더미 변수 $x_i$ (및 잠재적으로 다른 공변량 $z_i$).
• 은닉층: 잠재 특유 요인 $\phi_i$.
• 활성화: 이진 지표 $\psi_{ih}$는 미지의 가중치 $\beta_h$를 갖는 결정론적 활성화 함수 $f_h(x_i^\top \beta_h)$를 통해 생성된다.
• 출력: 관측 변수 $y_i$.
  이러식 구성은 잠재 공분산 구조가 독립 변수에 의해 정보를 얻도록 하여, 잠재 구조가 입력에 따라 적응하는 조건부 변이형 오토인코더(conditional variational autoencoder)로서 기능하게 한다.

2.3 사전 분포 명세

핵심 혁신은 **구조적 수축 사전 분포(structured shrinkage priors)**의 사용에 있다:

1. 전역 수축 (CUSP): 전역 척도 파라미터 $\tau_h^\phi$에 누적 수축 과정(Cumble/Cumulative Shrinkage Process, CUSP)이 적용된다. 이를 통해 모델은 사용되지 않는 요인을 0으로 수축시킴으로써 유효한 특유 요인(은닉층의 뉴런)의 수를 학습할 수 있다.
2. 지역 수축 (구조적 희소성): 지역 척도 $\psi_{ih}$는 연구 지표($x_i$)와 파라미터 $\beta_h$의 로지스틱 함수에 의해 결정되는 베르누이 변수이다. 이는 $\psi_i$의 희소 구조를 기반으로 관측치들의 "무작위 파티션(random partition)"을 생성한다.
3. 요인 로딩: $\Lambda$와 $\Gamma$에는 표준 사전 분포가 사용되며, 공유 요인의 차원에 대해서는 공유 성분의 수를 결정하기 위해 점진적인 수축 사전 분포가 적용된다.

2.4 식별 가능성 (Identifiability)

본 논문은 "정보 전환" 문제와 회전 모호성(rotational ambiguity)을 다룬다:

• 정리 1: 모델이 정보 전환에 저항성을 갖는 조건을 확립한다. 만약 특유 요인 로딩 행렬 $\Gamma$가 완전 열 계수(full column rank)를 갖고 특유 요인의 수 $k$가 $k < p(p+1)/2$를 만족하면, $\Psi$에 인코딩된 희소 패턴은 유일하게 식별된다.
• 정리 2: "비재현적 희소 패턴 조건"(서로 다른 그룹이 고유한 활성화 패턴을 갖는 경우) 하에서, 공유 성분이 고정되어 있다면 특유 요인은 순열과 부호를 제외하고 완전히 식별 가능하다.
• 사후 계산: 추론은 깁스 샘플링(Gibbs sampling)을 통해 수행된다.

3. 주요 기여

1. 통합 프레임워크: APAFA는 고전적 요인 모델과 MSFA 사이의 간극을 메우며, 특유의 요인이 없는 경우부터 연구 내 및 연구 간에 겹치는 하위 집단이 있는 복잡한 시나리오까지 연속적인 스펙트럼을 수용한다.
2. 적응형 파티셔닝: 정보가 담긴 희소성을 활용함으로써, APAFA는 미리 지정된 그룹 수나 라벨 없이도 단위들을 서로 다른 잠재 구조를 가진 그룹으로 자동 발견한다.
3. 신경망과의 연결: 본 논문은 베이지안 요인 분석을 신경망과 명시적으로 연결하여, 피험자별 연속 공변량을 통합하고 모델 구조를 일반화할 수 있는 경로를 제공한다.
4. 식별 가능성 보장: 저자들은 특유 요인이 공유 요인과 구별될 수 있는 이론적 조건을 제공하여, 기존 MSFA 문헌의 핵심적인 한계를 해결한다.

4. 결과

저자들은 종합적인 시뮬레이션 연구와 실제 응용 사례를 통해 APAFA를 평가하였다:

• 시뮬레이션 연구:

  • 시나리오: 방법론은 TETRIS (Grabski et al., 2023)를 대상으로 네 가지 시나리오(A: 정확히 명시된 MSFA, A*: 라벨이 없는 MSFA, B: 완벽하게 동질적인 연구(특유 요인 없음), C: 부분적으로 공유되는 요인, D: 연구 내 이질적 단위)에 대해 테스트되었다.
  • 성능: APAFA는 모든 시나리오에서 경쟁력 있는 성능을 보였다. 특히, 그룹 라벨이 제외된 시나리오 A*에서 APAFA는 기저의 구조를 성공적으로 복구한 반면, 고정된 연구 라벨에 의존하는 방법들은 어려움을 겪었다. 시나리오 B에서 수축 사전 분포는 특유 요인의 부재를 정확히 식별하였다.
  • 사후 추정: 사후 추정치의 시각화 결과, APAFA가 잠재 요인의 실제 희소 패턴을 정확하게 복구했음을 보여주었다.

• 실제 데이터 적용:

  • 조류 종 공생(Bird Species Co-occurrence): 시공간 조사 데이터에 적용되었으며, 모델은 공유된 환경적 동인과 지점 특유의 편차를 성공적으로 분리하여 생태학적 데이터에 내재된 이질성을 처리하였다.
  • 난소암 유전자 발현: 고처리량 유전체 데이터에 적용되었으며, 이 방법은 암 하위 유형 간에 공유되는 생물학적 신호와 기술적 또는 하위 유형 특유의 변이를 구분해냈으며, 잔여 이질성을 처리하는 데 있어 표준 전처리보다 우수한 성능을 보였다.

5. 의의 및 주장

본 논문은 APAFA가 모든 연구가 고유하고 고정된 특유 요인을 가진다는 경직된 가정을 넘어, 다변량 데이터에 대해 더 풍부한 통찰을 제공한다고 주장한다. 데이터를 파티션하는 것을 구조적 희소성에 의해 구동되는 잠재적이고 적응적인 과정으로 취급함으로써, 이 방법은 다음과 같은 이점을 제공한다:

• 연구가 동질적이거나 내부 하위 집단을 포함할 수 있는 복잡한 데이터 구조를 수용한다.
• 공유 신호와 특유 신호를 올바르게 할당하도록 보장함으로써 "정보 전환" 문제에 대한 원칙적인 베이지안 솔루션을 제공한다.
• 연속 공변량을 포함하도록 확장 가능한 유연한 아키텍처를 제공하여, 신경망의 관점을 통해 요인 분석을 효과적으로 일반화한다.

저자들은 이 방법이 식별을 위한 적절한 정칙성 조건(regularity conditions)을 필요로 하지만, 특유 요인에 대한 회전 모호성 문제를 우회하여 직관적인 사후 해석을 가능하게 한다고 강조한다. 분석 재현을 위한 코드는 공개적으로 제공된다.