Multilevel Regression Modeling of Covariance Matrix Outcomes

기술적 요약: 공분산 행렬 결과에 대한 다단계 회귀 모델링

문제 제기
공분산 행렬 결과물은 뇌 기능 연결성 (FC) 을 fMRI 를 통해 연구하는 신경영상 연구에서 핵심적입니다. 이러한 결과물을 분석하는 데 있어 주요한 과제는 인간 연결체 프로젝트 (HCP) 수명 연구와 같은 현대 데이터셋의 계층적 구조입니다. 여기서 피험자들은 군집 (예: 연령 코호트) 내에 중첩되어 있습니다. 기존 공분산 회귀 방법들, 예를 들어 공변량 보조 주성분 (CAP) 회귀는 일반적으로 단일 수준 프레임워크에서 작동합니다. 이러한 방법들은 공분산 행렬을 벡터화하여 양의 정부호 제약 조건을 무시하고 차원을 증가시키거나, 모든 피험자에 걸쳐 공통된 투영 방향을 가정합니다. 후자의 가정은 수명 연구에서는 지나치게 제한적인 경우가 많습니다. 왜냐하면 연결성을 지배하는 근본적인 신경 하위 네트워크는 서로 다른 발달 단계 (유아기, 성인기, 노화) 에 따라 구조적으로 변할 수 있기 때문입니다. 따라서 군집 간 공분산 관련 부분 공간의 이질성을 수용하면서도 군집 간에 정보를 공유할 수 있는 공분산 행렬을 결과물로 모델링할 수 있는 프레임워크가 필요합니다.

방법론: 다단계 공변량 보조 주성분 회귀 (MCAP)
저자들은 이러한 과제를 해결하기 위해 다단계 공변량 보조 주성분 회귀 (MCAP) 프레임워크를 제안합니다. 이 방법의 핵심은 군집 $i$의 단위 $j$에 대한 공분산 행렬 $\Sigma_{ij}$를 단위 구 (unit sphere) 상의 선형 투영 $\gamma_i$를 통해 모델링하는 것입니다.

• 모델 구조: 이 모델은 각 군집 $i$에 대해 단위 노름 투영 벡터 $\gamma_i$가 존재한다고 가정하며, 투영된 분산의 로그는 일반화 선형 혼합 효과 모델을 따릅니다:
  $$\log(\gamma_i^\top \Sigma_{ij} \gamma_i) = \beta_0 + x_{1i(j)}^\top \beta_1 + x_{2ij}^\top (\beta_2 + \vartheta_i) + \varepsilon_i$$
  여기서 $x_{1i(j)}$는 고정 효과 공변량 (군집 또는 단위 수준) 을 나타내고, $x_{2ij}$는 랜덤 효과 공변량을 나타냅니다. 항 $\vartheta_i$는 군집별 기울기 편차를 포착합니다.
• 투영의 계층적 모델링: 단일 수준 CAP 와 달리, MCAP 는 투영 방향 $\gamma_i$가 군집 간에 변할 수 있도록 허용합니다. 이러한 군집별 방향은 평균 방향 $\gamma$와 집중도 모수 $\kappa$를 가진 von Mises-Fisher (vMF) 분포를 따르는 단위 구 상의 랜덤 변수로 모델링됩니다. 이러한 공식화는 이질성을 허용하면서도 군집 간에 원칙적인 정보 공유를 가능하게 합니다.
• 추정: 모수는 계층적 우도 함수를 최대화하여 추정됩니다. 우도 함수는 네 가지 구성 요소로 이루어집니다: 단위 수준 관측치의 조건부 우도, 랜덤 절편의 우도, 랜덤 기울기의 우도, 그리고 랜덤 회전 (vMF 분포) 의 우도.
  • 알고리즘: 블록 좌표 하강 알고리즘이 사용됩니다. 회귀 계수와 분산 구성 요소에 대한 업데이트는 뉴턴 - 라프슨 방법을 사용합니다. 투영 방향 $\gamma_i$에 대한 업데이트는 데이터 적응적 정규화 제약 조건 ($\tilde{\gamma}_i^\top H_i \tilde{\gamma}_i = 1$, 여기서 $H_i$는 군집의 평균 표본 공분산 행렬) 을 가진 일반화된 고유값 문제를 풀어 수행됩니다. 이 기하학적 제약 조건은 실현 가능 집합을 데이터 구름에 정렬시킵니다.
  • 구성 요소 식별: 고차 구성 요소는 소거 (deflation) 전략을 통해 순차적으로 식별됩니다. 소거 후 표본 공분산 행렬이 랭크 결핍이 되어 계산적 실현 가능성이 보장되도록 하기 위해, 랭크 완성 단계에서 영 (zero) 특이값을 추정된 랜덤 절편으로 대체합니다.
• 추론: 회귀 계수에 대한 추론을 위해 2 단계 부트스트랩 절차가 제안됩니다. 0 단계에서는 전체 모델을 적합하여 $\gamma_i$의 추정치를 얻습니다. 1 단계에서는 군집을 복원 추출하여 재표본화하고, $\gamma_i$를 0 단계 추정치에 고정시킨 채 회귀 부분 문제를 풉니다. 이 접근법은 계층적 데이터 구조를 존중하며, 모든 부트스트랩 반복에서 방향을 재추정하는 계산적 부담을 피합니다.
• 점근적 이론: 투영 방향이 알려진 경우, 회귀 모수 추정치의 점근적 정규성이 확립됩니다. 방향이 알려지지 않은 경우, 군집 수 ($m$) 와 군집당 관측치 수 ($n, T$) 가 증가한다고 가정할 때, 특정 식별 가능성 조건 하에서 모든 추정치 ($\gamma_i$, $\gamma$, 회귀 계수 포함) 의 일관성이 증명됩니다.

주요 결과

• 시뮬레이션 연구: MCAP 는 군집별 추정치를 평균낸 단일 수준 CAP 접근법 (SCAP) 과 비교되었습니다. $p=5$ 및 $p=20$ 차원의 시뮬레이션에서 MCAP 는 특히 표본 크기가 증가함에 따라 회귀 계수 추정 시 편향과 평균 제곱 오차 (MSE) 가 현저히 낮음을 보여주었습니다. SCAP 는 저차원에서는 적절하게 작동했으나, 고차원 ($p=20$) 에서는 계수를 정확하게 추정하지 못했습니다. MCAP 는 계층적 구조를 효과적으로 활용하여 추정 안정성을 향상시켰습니다.
• HCP 수명 연구 적용: HCP 수명 연구 (연령 5~90 세) 의 1,500 명 피험자에게 적용된 MCAP 는 연령과 성별 효과를 포착하는 단일 지배적 스펙트럼 뇌 네트워크를 식별했습니다.
  • 수명 궤적: 투영된 기능 연결성 (FC) 점수는 비선형 궤적을 보였습니다: 유아기에서 20 대 후반까지 감소하다가 중년기를 거쳐 70 대 초반에 정점에 도달한 후, 노년기 (70~90 세) 에 다시 감소하는 양상이었습니다.
  • 성별 차이: 남성은 연령대에 걸쳐 여성보다 일관되게 더 높은 투영 FC 값을 보였습니다.
  • 신경 재구성: 이 궤적은 '거울 효과 (mirroring effect)'를 시사했는데, 이는 노년기 후반의 감소가 초기 삶의 발달적 감소와 부분적으로 공명한다는 것입니다. 또한, 하위 네트워크의 공간적 조직은 50 대 이후 후기 생활에서 인접한 연령 구간 간에 더 동질적으로 변하여, 노년기 후반에 신경 재구성 패턴의 수렴을 시사했습니다.
  • 지역적 기여: 식별된 하위 네트워크는 전두 - 두정, 기본 모드, 복측 주의, 측두 측두 시스템에 걸쳐 있는 rostral middle frontal gyrus(rMFG), middle temporal gyrus(MTG), inferior parietal cortex(IPC), 그리고 isthmus cingulate gyrus(ICG) 영역에 의해 주도되었습니다.

의의 및 주장
저자들은 MCAP 가 계층적으로 중첩된 공분산 행렬 결과물을 분석하기 위한 유연하고 통계적으로 엄격한 프레임워크를 제공한다고 주장합니다. 공통 투영 가정을 완화함으로써 MCAP 는 군집별 공분산 부분 공간을 모델링하면서도 집단 수준의 방향을 추정할 수 있게 합니다. 이는 신경생물학적 메커니즘이 발달 단계마다 다른 수명 연구에 중요합니다.

이 논문은 MCAP 가 특히 중간에서 고차원 설정에서 회귀 계수 추정 시 단일 수준 경쟁 방법들보다 우수하다고 주장합니다. HCP 연구에 대한 적용은 이 방법이 뇌 연결성의 복잡하고 비선형적인 수명 프로파일을 발견하고, 독립적인 군집 분석이나 고정된 투영 방향으로는 특징화하기 어려운 분산된 교차 네트워크 패턴을 식별할 수 있음을 보여줍니다. 저자들은 이 프레임워크가 벡터화에 의존하지 않고 공분산 행렬의 양의 정부호 제약을 처리하도록 특별히 설계되어 해석 가능성과 통계적 검정력을 유지한다고 지적합니다.

인정된 한계
저자들은 겸손하게 다음과 같은 몇 가지 한계를 인정합니다:

1. 이 모델은 가우스 관측치를 가정합니다. 비가우스 데이터의 경우 강건하거나 준-우도 (quasi-likelihood) 버전이 필요합니다.
2. vMF 분포는 단봉 (unimodal) 이므로, 투영 방향이 여러 개의 뚜렷한 군집을 형성하는 경우 혼합 모델이 필요할 수 있습니다.
3. 투영 방향 ($\gamma_i$ 및 $\gamma$) 에 대한 점근적 정규성은 확립되지 않았으며, 일관성만 증명되었습니다.
4. 고차 구성 요소는 소거를 통해 순차적으로 식별되는데, 이는 결합 다구성 요소 절차보다 효율성이 낮을 수 있습니다.