PCA score regression: the art of losing power

기술적 요약: PCA 점수 회귀: 통계적 검정력 상실의 예술

문제 제기
본 논문은 기능적 데이터 분석에서 만연한 방법론적 문제를 다룹니다: 스칼라 공변량에 대한 개별 주성분 점수 (RPCS) 의 회귀 분석입니다. 이 2 단계 접근법—먼저 주성분 분석 (PCA) 또는 특이값 분해 (SVD) 를 수행하여 점수를 추출한 후, 이러한 점수를 공변량에 대해 회귀 분석하는 것—은 유전체학, 신경영상에서 신체 활동 모니터링에 이르기까지 다양한 분야에서 널리 사용됩니다. 저자들은 RPCS 가 계산상 편리하지만, 통계적으로는 오지정 (misspecified) 모델을 적합하는 것과 동등하다고 주장합니다. 이러한 오지정은 심각한 통계적 검정력 손실 (종종 인식되지 않음), 다중성 (multiplicity) 을 무시할 때 inflated 된 제 1 종 오류율, 그리고 실제 기능적 효과에 대한 유효하지 않은 추론을 초래합니다.

방법론
저자들은 두 가지 접근법을 비교하는 엄밀한 이론적 틀을 확립합니다:

1. 스칼라에 대한 함수 회귀 (FoSR): 기능적 결과 $W_i(s)$를 스칼라 공변량 $X_i$와 랜덤 효과의 함수로 직접 모델링하는 올바르게 지정된 모델:
   $$W_i(s) = \beta_0(s) + \sum_{q=1}^Q X_{iq}\beta_q(s) + \sum_{l=1}^{L_{true}} \xi_{il}\phi_l(s) + \epsilon_i(s)$$
   여기서 $\beta_q(s)$는 관심 있는 고정 효과 함수를 나타내며, 추론은 이러한 함수에 대해 직접 수행됩니다.

2. RPCS (오지정 모델): 공변량을 무시하고 데이터 행렬 $W$에 PCA 를 적용하여 추정된 고유함수 $\phi^M_l(s)$를 기반으로 점수 $\xi^M_{il}$을 추출하는 표준 2 단계 절차입니다. 그런 다음 이러한 점수를 공변량에 대해 회귀 분석합니다:
   $$\xi^M_{il} = b_{0l} + \sum_{q=1}^Q b_{ql}X_{iq} + e_{il}$$

핵심 이론적 기여는 **정리 1 (Theorem 1)**으로, RPCS 프레임워크의 회귀 계수 $b_{ql}$이 실제 효과 $\beta_q(s)$가 아니라 추정된 고유함수에 대한 실제 효과의 내적 (투영) 임을 보여줍니다:
$$b_{ql} = \int_S \beta_q(s)\phi^M_l(s) ds$$

주요 기여 및 이론적 발견
본 논문은 RPCS 의 한계에 대한 다섯 가지 주요 통찰을 제공합니다:

• 직교성을 통한 검정력 손실: RPCS 가 연관성을 탐지하는 검정력은 실제 효과 $\beta_q(s)$와 추정된 고유함수 $\phi^M_l(s)$ 사이의 상관관계에 전적으로 의존합니다. 실제 효과가 주요 성분에 직교하는 경우 (즉, 위의 적분값이 0 인 경우), 효과의 크기와 무관하게 RPCS 는 효과를 탐지할 수 있는 검정력이 0입니다.
• 신호 희석: 완벽하게 직교하지 않더라도, RPCS 는 실제 함수 $\beta_q(s) = 0$에 대한 단일 검정을 더 작은 투영된 신호 ($b_{ql}$) 에 대한 $L_{miss}$개의 검정으로 대체합니다. 이러한 신호의 분열은 FoSR 의 직접적 모델링에 비해 본질적으로 통계적 검정력을 감소시킵니다.
• 다중성 및 팽창: 여러 계수 $b_{ql}$을 검정하면 다중성 문제가 발생합니다. 보정되지 않으면 $\alpha$-수준이 팽창됩니다. 보정되는 경우 (예: Bonferroni 보정), 검정력은 더욱 감소합니다.
• 해석 가능성 문제: 계수 $b_{ql}$은 원래 데이터 공간에서 해석하기 어렵습니다. 유의한 주성분 (PC) 만으로부터 기능적 효과 $\hat{\beta}_q(s)$를 재구성할 때, 선택된 PC 에 따라 근본적으로 다른 형태가 도출되어 편향되거나 모호한 생물학적 해석을 초래할 수 있습니다.
• 추론의 유효성: 현재 RPCS 방법은 실제 효과 $\beta_q(s)$에 대한 유효한 추론을 제공하지 않습니다. 이는 검정 중인 가설 ($b_{ql}=0$) 이 관심 있는 과학적 가설 ($\beta_q(s)=0$) 과 구별되기 때문입니다.

실증 결과
저자들은 광범위한 시뮬레이션과 실제 데이터 적용을 통해 이러한 이론적 발견을 검증합니다:

• 시뮬레이션: 실제 효과가 주성분에 직교하거나 부분적으로만 상관관계가 있는 시나리오에서 RPCS 의 검정력은 검정 크기 수준 (탐지 불가) 으로 떨어지는 반면, FoSR 은 높은 검정력을 유지합니다. 시뮬레이션은 검정력 손실이 실제 효과와 주성분 간의 상관관계의 직접적인 함수임을 확인시켜 줍니다.
• NHANES 적용: 국가 건강 및 영양 검사 조사 (2011–2014) 의 분 단위 가속도계 데이터를 사용하여 저자들은 나이가 신체 활동에 미치는 영향을 분석했습니다.
  • RPCS 결과: 첫 네 개의 주성분 전반에 걸쳐 통계적으로 유의한 나이 효과를 탐지하지 못했습니다 (p-값 > 0.05). 이로 인해 56–62 세 연령대에서 나이가 활동 패턴에 영향을 미치지 않는다는 결론이 내려졌습니다.
  • FoSR 결과: 특히 새벽 시간대 (오전 4 시 – 7 시) 와 저녁 시간대에 나이가 활동에 미치는 유의한 부정적 효과를 탐지했습니다 (p-값 < 0.001).
  • 재구성 실패: 저자들은 유의한 RPCS 점수로부터 나이 효과를 재구성하려는 시도가 FoSR 추정치와 일치하지 않는 결과를 낳음을 입증하여, RPCS 가 실제 기능적 형태를 복원하지 못함을 강조했습니다.

의의 및 주장
본 논문은 "PCA 후 회귀"파이프라인이 단순성 때문에 인기가 있지만, 기능적 데이터 설정에서 가설 검정 및 효과 추정에 근본적으로 결함이 있다고 주장합니다. 저자들은 다음과 같이 주장합니다:

1. RPCS 는 통계적으로 오지정 모델을 적합하는 것과 동등하여 종종 간과되는 체계적인 검정력 손실을 초래합니다.
2. 이 방법은 특히 실제 신호가 작거나 중간 정도이거나 데이터의 최대 분산 방향과 완벽하게 정렬되지 않을 때 위음성 (false negatives) 을 생성할 수 있습니다.
3. 이 문제는 기능적 데이터에 국한되지 않으며, 고유벡터 점수가 공변량에 회귀되는 모든 고차원 결과 분석 (예: 유전체학, 영상) 으로 확장됩니다.
4. 스칼라에 대한 함수 회귀 (FoSR) 는 기능적 결과의 조건부 평균을 직접 모델링함으로써 이러한 함정을 피하고 유효한 추론과 더 높은 검정력을 제공하는 견고한 대안을 제공합니다.

저자들은 RPCS 의 편리함이 통계적 검정력, 신호 재구성, 과학적 추론의 유효성에 상당한 비용을 치른다고 결론지으며, FoSR 과 같은 직접적 기능적 모델링 접근법으로의 전환을 촉구합니다.