The subtle statistics of the distance ladder: On the distance prior and selection effects

기술 요약: 거리 사다대의 미묘한 통계학: 거리 사전 확률과 선택 효과에 대하여

문제 제기
현대 우주론은 "허블 텐션(Hubble tension)"이라는 문제에 직면해 있다. 이는 로컬 거리 사다대로부터 추론된 허블 상수($H_0$)와 $\Lambda$CDM 모델 하에서 우주 배경 복사(CMB)로부터 유도된 값 사이의 유의미한 불일치($\gtrsim 5\sigma$)를 의미한다. 거리 지표의 계통 오차에 대한 조사가 빈번하게 이루어지고 있지만, 거리 사다리 분석의 기저에 깔린 통계적 방법론—구체적으로 잠재적 거리 파라미터에 대한 사전 확률(prior)의 선택과 선택 효과(selection effects)의 모델링—이 텐션의 주요 원인으로 고려되는 경우는 드물다. 본 논문은 이러한 영역에서의 부적절한 통계적 모델링이 추론된 $H_0$에 상당한 편향을 도입한다고 주장한다.

방법론
저자들은 두 가지 구별되는 통계적 문제를 조사하기 위해 해석적 유도, 모의 데이터 시뮬레이션, 그리고 실제 데이터셋의 재분석을 결합하여 사용한다:

1. 거리 사전 확률 효과 (The Distance Prior Effect): 거리는 관측값(예: 겉보기 등급과 적색편이)으로부터 추론되는 잠재적 파라미터이다. 저자들은 천체들이 3차원 부피 내에 본질적으로 균일하게 분포하기 때문에, 거리 $r$에 대한 올바른 사전 확률은 $\pi(r) \propto r^2$이어야 함(즉, "부피 사전 확률")을 입증한다. 현재의 많은 분석은 거리 지수 $\mu$($\mu \propto \ln r$)에 대해 평탄한 사전 확률(flat prior)을 암묵적으로 가정하고 있는데, 이는 $\pi(r) \propto 1/r$에 해당한다.

   • 해석적 접근: 저자들은 단순화된 베이지안 순방향 모델(forward model)에서 서로 다른 사전 확률 지수 $k$($\pi(r) \propto r^k$)에 따른 최대 사후 확률(MAP) 추정치의 변화를 유도한다. 저자들은 적색편이 불확실성이 무시할 만한 부피 제한 샘플(volume-limited sample)의 경우, $\ln H_0$의 편향이 사전 확률 지수의 차이 $\Delta k$에 비례함을 보여준다.
   • 시뮬레이션: 모의 데이터를 사용한 마르코프 연쇄 몬테카를로(MCMC) 시뮬레이션은 균일한 부피 사전 확률($k=2$)이 $H_0$에 대해 편향 없는 사후 확률을 생성하는 반면, 균일한 $\mu$ 사전 확률($k=-1$)은 더 낮은 거리와 더 높은 $H_0$ 쪽으로 상당한 편향을 생성함을 확인시켜 준다.

2. 선택 효과 (Selection Effects): 저자들은 선택 기준(부피 제한, 적색편이 제한, 등급 제한)이 베이지안 프레임워크 내에서 거리 사전 확률과 어떻게 상호작용하는지 분석한다.

   • 그들은 객체가 샘플에 포함될 확률에 기초하여 사후 분포에 필요한 보정 계수를 유도한다.
   • 이들은 거리를 적색편이의 결정론적 함수로 취급하며 명시적인 사전 확률 메커니즘이 결여된 빈도주의적 $\chi^2$ 추정치와 베이지안 순방향 모델링 결과를 비교한다.

주요 기여 및 결과

• 사전 확률 편향의 정량화: 본 연구는 거리 지수에 대한 평탄한 사전 확률(흔히 베이지안 분석에서 사용됨)을 사용하는 것이 부피 사전 확률 대신 사용할 때 $H_0$를 높게 편향시킨다는 점을 정량화한다. 등급 불확실성이 $\sigma_m = 0.1$ mag이고 $N=2000$개의 은하를 가진 샘플의 경우, 평탄한 $\mu$ 사전 확률과 부피 사전 확률 사이의 차이는 $6.2\sigma$의 편향에 해당한다.
• 선택과의 상호작용:
  • 적색편이 선택: 적색편이 불확실성이 무시할 만한 한계($\sigma_z \to 0$), 적색편이 선택 인자($H_0^{3N}$)는 평탄한 $\mu$ 사전 확률을 사용할 경우 부피 사전 효과를 정확히 상쇄한다. 이는 부적절한 사전 확률이 비물리적이지만 편향 없는 결과를 낳는 "우연한 상쇄(fortuitous cancellation)"를 만들어낸다.
  • 등급 선택: 등급 제한 샘플의 경우, 선택 인자가 잘못된 사전 확률을 상쇄하지 못하므로, 올바른 부피 사전 확률을 적용하지 않으면 상당한 편향이 발생한다.
  • 빈도주의 $\chi^2$: 저자들은 빈도주의 방법이 $\sigma_z \to 0$인 경우에만 부피 제한 샘플에 대해 편향이 없음을 보여준다. $\sigma_z > 0$일 때, 선형 오차 전파는 보정 항의 부호에 따라 의존하는 편향을 도입한다.
• 사례 연구 I: CosmicFlows-4 (CF4):
  • CF4의 Tully-Fisher 서브셋을 재분석한 결과, 저자들은 표준 분석(평탄한 $\mu$ 사전 확률에 해당)이 $H_0 \approx 75.1$ km s$^{-1}$ Mpc$^{-1}$를 산출함을 발견했다.
  • 올바른 부피 사전 확률($k=2$)을 적용하면 $H_0 \approx 66.9$ km s$^{-1}$ Mpc$^{-1}$로 이동하며, 이는 극적인 $\approx 55\sigma$의 변화를 보인다.
  • 저자들은 이 변화가 예시적인 것임을 언급한다. 실제 값은 CF4 컴필레이션의 실제적이고 복잡한 선택 함수(완전히 균질하지 않음)에 따라 부피 제한 한계와 적색편이 선택 한계 사이에 위치할 것이다.
• 사례 연구 II: SH0ES:
  • SH0ES 파이프라인(시뮬레이션 기반 편향 보정을 사용하는 빈도주의 접근법 사용)에 부피 사전 확률 보정을 적용하면 $H_0$가 낮아지는 방향으로 약 $1.7\sigma$의 이동($73.04$에서$\approx 71.3$으로)이 나타남을 시사한다.
  • 저자들은 SH0ES 파이프라인의 기존 시뮬레이션 기반 편향 보정이 이미 이러한 효과들을 반영하고 있을 가능성이 높으며, 이는 제공된 시뮬레이션이 본질적인 소스 분포와 선택 컷을 정확하게 모델링한다면 명목상의 SH0ES 결과가 이미 편향이 없을 수 있음을 의미한다고 주장한다.

의의 및 주장
본 논문은 거리 사다리 연구의 통계적 방법론이 허블 텐션의 핵심적이며 종종 간과되는 구성 요소라고 주장한다. 주요 의의는 다음과 같다:

1. 편향 없는 추론에는 물리적 사전 확률이 필요함: 거리 지수에 대한 평탄한 사전 확률을 가정하는 것은 우주의 부피 분포에 대해 물리적으로 틀리며, 특정(종종 비현실적인) 선택 조건이 충족되지 않는 한 $H_1$ 추정에 편향을 일으킨다.
2. 선택 모델링은 단순하지 않음: 선택 효과는 단순히 부피 사전 확률을 "보정"하는 것이 아니라, 사후 분포에 별도의 인자를 도입한다. 원칙적인 접근 방식은 본질적인 부피 분포와 특정 선택 함수를 모두 고려하는 생성 모델(generative model)을 요구한다.
3. 현재의 한계: 많은 최첨단 분석(빈도주의 및 베이지안 모두)은 부피 사전 확률을 무시하거나 선택 효과를 부적절하게 다룬다. 시뮬레이션 기반 보정(SH0ES에서 사용됨)이 이러한 편향을 완화할 수는 있지만, 이는 근저에 깔린 시뮬레이션 모델의 정확성에 의존한다.
4. 미래의 요구사항: 정밀한 제약을 얻기 위해 미래의 조사들은 알려진 균질한 선택 기준을 가진 샘플을 우선시해야 한다. 이를 통해 원칙적인 베이지안 순방향 모델이나 정확한 사후 시뮬레이션 기반 보정을 구현할 수 있다.

저자들은 정확한 거리 모델링(부피 사전 확률을 통한)과 선택 효과를 모두 모델링하지 않으면, 추론된 우주론적 파라미터인 $H_0$나 특이 속도(peculiar velocities)가 샘플 크기에 따라 변하는 계통적 편향을 겪을 수 있으며, 이는 잠재적으로 허블 텐션을 악화시키거나 은폐할 수 있다고 결론짓는다.