Interpretable Neural Marked Statistics for Cosmological Inference

기술 요약: 대조적 우주론적 추론을 위한 해석 가능한 등변 마크(Equivariant Marks)

문제 정의
전력 스펙트럼(power spectrum) 이상의 우주론적 정보를 복구하는 것은 차세대 대규모 구조(LSS) 조사(예: SPHEREx, DESI, Euclid)의 핵심 목표이다. 전력 스펙트럼은 가우시안 장(Gaussian fields)에 대해서는 최적이지만, 후기 시기의 물질 밀도는 이점 통계(two-point statistics)만으로는 포착할 수 없는 비가우시안 신호를 나타낸다. 이러한 정보를 추출하려는 전통적인 접근 방식은 다음과 같은 상당한 장애물에 직면해 있다:

• 고차 상관 함수(Higher-order correlators): 구성 공간(configuration space)에서 $n$-점 상관 함수의 계단을 오르는 것은 계산 비용이 많이 들며, 섭동 이론은 비선형 영역에서 붕괴한다.
• 장 수준 추론(Field-level inference): 시뮬레이션 기반 추론 및 장 수준 신경 요약(neural summaries)은 명시적인 통계량을 우회하지만, 종종 해석 가능성을 희생하며 고충실도 시뮬레이션을 필요로 한다.
• 고전적 마크 통계(Classical marked statistics): 기존 방법은 밀도 장을 공간적 마크 $M(x)$로 재가중하여 고차 상관 관계를 이점 수준으로 통합한다. 그러나 이러한 마크는 일반적으로 고정된 함수 형태(예: 평활화된 밀도 응답)를 가진 수동 설계 방식이며, 파라미터 공간 전체에 대한 적응성이나 해석 가능성이 제한적이다.

방법론
저자들은 수동으로 설계된 마크를 **학습된, 우주론에 무관하며, 해석 가능한 신경 마킹 스킴(neural marking scheme)**으로 대체하는 프레임워크를 제안한다. 이 프레임워크는 두 가지 주요 구성 요소로 이루어진다:

1. 해석 가능한 학습된 마크 아키텍처:

   • 마크 $M(x)$는 물질 밀도 장 $\delta(x)$로부터 유도된 병진 등변(translation-equivariant) 스칼라 응답으로 구축된다.
   • 구형 조화 필터링(Spherical Harmonic Filtering): 밀도 장은 푸리에 공간에서 구형 조화 인식 필터($\ell \in \{0, 1, 2\}$)를 사용하여 채널별로 분해된다. 이 필터들은 회전 불변인 스칼라 채널을 생성한다:
     • $\ell=0$: 부호가 있는 모노폴 응답($E_0$).
     • $\ell=1$: 불변 진폭을 가진 벡터 유사 응답($E_1$).
     • $\ell=2$: 무향 대칭 텐서로부터 유도된 두 개의 스칼라 불변량($E_2$는 이방성 강도, $I_3$는 프로레이트/오블레이트 형상 구분을 위함).
   • 처리 과정: 이 불변 채널들은 독립적인 다층 퍼셉트론(MLP)에 의해 처리되며, 교차 상호작용 항과 함께 가산적으로 결합된다. 출력은 양수성을 보장하기 위해 softplus 활성화 함수를 통과한다.
   • 초기화: 네트워크는 $M(x) \approx 1$이 되도록 초기화되어, 학습된 마크가 미표기된 장(unmarked field)으로부터 시작하게 한다. 이를 통해 학습된 마크를 뚜렷한 형태학적 기여로 분해할 수 있다.

2. 대조 학습 목적 함수(Contrastive Learning Objective):

   • 프레임워크는 마크된 요약본을 공유 잠재 공간 내의 우주론적 파라미터 $\theta$와 정렬하기 위해 대조 학습 목적 함수(InfoNCE)를 사용한다.
   • 요약 벡터: 요약에는 미표기 장의 전력 스펙트럼($P_{\delta\delta}$), 마크된 장의 전력 스펙트럼($P_{\Delta\Delta}$), 그리고 교차 스펙트럼($P_{\delta\Delta}$) 및 상관 계수가 포함된다.
   • 잔차화(Residualization): 마크가 단순히 전력 스펙트럼을 재현하는 것이 아니라 보완적인 정보를 학습하도록 하기 위해, 마크된 요약 임베딩($z_M$)을 미표기 임베딩($z_\delta$)에 대해 잔차화하여 직교 성분인 $z_\perp$를 생성한다.
   • 손실 함수: 손실 함수는 학습된 마할라노비스스(Mahalanobis) 메트릭을 사용하여 $z_\perp$를 파라미터 임베딩 $z_\theta$와 정렬하는 한편, 사전 분포에서 샘플링된 부정적 후보들(실제, 글로벌 합성, 로컬 합성 부정적 샘플)로부터 이를 분리한다.
   • 학습 전략: 미표기 브랜치는 사전 학습 후 고정되며, 이후 마커 네트워크와 파라미터 임베더가 대조 손실을 사용하여 미세 조정된다.

주요 기여

• 마크 통계의 일반화: 본 논문은 고정된 함수 형태를 넘어, 구성 공간에서 검사 가능한 학습된 변환으로 이동함으로써 마크 통계의 개념을 일반화하는 신경 아키텍처를 도입한다.
• 등변성을 통한 해석 가능성: 국소적 $SO(3)$-등변성을 강제하고 구형 조화 필터를 사용함으로써, 모델은 명확한 물리적 의미(모노폴, 디폴, 쿼드러폴 응답)를 가진 특징을 추출한다.
• 대조적 정렬: 잔차화를 포함한 대조적 목적 함수를 사용함으로써, 학습된 마크가 표준 전력 스펙트럼과 직교하는 정보를 구체적으로 타겟팅하게 하여, 전통적인 통계량이 해결할 수 없는 퇴행(degeneracy)을 해소한다.

결과
본 방법은 Quijote N-body 시뮬레이션 제품군($z=0$)에서 5개의 가변적인 우주론적 파라미터($\Omega_m, \Omega_b, h, n_s, \sigma_8$)를 대상으로 평가되었다.

• 피셔 정보 제약(Fisher Information Constraints): $k_{\max} = 0.2 \, h\text{Mpc}^{-1}$에서, 학습된 마크는 클래식 마크에 비해 $\sigma_8$에 대한 주변화된 제약을 2.9배, $\Omega_m$에 대한 제약을 1.8배 강화한다. 결정적으로, 이는 전형적인 $\Omega_m - \sigma_8$ 퇴행을 깨뜨려 공동 사후 분포(joint posterior) 윤곽을 회전시킴으로써 두 파라미터 모두에 대한 동시 개선을 가능하게 한다.
• 일반화(MSE): 라틴 초입방체(Latin-hypercube) 테스트 세트 전반에서, 학습된 마크는 최적의 클래식 마크보다 파라미터 평균 제곱 오차(MSE)를 1.45배 감소시킨다. 특히 $\sigma_8$에 대해 견고한 일반화 성능을 보이지만, 특정 $(p, \delta_s)$ 설정에서는 클래식 마크가 $\Omega_m$에 대해 약간 더 안정적이다.
• 잠재 기하학(Latent Geometry): 학습된 임베딩의 주성분 분석(PCA) 결과, 첫 두 주성분이 $\sigma_8$ 및 $\Omega_m$ 방향과 거의 완벽하게 일치함을 보여주며, 이는 대조적 목적 함수가 우주론적 정보의 지배적인 축을 성공적으로 회복했음을 확인시켜 준다.
• 내성(Introspection): 훈련된 마크에 대한 분석 결과, 등방성($\ell=0$) 채널이 응답을 지배하며 효과적으로 비선형적으로 재가중된 밀도를 회복하는 반면, 이방성 채널은 구조 경계에서 부차적인 보정을 제공한다.

의의
본 논문은 이 접근 방식이 더 강력하고 해석 가능한 요약 통계량을 위한 길을 열어준다고 주장한다. 수동으로 제작된 변환을 물리적으로 동기화된 학습된 아키텍처로 대체함으로써, 이 방법은 높은 제약 능력을 가진 장 수준 신경망과 전통적인 통계량의 해석 가능성 사이의 간극을 메운다. 구성 공간에서 학습된 마크를 검사할 수 있는 능력은 연구자들이 어떤 국소적 형태학적 특징(예: 보이드, 필라멘트, 이방성 구조)이 가장 풍부한 우주론적 신호를 담고 있는지 이해할 수 있게 한다. 저자들은 이 방법을 시뮬레이션 비용을 줄이고 은하 조사로부터의 과학적 성과를 높일 수 있는 유연한 추론 도구로 자리매김하며, 원시 비가우시안성(primordial non-Gaussianity)과 같은 다른 파라미터로의 확장 가능성을 제시한다.