Machine Learning-based Unfolding for Cross Section Measurements in the Presence of Nuisance Parameters

기술 요약: 퍼즐 매개변수(Nuisance Parameters)를 포함한 언폴딩을 위한 Profile OMNIFOLD

문제 정의
입자 및 핵물리학에서 "언폴딩(unfolding)"은 검출기 효과(검출기 수준의 데이터, $y$)에 의해 왜곡된 관측값으로부터 물리적 양의 실제 기저 분포(입자 수준의 진실, $x$)를 복원하는 통계적 역문제이다. 이 관계는 프레드홀름 1종 적분 방정식(Fredholm integral equation of the first kind)인 $p_Y(y) = \int k(y,x)p_X(x)dx$로 모델링된다. 여기서 $k(y,x)$는 응답 커널(response kernel)이다.

OMNIFOLD 알고리즘과 같은 현대적인 머신러닝(ML) 방법들은 기대 최대화(Expectation-Maximization, EM) 프레임워크 내에서 밀도 비(density ratio)를 추정하기 위해 분류기(classifier)를 사용함으로써 고차원 언폴딩 문제를 성공적으로 해결해 왔으나, 시뮬레이션에서 사용되는 검출기 응답 커널($q(y|x)$)이 실제 응답($p(y|x)$)과 완벽하게 일치한다는 결정적인 가설에 의존한다. 실제 상황에서 시뮬레이션은 근사적으로만 정확하며, 계통 불확실성(예: 제트 에너지 분해능)을 인코딩하는 "퍼즐 매개변수(nuisance parameters, $\theta$)"에 따라 달라진다. 만약 $\theta$가 잘못 지정되면(즉, 시뮬레이션은 $\theta=1$이라고 가정하지만 실제로는 $\theta \neq 1$인 경우), 표준 ML 언폴딩 방법은 실제 분포 $p_X$에 대해 편향된 추정치를 생성한다. 이러한 문제를 처리하기 위한 전통적인 접근 방식은 대안적인 모델 하에서 측정을 반복하는 것이지만, 이는 계산 비용이 많이 들고 종종 보수적이다.

방법론: Profile OMNIFOLD (POF)
저자들은 입자 수준의 재가중치 함수(reweighting function)와 퍼즐 매개변수를 공동으로 추정하는 OMNIFOLD 알고리즘의 확장형인 **Profile OMNIFOLD (POF)**를 제안한다. POF는 퍼즐 매개변수 $\theta$를 EM 목적 함수 내의 또 다른 미지수로 취급한다.

알고리즘은 다음의 EM 목적 함수를 최대화하기 위해 반복적으로 작동한다:
$$\ell(\nu, \theta) = \int p(y) \log p(y|\nu, \theta) dy + \log p_0(\theta)$$
여기서 $\nu(x)$는 몬테카를로(MC) 입자 수준 밀도에 대한 재가중치 함수이고, $p_0(\theta)$는 보조 측정값으로부터 얻은 사전 확률(prior) 또는 가능도(likelihood) 항이다.

POF 알고리즘은 매 반복 $k$마다 세 단계로 구성된다:

1. 검출기 수준 재가중치(Detector-level Reweighting): 분류기가 밀도 비 $r^{(k)}(y) = p(y) / \tilde{q}^{(k)}(y)$를 추정한다. 여기서 $\tilde{q}^{(k)}(y)$는 현재의 입자 가중치 $\nu^{(k)}$와 커널 비 $W(y,x,\theta) = p(y|x,\theta)/q(y|x)$에 의해 재가중된 MC 검출기 수준 밀도이다.
2. 입자 수준 재가중치(Particle-level Reweighting): 비율 $r^{(k)}(y)$가 $W$를 포함하여 $\nu^{(k+1)}(x)$를 업데이트하기 위해 입자 수준으로 "풀백(pulled back)"된다.
3. 퍼즐 매개변수 업데이트(Nuisance Parameter Update): $\theta$는 $\nu^{(k)}$를 고정한 상태에서 $Q$-함수($Q_2$)의 특정 성분을 $\theta$에 대해 최대화함으로써 $\theta^{(k+1)}$로 업데이트된다.

이를 구현하기 위해 알고리즘은 함수 $W(y,x,\theta)$를 필요로 한다. 논문은 다양한 $\theta$를 사용하여 생성된 합성 데이터를 통해 $W$를 추정하는 방법(Chan 및 Nachman, 2023 기반)을 상세히 설명한다.

주요 기여

• 알고리즘 확장: 분류 기반 EM 언폴딩 프레임워크에 퍼즐 매개변수 프로파일링을 직접 통합하는 POF의 도입. 고정된 순방향 모델(forward model)을 가정하는 기존의 언바인드(unbinned) 방법들과 달리, POF는 스펙트럼과 계통 매개변수를 동시에 업데이트한다.
• 수렴 진단(Convergence Diagnostics): 저자들은 1단계 분류기의 정확도에 기반한 적합도(goodness-of-fit) 통계량을 제안한다. 수렴된 솔루션은 재가중된 MC 분포가 실험 데이터와 일치함을 의미하므로, 분류기는 두 분포를 구분할 수 없어야 한다(정확도 $\approx 0.5$). 이 통계량은 퍼즐 매개변수가 존재할 때 발생하는 가능도 곡면의 비볼록성(non-concavity) 문제를 해결하기 위해, 서로 다른 초기화 값을 가진 여러 실행 중 최적의 솔루션을 선택하는 데 사용된다.
• 고차원 처리: POF는 빈(bin)을 만들지 않고 고차원 데이터를 처리할 수 있는 OMNIFOLD의 능력을 유지하여, 전통적인 빈 기반 언폴딩과 관련된 "차원의 저주"를 피한다.

결과
논문은 두 가지 케이스 스터디를 통해 POF를 검증한다:

1. 가우시안 예시: 실제 $\theta$(스미어링 분산을 제어함)가 시뮬레이션과 다른 제어된 1D 및 2D 가우시안 시뮬레이션.
   • 결과: 표준 OMNIFOLD( $\theta=1$ 가정)는 편향된 입자 수준 분포를 생성했다. 반면 POF는 실제 분포를 성공적으로 복구하고 $\theta$를 진실값에 가깝게 추정했다(예: $\hat{\theta}=1.48$ vs 실제 $1.50$). 적합도 통계량을 사용했을 때, 알고리즘은 초기화와 상관없이 올바른 솔루션으로 수렴했다.
2. CMS Open Data 시뮬레이션: LHC의 CMS 실험에서 얻은 제트 횡운동량(transverse momentum) 스펙트럼의 실제적인 시뮬레이션.
   • 설정: "데이터"는 시뮬레이션보다 제트 에너지 분해능이 70% 더 큰 조건($\theta_{true}=1.7$ vs $\theta_{sim}=1.0$)에서 생성되었다.
   • 결과: OMNFOLD는 잘못 지정된 커널로 인해 실제 입자 수준 스펙트럼을 복구하는 데 실패했다. POF는 실제 스펙트럼을 밀접하게 복구했으며 $\hat{\theta}=1.62$를 추정했다. 이 연구는 POF가 견고하지만 초기화 선택이 중요하다는 점을 강조했다. 즉, 좋지 않은 초기화는 지역 최적점(local optima)으로 이끌 수 있으나, 제안된 적합도 통계량이 우수한 솔루션을 효과적으로 식별해 냈다.

의의
본 논문은 POF가 완벽하게 지정된 순방향 모델을 가정한다는 현재의 머신러닝 기반 언폴딩의 근본적인 한계를 해결한다고 주장한다. 언폴딩 과정 중에 순방향 모델의 불확실성(퍼즐 매개변수)을 고려함으로써, POF는 복구된 입자 수준 분포의 편향을 줄인다. 저자들은 이 방법이 시뮬레이션을 통해 검출기 응답이 복잡하고 암묵적으로만 알려진 고에너지 물리학 분야에서 ML 기반 언폴딩을 더욱 견고하게 적용할 수 있는 실질적인 경로라고 보고 있다. 이 방법은 OMNFOLD의 계산 효율성과 고차원 처리 능력을 유지하면서 계통 불확실성이 존재하는 시나리오로 적용 범위를 확장한다.

한계 및 향 향후 과제
저자들은 퍼즐 매개변수의 도입으로 인한 비볼록(non-concave) 가능도 곡면 때문에 POF가 전역 최대값(global maximum)으로의 이론적 수렴을 보장하지 못한다는 점을 언급한다. 또한 퍼즐 매개변수 추정은 보조 $W$ 함수 추정의 품질에 민감하다는 점을 강조한다. 끝으로, 현재 구현은 언폴딩된 분포나 퍼즐 매개변수에 대한 불확실성 정량화를 제공하지 않으며, 이는 향후 연구 과제로 남아 있다.