Transformer-Based Approach to Enhance Positron Tracking Performance in MEG II

기술 요약: MEG II의 양전자 추적 성능 향상을 위한 트랜스포머 기반 접근 방식

문제 정의
MEG II 실험은 전하를 띤 경량자 붕괴인 $\mu \to e\gamma$를 탐색한다. 이 실험의 목표 민감도($6 \times 10^{-14}$)를 달액하는 데 있어 결정적인 병목 현상은 고밀도 파일업(pileup) 조건하에서의 양전자 분광기 성능이다. 분광기는 원통형 드리프트 챔버(CDCH)를 사용하며, 여기서 타겟 뮤온 정지율이 $5 \times 10^7 \mu/s$에 도달할 때 히트 점유율(hit occupancy)은 35–50%에 이른다. 인접한 히트들을 연결하기 위해 국소적 패턴 인식에 의존하는 기존 재구성 알고리즘은 파일업 히트로 인한 오염 때문에 추적 단계에서 효율성 저하를 겪는다. 이러한 비효율성은 실험이 수용 가능한 추적 효율을 유지하기 위해 뮤온 정지율을 낮은 수준($4 \times 10^7 \mu/s$)으로 낮추어 운영하게 만들며, 이는 측정 가능한 총 뮤온 붕괴 수를 제한한다.

방법론
국소적 패턴 인식의 한계를 해결하기 위해, 저자들은 히트 분류기로서 설계된 트랜스포머 기반 머신러닝 모델을 개발하였다. 핵심 개념은 단순히 국소적 근접성에 의존하는 대신, 양전자 궤적의 서로 다른 턴 세그먼트(turn segment) 간의 히트들 사이의 전역적 상관관계를 활용하는 것이다.

• 모델 아키텍처: 모델은 pTC(Pixelated Timing Counter) 히트와 CDCH 히트를 위한 두 개의 별도 어텐션 블록을 갖춘 트랜스포머 아키텍처를 활용한다.
  • 입력: 모델은 특정 양전자 후보와 연관된 pTC 히트 및 이벤트 내의 모든 CDCH 히트를 입력으로 받는다.
  • 특징 공학(Feature Engineering): 효과적인 어텐션 메커니즘을 촉진하기 위해, 저자들은 특정 기하학적 변환을 도입하였다. 여기에는 궤적을 정렬하기 위한 히트 좌표의 컨포멀 매핑(conformal mapping)과 검출기 대칭성을 활용하기 위한 첫 번째 pTC 히트 기준의 회전 정렬이 포함된다. 특징값으로는 드리프트 시간, 와이어 위치, 그리고 특정 턴 세그먼트(예: 마지막 반 바퀴를 의미하는 $s=1$ 또는 그 이전 턴을 의미하는 $s=2$)에 속하는 히트를 구별하기 위해 미셸 양전자 궤적으로부터 유도된 보정된 패턴($z_{turn;s}$, $\phi_{turn;s}$)이 포함된다.
  • 출력: 모델은 각 CDCH 히트를 여러 카테고리 중 하나로 분류한다: 파일업/노이즈($s=\emptyset$) 또는 특정 궤적 세그먼트($s \in \{1, 2_{in}, 2_{out}, 3_{in}, 3_{out}, 4_{in}, 4_{out}\}$).
• 학습 전략: 모델은 90%의 몬테카를로(MC) 샘플과 10%의 저율(low-rate) 데이터 샘플로 구성된 데이터셋으로 학습되었다. MC 특유의 검출기 정렬에 대한 과적합을 방기하기 위해, (기존 재구성이 매우 신뢰할 수 있는) 저율 데이터를 사용하여 CDCH 히트를 주석 처리(annotate)하였다. 이렇게 얻은 데이터 기반 주석은 고율 배경 데이터와 혼합되어 파일업 환경을 시뮬레이션하는 데 사용되었다. 2단계 학습 프로세스가 채택되었다: 첫째, 낮은 파일업 상태에서 신호 히트 간의 상관관계를 학습하고, 둘째, 높은 비율에서 신호와 파일업을 구별하는 법을 학습한다.
• 통합: 학습된 모델은 프리 필터(pre-filter) 역할을 한다. 표준 추적 및 피팅 알고리즘(Ref. [5]에 기술됨)이 실행되기 전에, 모델은 확률 임계값을 기준으로 CDCH 히트를 선택한다. 이는 재구성 알고리즘의 입력을 "순도가 향상된" 히트 집합으로 감소시킨다.

주요 기여

1. 새로운 아키텍처: 히트 필터링에 트랜스포머 모델을 적용하였으며, 특히 pTC와 CDCH 히트 간의 교차 어텐션(cross-attention) 및 CDCH 히트 간의 셀프 어텐션(self-attention)을 활용하여 전역적 궤적 패턴을 식별한다.
2. 파일업에 대한 강건성: 이 방법은 점유율(35–50%)에 의해 발생하는 일반적인 재구성 효율 저하를 성공적으로 분리하여, 국소적 패턴 인식이 실패하는 영역에서도 알고리즘이 효과적으로 작동할 수 있게 한다.
3. 운영 최적화: 이 구현은 실험이 추적 성능을 희생하지 않고도 하드웨어 한계인 뮤온 정지율($5 \times 10^7 \mu/s$)에서 운영될 수 있도록 한다.

결과
제안된 방법은 MC 샘플과 MEG II에서 수집된 실제 데이터를 모두 사용하여 평가되었다:

• 히트 필터링 성능: 뮤온 정지율 $5 \times 10^7 \mu/s$에서, 모델은 87%의 파일업 히트를 제거하면서(거짓 양성률 13%) 98%의 신호 히트 효율을 달성하였다.
• 추적 효율: 트랜스포머 필터의 사용은 기존 방식과 비교했을 때 $5 \times 10^7 \mu/s$에서 양전자 추적 효율을 15% 증가시켰다. 이러한 이득은 MC와 데이터 모두에서 관찰되었으며, 데이터에서는 테스트된 모든 비율 범위에서 일관된 개선을 보였다.
• 추적 해상도: 양전자 궤적 파라미터의 해상도가 약 5% 개선되었다. 구체적으로, $z$-해상도(와이어를 따른 위치)와 운동량 해상도(미셸 양전자의 52.8 MeV 종단 스펙트럼으로부터 유도됨)에서 유의미한 이득이 나타났다. 운동량 해상도 개선은 운동학적 한계를 초과하는 궤적의 감소를 바탕으로 약 10%로 정량화되었다.
• 계산 비용: ML 추론 단계의 추가에도 불구하고, 전체 이벤트 처리 시간은 기존 방식의 70–80% 수준으로 감소하였다. 이는 감소된 수의 파일업 히트가 점유율에 가장 민감한 단계인 시드 생성(seed construction) 및 후보 생성 단계를 크게 가속화했기 때문이다.

의의
본 논문은 이러한 성능 향상이 MEG II 실험의 물리적 도달 범위에 직접적으로 변혁적인 영향을 미친다고 주장한다. $5 \times 10^7 \mu/s$의 높은 뮤온 정지율(효율 저하로 인해 기존에는 $4 \times 10^7 \mu/s$로 제한됨)에서 운영을 가능하게 함과 동시에 추적 해상도를 개선함으로써, 실험은 $\mu \to e\gamma$ 분기비 측정의 민감도를 약 10% 증가시킬 것으로 기대된다. 결과적으로, 협력단은 이 새로운 방법을 사용하여 2022년까지 수집된 데이터셋을 재처리하기로 결정하였으며, 이미 2025년 데이터 수집 기간을 위한 뮤온 빔 속도를 상향 조정하였다. 저자들은 이 접근 방식이 상당한 과학적 이득을 나타내며, 고점유율 추적 검출기 재구성에 딥러닝을 성공적으로 통합한 사례라고 결론짓는다.