Real-time lepton identification at LHCb in Run 3 using Lipschitz neural networks

기술 요약: Lipschitz 신경망을 이용한 LHCb Run 3의 실시간 경입자 식별

문제 정의
LHC(대형 강입자 충돌기)의 LHCb 실험은 Run 3를 위해 완전한 소프트웨어 기반 트리거 시스템으로 전환하였으며, "트리거리스(triggerless)" 판독 아키텍처를 운영하고 있습니다. 이 시스템은 40 MHz의 번치 크로싱(bunch-crossing) 비율로 전체 검출기 판독 데이터를 처리하며, 이는 HLT(High-Level Trigger)로 약 30 MHz의 비탄성 양성자-양성자 충돌 데이터가 유입됨을 의미합니다. 이 트리거의 첫 번째 단계인 HLT1은 대규모 GPU 팜에서 실행되며, 이벤트 비율을 실시간으로 O(1 MHz) 수준으로 줄여야 합니다.

이 환경에서의 핵심 과제는 경입자(뮤온 및 전자)를 효율적으로 식별하는 것입니다. 경입자는 헤비 플레이버(heavy-flavor) 및 엑조틱(exotic) 붕괴 과정의 핵심적인 시그니처입니다. 전통적인 트리거 레벨의 입자 식별(PID)은 재구성된 특징값들에 대한 단순한 컷 기반 선택(cut-based selections)에 의존합니다. 이러한 방식은 견고하고 계산 비용이 저렴하지만, 머신 러닝의 변별력은 갖추지 못했습니다. 그러나 HLT1에 복잡한 머신 러닝 모델을 배치하는 것은 처리량, 메모리 점유율, 그리고 검출기 조건 및 입력 특징의 변화에 대한 견고성 요구 사항에 의해 제약을 받습니다. 목표는 GPU 기반 트리거의 실시간 성능을 저해하지 않으면서도 배경 잡음 제거(background rejection)와 신호 효율을 개선할 수 있는 알고리즘을 개발하는 것입니다.

방법론
저자들은 HLT1 단계 내의 뮤온 및 전자 식별을 위해 **Lipschitz 제약 신경망(Lipschitz-constrained neural networks)**의 사용을 제안합니다. 방법론은 다음 구성 요소들로 정의됩니다:

• Lipschitz 제약: 실시간 환경에서의 견고성과 안정성을 보장하기 위해, 신경망은 입력 특징의 변화에 대한 출력의 민감도를 제한하도록 명시적으로 제약됩니다. Lipschitz 상수 $K$를 가진 네트워크 $f$에 대해, 조건 $\|f(x) - f(x')\| \le K\|x - x'\|$가 강제됩니다. 이는 입력 특징의 작은 섭동(perturbation)이 네트워크 출력의 불균형하게 큰 변화를 일으키는 것을 방지하며, 이는 변화하는 검출기 조건을 처리하는 데 있어 중요한 속성입니다.
• 네트워크 아키텍처:
  • 뮤온 식별: 너비 10의 5개 층으로 구성된 완전 연결 피드포워드 네트워크(fully connected feed-forward network).
  • 전자 식별: 분류 성능과 추론 시간 사이의 경험적 절충안으로서 선택된, 너비 12의 4개 층을 가진 더 얕은 네트워크.
  • 구현 세부 사항: 네트워크는 Lipschitz 속성을 유지하기 위해 GroupSort 활성화 함수와 가중치 정규화 기법(첫 번째 층의 개별 가중치를 제한하고 이후 층의 절대 가중치 합을 제한함)을 사용합니다. 모든 입력 특징은 훈련 전 $[0, 1]$ 범위로 재스케일링됩니다.
• 입력 특징:
  • 뮤온: 네트워크는 $\chi^2_{Corr}$ 매칭 연산자(다중 산란을 고려한 트랙-뮤온 히트 적합성을 정량화), $D^2$ 변수(잔차 제곱합), 그리고 Scintillating Fiber (SciFi) 트래커, Vertex Locator (VELO), 뮤온 시스템 사이에서 측정된 트랙 기울기 차이($\Delta t_x, \Delta t_y$)를 활용합니다.
  • 전자: 네트워크는 전자기 칼로리미터(ECAL)의 관측값들을 결합합니다. 여기에는 에너지-운동량 비율($E/p$), 추정된 트랙과 클러스터 무게 중심 사이의 거리 제곱($\Delta^2_b$), 그리고 횡방향 샤워 형태(transverse shower-shape) 변수(에너지 분포의 2차 모멘트)가 포함됩니다.
• 훈련 및 배치: 모델은 Pythia, EvtEng, Photos, Geant4로 생성된 시뮬레이션 이벤트를 사용하여 오프라인에서 훈련됩니다. 신호 클래스는 $J/\psi$ 및 $\Upsilon(1S)$ 붕괴로부터 나온 뮤온 또는 전자로 구성되며, 배경 클래스는 안정적인 강입자(뮤온 식별의 경우 양성자, 전자 식별의 경우 파이온 및 카온)로 구성됩니다. 훈련된 모델은 Allen 프레임워크 내의 GPU 커널로 구현되어, GPU 점유율을 극대화하기 위해 배치(batched) 방식으로 트랙들을 처리합니다.

주요 기여

1. 알고리즘 개발: 본 논문은 LHCb Run 3 트리거에서 실시간 경입자 식별을 위한 Lipschitz 제약 신경망의 첫 번째 배포를 제시합니다.
2. 아키텍처 최적화: 저자들은 얕은 완전 연결 네트워크(4–5개 층)가 엄격한 메모리 및 처리량 제약 조건과 호환되면서도 높은 변별력을 달-성할 수 있음을 입증합니다.
3. 제약을 통한 견고성: Lipschitz 상수를 명시적으로 제한함으로써, 저자들은 입력 분포가 훈련 데이터와 약간 다를 수 있는 실시간 트리거의 특수한 필요성을 해결하는 제어된 모델 동작 메커니즘을 제공합니다.
4. 통합: 알고-리즘은 Allen 프레임워크에 통합되어, HLT1의 전체 처리량에 미치는 영향을 최소화하면서 대규모 트랙 집합을 동시에 처리합니다.

결과
Lipschitz 제약 신경망의 성능은 시뮬레이션 데이터를 사용하여 평가되었으며, 베이스라인인 컷 기반 PID 알고리즘과 비교되었습니다:

• 뮤온 식별: 신경망은 운동량이 중간에서 높은 트랙(운동학적 사전 선택을 통과하는 트랙의 대부분)에 대해 상당한 배경 잡음 제거(특히 파이온 제거) 이득을 얻었습니다. 저운동량 뮤온의 경우 성능은 베이스라인과 유사합니다. 이러한 향상된 제거 능력은 헤비 플레이버 붕괴에 대한 높은 효율을 유지하면서 관리 가능한 트리거 출력률을 유지하는 데 필수적입니다.
• 전자 식별: 네트워크는 전체 운동학적 범위에서 견고한 변별력을 제공합니다. 컷 기반 베이스라인 대비 개선 사항은 ECAL 에너지 해상도가 낮고 단일 변수(예: $E/p$)의 변별력이 약한 저운동량 영역에서 가장 두드럽게 나타납니다. 네트워크는 트랙-클러스터 매칭, 샤워 형태, 에너지 측정을 결합함으로써 물리적 영역에 자연스럽게 적응하며, 의사라피디티(pseudorapidity) 및 횡방향 운동량($p_T$) 전반에 걸쳐 거의 균일한 성능을 보입니다.
• 자원 효율성: 네트워크는 매우 컴팩트하여 약 500개의 파라미터(단정밀도 기준 약 2 kB)만을 필요로 하며, 버퍼당 트랙에 약 24–28 바이트의 데이터만을 추가합니다. 프로파일링 결과, 네트워크 커널은 총 GPU 처리 시간의 약 0.5–0.9%를 소비하며, 이는 이들이 보완하는 기존의 컷 기반 PID 연산자보다 적은 수치입니다.

의의 및 주장
본 논문은 Lipschitz 제약 신경망이 기존의 트리거 레벨 PID 방법보다 견고하고 효율적인 개선을 제공한다고 주장합니다. 그 의의는 모델의 복잡성과 동작이 신중하게 제약된다면, 머신 러닝이 높은 데이터 속도를 가진 임계 온라인 시스템에 성공적으로 통합될 수 있음을 보여준 데 있습니다.

저자들은 제시된 결과가 시뮬레이션 데이터에 기반하고 있지만, 알고리즘이 HLT1 트리거 내에 배포 및 검증되었으며 프로덕션 환경에서 안정적으로 실행되고 있다고 밝히고 있습니다. 이 연구는 모델의 복잡성과 성능 사이의 균형을 맞추는 정교하게 제약된 머신 러닝 모델이 실시간 의사 결정에 어떻게 활용될 수 있는지를 보여줍니다. 개발된 기술은 고에너지 물리학 및 그 너머의 다른 실시간 의사 결정 문제에도 관련될 수 있는 것으로 언급되었습니다.