Graph theory inspired anomaly detection at the LHC

기술 요약: LHC에서의 그래프 이론 기반 이상 탐지

문제 정의
대형 강입자 충돌기(LHC)에서 표준 모형 너머(Beyond the Standard Model, BSM)의 물리학을 찾는 과정은 모델 독립적인 이상 탐지 알고리즘을 설계하는 데 있어 핵심적인 과제에 직면해 있으며, 이는 충돌 이벤트의 고차원성을 처리할 수 있어야 합니다. 특정 이론적 모델을 목표로 하는 전통적인 "탑다운(top-down)" 탐색 방식은 해당 모델과 일치하지 않는 신호를 놓칠 위험이 있습니다. 오토인코더와 같은 비지도 학습 기반의 머신러닝 접근 방식은 배경 사건(background events)을 재구성하는 법을 학습하여 재구성 손실(reconstruction loss)이 높은 사건을 이상치로 분류함으로써 모델 불가지론적(model-agnostic) 대안을 제공하지만, 제트(jet) 데이터의 복잡성을 다루는 데 어려움을 겪는 경우가 많습니다. 완전 연결 그래프(fully connected graphs)나 밀집된 표현(dense representations)을 사용하는 표준 방식은 특히 신호 비율이 작을 때 중복성과 과적합을 초축할 수 있습니다. 본 연구는 이상 탐지 성능을 개선하기 위해 정보 함량과 기하학적 구조 사이의 균형을 맞추는 물리적으로 동기화된 귀납적 편향(inductive bias)의 필요성을 다룹니다.

방법론
저자들은 LHC Olympics 2020 데이터셋을 벤치마킹 대상으로 하여, 이상 탐지를 위한 비지도, 모델 불가지론적 도구로서 그래프 오토인코더(Graph Autoencoder, GAE)를 개발했습니다. 이 방법론은 제트 구성 성분을 그래프로 표현하는 데 있어 두 가지 주요 혁신을 도입합니다:

1. 그래프 강성(Graph Rigidity)을 통한 희소 그래프 구축: $O(N^2)$의 척도를 갖는 완전 연결 그래프 대신, 저자들은 구성 성분의 수($N$)에 따라 간선(edge)의 수가 선형적으로 확장되는 희소 그래프를 구축합니다. 이러한 구축은 유클리드 공간($\mathbb{R}^2$)에서의 그래프 강성 이론에 의해 동기화됩니다:

   • 라만 그래프(Laman Graphs): 헤네베르그 타입 I(Henneberg Type I) 연산을 통해 구축되는 $2N-3$개의 간선을 가진 국부적 강성(locally rigid) 그래프입니다. 이는 국부적 강성을 보장하지만, 여러 개의 이산적 실현(discrete realizations)을 허용할 수 있습니다.
   • 유니크 그래프(Unique Graphs): 등거리 변환(isometries)을 제외하고 유일한 임베딩을 갖는 전역적 강성(globally rigid) 그래프입니다. 저자들은 가장 단단한 $k+1$개의 입자로 이루어진 완전 연결 부분 그래프에서 시작하여, 각 후속 입자를 각도 거리 기준으로 가장 가까운 $k$개의 이웃에 연결함으로써 "unique-$k$" 그래프를 구축합니다. $k \geq 3$인 경우, 이 그래프들은 헨드릭슨(Hendrickson)의 전역 강성 조건을 만족합니다.

2. 정보 조절기로서의 서브제트 클러스터링(Subjet Clustering): 입력의 복잡성을 제어하기 위해, 제트 구성 성분들을 고정된 수의 배타적 $k_T$ 서브제트로 클러스터링합니다. 이를 통해 저수준(low-level, 하드론) 표현과 고수준(high-level, 요약 통계량) 표현 사이를 매끄럽게 보간할 수 있습니다. 모델의 입력은 절대적 위치가 아니라, 섭동 QCD 관측량과 일치하도록 노드의 횡운동량($p_T$) 및 간선의 상대적 각도 거리($\theta_{ij}$)와 운동학적 변수($k_{T,ij}, z_{ij}$)로 구성됩니다.

아키텍처는 그래프 신경망(GNN) 기반의 오토인코더를 채택합니다. 인코더는 노드 및 간선 특징을 처리하기 위해 EdgeConv 레이어를 사용하여 입력을 2차원 잠재 노드 표현("타이트 바틀넥")으로 압축합니다. 디코더는 노드 특징을 재구성하는 브랜치와 간선 특징을 재구성하는 브랜치의 두 갈래로 구성됩니다. 모델은 배경이 풍부한 데이터에서 노드 및 간선 재구성의 평균 제곱 오차(MSE)를 최소화하도록 훈련됩니다.

주요 기여

• 강성을 통한 귀납적 편향: 그래프 강성(특히 유니크 그래프를 통한 전역 강성)을 강제하는 것이 효과적인 귀납적 편향으로 작용하여, 완전 연결 그래프의 중복 없이 입자의 위치를 고정할 수 있는 충분한 기하학적 제약을 제공함을 입증했습니다.
• 최적의 정보 수준: 본 연구는 이상 탐지 성능이 중간 수준의 서브제트 클러스터링($n_{\text{subjets}} \approx 30$)에서 정점에 도달함을 확인했습니다. 이는 제트 분류 작업이 종종 최대의 저수준 정보로부터 이득을 얻는 것과 대조적입니다.
• 희소 유니크 그래프의 우수성: 저자들은 특정 희소 그래프 구축 방식(unique-6)이 완전 연결 그래프보다 이상 탐지 작업에서 더 우수한 성능을 보임을 보여줍니다.
• 해석 가능성: 그래프 연결성을 위상 공간의 위상적 특성과 연결함으로써, 고에너지 물리학을 위한 머신러닝 도구의 해석 가능성을 높였습니다.

수치 결과
LHC Olympics 데이터셋($m_{Z'} = 3.5$ TeV인 $Z' \to X Y$ 공명 현상 시뮬레이션)을 사용하여, 저자들은 곡선 아래 면적(AUC)과 유의성 개선 특성(SIC) 곡선을 통해 성능을 평가했습니다.

• 그래프 성능: unique-6 그래프 구축 방식이 가장 우수한 성능을 보였으며, $n_{\text{subjets}} = 30$에서 최대 SIC 2.94 및 AUC 0.925를 달eric했습니다. 이는 완전 연결 그래프, 라만 그래프 및 다른 unique-$k$ 변형 모델들보다 뛰어난 성능이었습니다.
• 희소성 대 위상: 희소성을 높이는 것이 특정 지점까지는 일반적으로 성능을 향상시켰으나, 유니크 그래프의 구체적인 연결 구조가 희소성 자체보다 더 중요하게 작용했습니다. 라만과 완전 연결 사이를 보간하는 "수정된 라만(Modified Laman)" 그래프는 유니크 그래프의 성능 정점을 재현하지 못했으며, 이는 유니크 그래프의 위상 구조가 기저의 위상 공간 구조를 더 잘 포착함을 시사합니다.
• 입력 특징: 절대적 위치 정보만을 사용하거나 전체 3-모멘텀을 재구성하는 모델은 성능이 현저히 떨어졌으며, 이는 상대적 관계가 관련 물리 정보를 인코딩한다는 점을 확인시켜 줍니다.
• 강건성: 성능은 $S/B \lesssim 1\%$까지의 신호 대 배경 비율에서도 안정적으로 유지되었으며, 이는 비지도 패러다임과 일치합니다.

의의 및 주장
본 논문은 그래프 이론적 통찰, 특히 국부적 및 전역적 강성의 개념을 활용하는 것이 콜라이더 실험을 위한 머신러닝 도구를 정교화할 수 있음을 주장합니다. 결과는 다음을 시사합니다:

1. 물리적으로 동기화된 편향: 희소하고 강성이 있는 그래프는 밀집된 표현과 관련된 과적합을 피하면서 필수적인 기하학적 구조를 유지하는 이상 탐지를 위한 자연스러운 선택입니다.
2. 최첨단 성능: unique-6 그래프 구축은 이 특정 이상 탐지 벤치마크에서 비지도 오토인코더 기반 방법론 중 현재 최첨단(state-of-the-art) 성능을 나타냅니다.
3. 상보성: 이 접근법은 지도 학습 분류(풍부한 저수준 데이터의 이점을 가짐)와 비지도 이상 탐지(구조화된 중간 수준 정보의 이점을 가짐) 사이의 뚜렷한 차이점을 강조합니다.

저자들은 이러한 발견이 즉각적인 발견 잠재력을 주장하기보다는, 모델 불가지론적 탐색에서 개선된 민감도를 입증함으로써 그래프 이론, 계산 복잡성, 그리고 머신러닝 해석 가능성 사이의 연결에 대한 추가적인 탐구를 촉진한다고 결론짓습니다.