Contrastive Learning for Interpretable Anomaly Detection at Collider Experiments

거대 강입자 충돌기(LHC)를 세계에서 가장 강력한 입자 파쇄기로 상상해 보십시오. 이 장치는 양성자를 거의 빛의 속도로 서로 충돌시켜 새로운 입자들이 발생하는 혼돈의 폭발을 만들어냅니다. 물리학자들은 현재의 규칙서인 '표준 모델'에 부합하지 않는 신비로운 입자나 힘, 즉 '새로운 물리학(new physics)'을 찾아 헤매고 있습니다. 문제는 이 새로운 입자들이 수십억 개의 평범하고 지루한 충돌 속에 숨겨진, 건초더미 속 바늘과 같다는 점입니다. 이를 찾기 위해 과학자들은 '이상 탐지(Anomaly Detection)' 기법을 사용하는데, 이는 마치 파티에서 평소와 다르게 행동하는 사람만을 골라내는 보안 요원과 같습니다.

하지만 전통적인 보안 요원들에게는 두 가지 큰 결함이 있습니다. 첫째, 그들은 파티가 얼마나 시끄러운지(충돌 에너지) 또는 얼마나 많은 사람이 춤을 추고 있는지(입자의 수)에 따라 혼란을 느껴, 단순히 에너지가 높다는 이유만으로 정상적인 사건을 수상한 것으로 분류하곤 합니다. 둘째, 보안 요원이 누군가를 멈춰 세웠을 때, 그들은 왜 그런 결정을 내렸는지 설명하지 못합니다. 그들은 단지 "이 사람은 이상하다"라고 말할 뿐, 이 사람이 스파이인지, 길을 잃은 관광객인지, 아니면 그저 특이한 모자를 쓴 것뿐인지 알려주지 않습니다. 이 논문은 더 똑똑한 보안 시스템인 ORCA를 소개합니다. ORCA는 이상한 사람들을 더 잘 찾아낼 뿐만 아니라, 그들이 어떤 종류로 이상한 것인지 정확히 설명해 줍니다.

---

ORCA 방법론: 2단계 탐정 이야기

저자인 하오이 지아(Haoyi Jia), 사가르 아데팔리(Sagar Addepalli), 줄리아 공스키(Julia Gonski)는 ORCA(Organized Representation via Contrastive learning for Anomaly detection)라고 불리는 새로운 프레임워크를 제안합니다. ORCA를 보안 요원이 본격적으로 감시를 시작하기도 전에 파티의 혼란을 정리하는 2단계 과정이라고 생각하십시오.

1단계: "분류기" (대조 학습, Contrastive Learning)
성, 우주선, 경주용 자동차 등 서로 다른 세트의 레고 브릭들이 한데 뒤섞여 있는 거대한 더미가 있다고 상상해 보십시오. 만약 이들을 그냥 상자에 던져 넣는다면, 어떤 브릭이 어느 세트에 속하는지 구분하기 어렵습니다. 전통적인 방식은 전체 더미를 다시 재구성하려고 시도하지만, 모든 세트에 걸쳐 비슷하게 보이는 빨간색 브릭 때문에 종종 혼란을 겪습니다.

ORCA의 첫 번째 단계는 대조 학습(Contrastive Learning) 기술을 사용합니다. 이는 마치 아주 똑똑한 선생님이 무언가를 만들기 전부터 브릭들을 가져가서 '유형'에 따라 별도의 더미로 분류하는 것과 같습니다. 모델은 48개의 서로 다른 표준 모델 프로세스(알려진 물리학)를 대상으로 학습하며, 이를 '단일 벡터 보존(Single Vector Boson)'이나 '톱 페어(Top Pair)'와 같은 14개의 카테고리로 그룹화합니다. 모델은 서로 다른 세트의 브릭들은 가상 공간에서 멀리 떨어뜨리고, 같은 세트의 브릭들은 서로 가깝게 유지하도록 학습합니다.

그 결과, 매우 조직화된 '임베딩 공간(embedding space)'이 만들어집니다. 이제 모델은 가공되지 않은 데이터의 무질서한 더미 대신, 모든 알려진 유형의 물리적 사건이 각자의 뚜렷한 구역을 가진 깔끔한 지도를 갖게 됩니다. 이를 통해 첫 번째 문제를 해결합니다. 모델은 입자가 무엇인지에 따라 데이터를 이미 조직화했기 때문에, 순수한 에너지나 입자의 수 때문에 혼란을 겪지 않습니다.

2단계: "보안 요원" (오토인코더, Autoencoder)
데이터가 이러한 깔끔한 구역으로 분류되면, 두 번째 단계인 **오토인코더(Autoencoder)**가 투입됩니다. 이는 보안 요원 역할을 합니다. 이 요원은 오직 '배경(background)' 사건(지루하고 평범한 것들)만을 대상으로 학습합니다. 요원은 정상적인 구역의 구조를 완벽하게 재구성하는 법을 배웁니다.

새로운 사건이 들어오면, 요원은 그것을 재구성하려고 시도합니다. 만약 사건이 정상적이라면, 요원은 이를 쉽게 재구성할 수 있습니다. 하지만 만약 사건이 이상치(anomaly, 새로운 물리학 신호)라면, 그것은 알려진 구역의 패턴에 맞지 않습니다. 그러면 요원은 재구성에 어려움을 겪게 되고, '재구성 오차(reconstruction error)'가 커지게 됩니다. 이 오차 점수가 바로 이상 점수(anomaly score)가 됩니다. 첫 번째 단계에 의해 데이터가 이미 분류되었기 때문에, 이 점수는 훨씬 더 정확하며 높은 에너지나 밀집된 사건에 속지 않습니다.

연구 결과: 더 나은 탐지와 명확한 설명

연구진은 고광도 LHC(High-Luminosity LHC)의 조건을 모사한 7억 5천만 건의 양성자-양성자 충돌 시뮬레이션 데이터셋을 사용하여 ORCA를 테스트했습니다. 그들은 정렬 단계 없이 원시 데이터에 직접 접근하는 표준 오토인코더와 ORCA를 비교했습니다.

1. 더 똑똑한 탐지
결과는 ORCA가 새로운 물리학을 포착하는 데 훨씬 뛰어나다는 것을 보여주었습니다. 테스트한 거의 모든 유형의 신호에 걸쳐, ORCA는 '거짓 알람'을 더 많이 무시하면서도 더 많은 '진짜' 이상치를 찾아냈습니다. 논문의 언어로 표현하자면, ORCA는 '폭(breadth, 더 많은 유형의 신호를 찾는 능력)'과 '깊이(depth, 배경 소음이 매우 클 때도 신호를 찾는 능력)' 모두를 개선했습니다. 유일한 예외는 특정 저질량 공명(low-mass resonance) 현상이었는데, 모델이 이를 여전히 배경과 유사하게 취급했지만, 그 외의 거의 모든 경우에서 이 새로운 방법은 명백한 승자였습니다.

2. "왜" 이상한지에 대한 이유
이 논문에서 가장 흥vex한 부분은 **해석 가능성(interpretability)**입니다. 과거에는 검출기가 어떤 사건을 "이상하다"고 표시하면, 과학자들은 추측할 수밖에 없었습니다. 이것이 새로운 입자인지, 아니면 단순한 오류인지 말입니다.

ORCA를 사용하면 사건들이 뚜�렷한 구역으로 나뉘어 있기 때문에, 과학자들은 "이상한" 사건을 보고 다음과 같이 질문할 수 있습니다. "이 사건은 어떤 알려진 구역과 가장 닮았는가?" 그들은 **템플릿 피팅(template fit)**이라는 통계적 기법을 사용합니다. 파티에 온 미스터리한 손님이 있다고 상상해 보십시오. 단순히 "저 사람은 이상하다"라고 말하는 대신, "이 손님은 '톱 페어(Top Pair)' 구역에서 온 길 잃은 관광객과 80% 닮았고, '디-힉스(Di-Higgs)' 구역에서 온 스파이와 20% 닮았다"라고 말할 수 있는 것입니다.

논문은 가짜 새로운 신호를 데이터에 '주입(injecting)'함으로써 이를 입증했습니다. 가짜 신호를 주입했을 때, ORCA는 가짜 신호가 몇 개인지 정확히 세었을 뿐만 아니라, 그것이 어떤 알려진 물리 프로세스를 닮았는지도 정확히 식별했습니다. 예를 들어, 모델에게 존재를 알리지 않고 '디-힉스' 신호를 주입했을 때, 모델은 해당 사건들이 '톱 페어' 사건과 닮았다고 정확히 분류했습니다. 이는 모델이 명시적으로 배우지 않았더라도 기저의 물리적 구조(예: 최종 상태의 입자 수)를 학습했음을 보여줍니다.

결론

이 논문은 '검색' 단계 이전에 '분류' 단계를 추가함으로써, 입자 충돌기의 이상 탐지를 더 강력하고 이해하기 쉽게 만들 수 있음을 시사합니다. 이는 단순히 건초더미에서 바늘을 찾는 것이 아니라, 일단 바늘을 찾았을 때 그 바늘의 모양, 색깔, 그리고 출처를 설명할 수 있게 하는 것입니다.

저자들은 이것이 시뮬레이션 기반 결과임을 강조합니다. 그들은 실제 LHC의 데이터가 아닌 7억 5천만 건의 시뮬레이션 충돌 데이터셋을 테스트했습니다. 하지만 이 프레임워크는 모듈식으로 설계되었습니다. '분류기'를 실제 하드웨어 트리거에서 실행할 수 있는 더 빠른 버전으로 교체할 수 있으며, '보안 요원'은 어떤 다른 이상 탐지기로도 바꿀 수 있습니다. 이는 미래의 실제 실험이 단순히 새로운 물리학을 찾는 것을 넘어, 그것이 무엇인지 즉각적으로 이해할 수 있는 문을 열어줍니다.