Leveraging Industrial Foundation Models at the Edge of Particle Physics Detectors via Distillation Learning and Hardware Co-design

우주의 근본적인 구성 요소를 이해하려는 탐구 과정에서, 과학자들은 경이로울 정도로 복잡한 기계들을 구축합니다. 이 입자 검출기들은 거대하고 초정밀한 카메라 역할을 하며, 거의 빛의 속도로 공간을 가로지르는 아원자 입자들의 찰나의 흔적을 포착합니다. 과제는 단순히 이 입자들을 보는 것뿐만 아니라, 그것들을 기록하는 것입니다. 현대의 실험들은 너무나 방대한 양의 데이터를 생성하기 때문에 모든 것을 저장하는 것은 불가능합니다. 기계들은 일상적인 데이터는 걸러내고, 정보가 영원히 손실되기 전에 드물고 흥미로운 사건들만을 남기도록 순식간에 결정을 내려야 합니다. 이러한 필터링은 실험의 "에지(edge)"라고 불리는, 검출기 자체의 엄격한 물리적 및 전력 제약 조건 내에서 실시간으로 이루어집니다. 이를 처리하기 위해 연구자들은 인공지능을 활용하고 있으며, 기계가 데이터 스트림 속에서 그 어느 때보다 빠르고 정확하게 패턴을 인식하도록 가르치기를 희망하고 있습니다.

스탠퍼드 대학교와 SLAC 국립 가속기 연구소의 지아 안코네(Gia Ancone)와 동료들의 새로운 연구는 이 지능을 에지로 가져오는 참신한 방법을 탐구합니다. 각 특정 작업에 맞춰 작고 단순한 컴퓨터 프로그램을 처음부터 학습시키는 대신, 연구팀은 거대하고 사전 학습된 "파운데이션 모델(foundation model)"에서 시작했습니다. 이것을 방대한 라이브러리의 예시로부터 시간 기반 데이터의 리듬과 형태를 이미 이해한 범용 AI라고 생각하면 됩니다. 연구진은 이 강력하고 범용적인 모델을 가져와 입자 검출기의 신호를 읽는 특정 작업에 맞게 정교하게 적응시켰습니다. 그런 다음 이 거대한 모델을 축소하고 불필요한 복잡성을 제거하여, 검출기 내부의 특수 저전력 칩에서 실행될 수 있는 아주 작은 버전으로 만들었습니다. "증류(distillation)"라고 알려진 이 과정은 거대 모델의 깊은 지식을 미래의 입자 충돌기 내의 협소하고 제약이 많은 환경에 적합한 경량 패키지로 전달할 수 있게 해주었습니다.

연구팀은 이 접근 방식을 두 가지 서로 다른 유형의 입자 검출기에 테스트했습니다. 첫 번째는 미세한 전기 신호의 클러스터를 계수함으로써 하전 입자의 경로를 추적하는 드리프트 챔버(drift chamber)였습니다. 두 번째는 입자가 생성하는 빛의 특정 혼합물을 분석하여 입자의 에너지를 측정하는 듀얼 리드아웃 칼로리미터(dual-readout calorimeter)였습니다. 두 경우 모두 목표는 가공되지 않은 파형 데이터로부터 정밀한 물리 정보를 추출하는 것이었습니다. 연구진은 먼저 거대한 파운데이션 모델을 "교사(teacher)"로 미세 조정하여, 이 모델이 특정 물리 문제를 해결하도록 가르쳤습니다. 그런 다음 훨씬 작고 단순한 모델, 즉 "학생(student)" 모델들이 교사의 행동을 모방하도록 학습시켰습니다. 결정적으로, 이 학생 모델들은 고속 전자 공학에 흔히 사용되는 유형의 재구성 가능한 하드웨어 칩인 FPGA(field-programmable gate arrays)와 호환되도록 설계되었습니다. 연구팀은 중복된 연결을 제거하고 사용하는 숫자를 단순화함으로써 이 모델들을 더욱 압축하였고, 이를 통해 검출기의 프런트엔드 전자 장치의 엄격한 메모리 및 속도 제한 내에 들어갈 수 있도록 보장했습니다.

이 시뮬레이션의 결과는 놀라웠습니다. 미세 조정된 거대 파운데이션 모델은 전체 학습 데이터가 주어졌을 때 이전의 모든 방법보다 뛰어난 성능을 보였으며, 이는 사전 학습된 AI로 시작하는 것이 정확도에 상당한 상승 효과를 제공한다는 것을 입증했습니다. 더 중요한 것은, 작고 압축된 학생 모델들이 이 특정 작업들을 위해 특별히 설계된 기존의 최선책들과 대등하거나 혹은 더 나은 성능을 보였다는 점입니다. 아마도 가장 유의미한 점은, 증류된 학생 모델들이 훨씬 더 빠르게 학습했다는 것입니다. 연구진이 학생 모델에게 가용 데이터의 아주 일부만을 제공했을 때도 높은 성능을 달성한 반 반면, 처음부터 학습된 모델들은 동일한 정확도에 도달하기 위해 전체 데이터셋이 필요했습니다. 실제로, 데이터의 10%만으로 학습된 학생 모델이 100%로 학습된 모델의 성능과 일치했습니다. 이는 향ales 실험에서 초기 설계 단계 중에 라벨링된 방대한 양의 데이터를 사용할 수 없을 때, 이 방법이 신뢰할 수 있는 데이터 필터를 개발하는 데 필요한 시간과 자원을 획기적으로 줄여줄 수 있음을 시사합니다.

마지막 단계는 이 소프트웨어 모델들을 하드웨어 명령어로 변환하는 과정이었습니다. 연구팀은 압축된 학생 모델들을 FPGA 칩 설계를 위한 명령어로 성공적으로 합성했습니다. 이 설계들은 매우 효율적이어서, 별도의 디지털 신호 프로세서(DSP)를 필요로 하지 않으면서도 단 25나노초(nanoseconds)의 지연 시간(latency)으로 작동했습니다. 이 속도는 입자들이 수십 나노초마다 교차하는 미래의 입자 가속기에서 예상되는 급격한 충돌 속도를 따라잡기에 충분합니다. 이 연구는 산업 규모의 AI가 가진 거대한 힘을 검출기 칩에 들어갈 만큼 작은 형태로 증류하여, 복잡한 물리 작업을 실시간으로 수행하는 것이 가능하다는 것을 확인해 줍니다. 현재 이 결과들은 컴퓨터 시뮬레이션을 기반으로 하고 있지만, 이는 명확한 진로를 제시합니다. 사전 학습된 모델과 스마트한 하드웨어 설계를 활용함으로써, 과학자들은 곧 자신들의 검출기에 아원자 세계의 혼돈 속을 전례 없는 속도와 정밀도로 헤쳐 나갈 수 있는 지능형 시스템을 갖추게 될지도 모릅니다.