A-GHOST: High-rate streaming of trigger-level data to programmable GPU inference

고에너지 물리학의 세계에서 과학자들은 우주의 근본적인 구성 요소를 밝혀내기 위해 입자들을 빛의 속도에 가깝게 충돌시킵니다. 이러한 충돌은 매우 격렬하고 빈번하게 일어나기 때문에 영구적으로 저장하기에는 너무나 방대한 양의 데이터를 생성합니다. 이 데이터의 홍수를 관리하기 위해 실험들은 '트리거(trigger)'라고 알려진 정교한 필터링 시스템에 의존합니다. 이 시스템은 어떤 충돌 사건이 보관할 만큼 흥미로운지, 그리고 어떤 것이 단순한 소음으로서 버려져야 하는지를 순식간에 결정하는 문지기 역할을 합니다. 수십 년 동안 이 문지기 역할은 매우 빠르지만 경직된 특수 전자 회로에 의해 수행되어 왔습니다. 이 회로들은 고정된 아주 짧은 시간 안에 결정을 내려야 하며, 단순한 계산만을 처리할 수 있습니다. 실험이 더욱 강력해짐에 따라 이들이 생성하는 데이터는 이 경직된 회로가 처리할 수 있는 속도보다 더 빠르게 증가하고 있으며, 이는 잠재적으로 획기적인 발견이 단지 시스템이 따라잡지 못한다는 이유만으로 유실될 수 있는 병목 현상을 초也하고 있습니다.

한 연구팀은 이 문제를 해결할 수 있는 새로운 방법을 시연했습니다. 이는 기존의 빠르고 경직된 문지기를 유지하면서, 그 바로 뒤에 강력하고 유연한 조수를 배치하는 방식입니다. A-GHOST라는 이름의 연구로 발표된 이들의 작업은, 초기 전자 회로가 단순히 무엇을 남길지 결정하는 데 그치지 않고, 모든 충돌의 압축된 요약본을 현대적인 그래픽 프로세서로 스트리밍하는 방법을 탐구합니다. 이 프로세서는 하이엔드 게이밍 및 인공지능용 컴퓨터에서 볼 수 있는 것과 동일한 유형의 칩으로, 기존의 경직된 회로가 관리할 수 있는 것보다 훨씬 더 복잡하고 창의적인 알고리즘을 실행할 수 있습니다. 분석의 무거운 짐을 이 강력한 프로세서로 옮김으로써, 과학자들은 이전에는 불가능했던 속도로 데이터를 분석할 수 있게 되었으며, 이는 기존의 더 단순한 시스템들이 놓쳤을 법한 미세하고 희귀한 현상들을 포착할 수 있는 문을 열어줍니다.

연구진은 고속 컴퓨팅을 위해 설계된 특수 개발 키트를 사용하여 이 아이디어를 테스트하기 위한 프로토타입을 구축했습니다. 실제 실험의 거대한 입자 검출기에 직접 연결하는 대신, 그들은 입자 충돌에서 오는 데이터 스트림을 시뮬레이션하는 제어된 루프를 만들었습니다. 이 시뮬레이션된 스트림은 고속 네트워크 케이블을 통해 전송되어 그래픽 프로세서로 직접 입력되었습니다. 시스템은 데이터를 지연시키는 일반적인 컴퓨터 단계들을 우회하여, 네트워크 카드에서 프로세서의 메모리로 데이터를 직접 보내도록 설계되었습니다. 이를 통해 연구진은 정보를 놓치거나 과부하가 걸리지 않고 데이터가 도착하는 속도에 맞춰 프로세서가 따라올 수 있는지 확인할 수 있었습니다.

데이터를 사용 가능한 형태로 만들기 위해 연구진은 까다로운 퍼즐을 풀어야 했습니다. 데이터는 마치 책의 개별 페이지들이 창문 너머로 하나씩 던져지는 것처럼 작고 파편화된 패킷 형태로 도착합니다. 그러나 데이터를 분석하는 데 사용되는 인공지능 모델들은 효과적으로 작동하기 위해 페이지 전체, 혹은 책의 한 장(chapter) 전체를 한꺼번에 보아야 합니다. 연구진은 들어오는 파편들을 잡아내어 그것들이 도착하는 즉시 완전하고 연속적인 데이터 블록으로 엮어내는 신속한 조립기 역할을 하는 맞춤형 프로그램을 작성했습니다. 이 조립은 프로세서의 메모리 내에서 즉각적으로 이루어졌으며, 이를 통해 데이터를 컴퓨터의 메인 프로세서로 다시 옮기거나 지연될 필요 없이 데이터가 분석 준비를 마칠 수 있도록 보장했습니다.

연구진은 시뮬레이션된 충돌 데이터에서 특이한 패턴을 찾아내도록 설계된 세 가지 유형의 인공지능 모델로 이 시스템을 테스트했습니다. 한 모델은 단일 사건을 관찰했고, 나머지 두 모델은 복잡하고 진화하는 이상 징후를 찾기 위해 시간에 따른 일련의 사건들을 관찰했습니다. 연구진은 데이터를 초당 40에서 100 기가비트 속도로 전송하며 시스템을 한계까지 밀어붙였습니다. 최고 속도에서 시스템은 단 하나의 패킷도 놓치지 않고 거의 모든 데이터를 성공적으로 수신했습니다. 인공지능 모델들은 0.1 밀리초 미만의 지연 시간으로 데이터를 분석할 수 있었는데, 이는 실제 실험에서 사용하기에 충분히 빠른 속도입니다. 시스템은 실패 없이 몇 시간 동안 작동하며, 고속 네트워킹과 강력한 그래픽 프로세싱의 결면이 현대 물리학 실험에서 생성되는 방대한 정보의 흐름을 처리할 수 있음을 증명했습니다.

이 결과가 중요한 이유는 단순히 속도 때문만이 아니라, 그것이 제공하는 유연성 때문입니다. 데이터를 지키는 경직된 회로들은 타이밍 측정과 초기 필터링이라는 본연의 임무를 계속 수행할 수 있지만, 더 이상 무엇이 흥미로운지에 대한 최종 결정권을 가질 필요는 없습니다. 데이터를 프로그래밍 가능한 프로세서로 압축된 요약본을 스트리밍함으로써, 과학자들은 이제 여러 사건에 걸친 패턴을 학습하거나 생성 모델을 사용하여 이상 징후를 포착하는 훨씬 더 정교한 알고리즘을 실행할 수 있습니다. 이러한 작업들은 현재의 경직된 하드웨어로는 너무 어렵거나 느린 작업들입니다. 이 연구는 이러한 새로운 아키텍처가 실행 가능하다는 것을 보여주며, 데이터 흐름이 하드웨어 트리거의 한계에 의해 막히지 않는 경로를 제시하여, 물리학자들이 훨씬 더 날카롭고 적응력 있는 눈으로 우주를 탐구할 수 있게 해줍니다.