Search for Planetary-mass Black Holes with an Improved Viterbi Algorithm

우주가 거대한 우주적 대양이라고 상상해 보세요. 그 깊은 곳에는 블랙홀이라는 이름의 보이지 않는 괴물들이 숨어 있습니다. 오랫동안 과학자들은 이 괴물들이 별 크기만큼 크거나 혹은 그보다 더 클 것이라고 생각했습니다. 하지만 최근 한 새로운 이론은 훨씬 작은, 어떤 것은 행성이나 소행성만큼 가벼운 블랙홀들이라는 숨겨진 인구 전체가 존재할 수 있다고 제안합니다. 이들은 '원시 블랙홀(primordial black holes)'이라 불리며, 별이 존재하기도 전인 우주의 아주 초기 순간에 태어났습니다. 만약 우리가 이들을 찾아낼 수 있다면, 물리학의 가장 큰 미스터리 중 하나인 '암흑 물질(dark matter)'이 무엇인지 해결할 열쇠를 쥐게 될지도 모릅니다. 암흑 물질은 은하를 하나로 묶어주는 보이지 않는 물질이지만, 우리는 그것을 볼 수 없습니다. 만약 이 작은 블랙홀들이 암흑 물질이라면, 이들을 찾는 것은 우리가 우주에 대해 알고 있는 모든 것을 바꿀 것입니다.

이 보이지 않는 유령들을 찾기 위해, 과학자들은 두 개의 블랙홀이 서로를 향해 춤추듯 다가와 결국 충돌할 때 발생하는 시공간의 물결인 '중력파'에 귀를 기울입니다. 보통 커다란 블랙홀들이 병합될 때는 1초도 안 되는 아주 짧은 시간 동안 빠른 "짹(chirp)" 소리를 냅니다. 하지만 우리가 찾고 있는 행성 질량의 블랙홀처럼 아주 작다면, 그들의 춤은 믿을 수 없을 정도로 느립니다. 그들은 몇 달 또는 몇 년 동안 서로를 향해 나선형으로 회전하며, 우주의 정적 속에서 거의 들리지 않을 정도로 매우 희미하고 길고 느린 소리를 낼 수 있습니다. 이는 마치 허리케인 속에서 떨어지는 물방울 하나를 들으려고 노력하는 것과 같습니다.

여기서 한 연구팀이 영리한 새로운 기술을 들고 등장합니다. 그들은 이 행성 질량의 블랙홀들을 추적하기 위해 특별히 설계된 디지털 탐정 도구를 만들었습니다. 이 도구는 빠른 폭발을 찾는 대신, 시간이 흐름에 따라 음조가 천천히 변하는 길고 늘어진 속삭임을 듣습니다. 그들은 이 도구를 (우주의 소리를 듣는 거대한 귀인) LIGO 관측소의 실제 데이터로 테스트했으며, 그것이 작동한다는 것을 발견했습니다. 이 도구는 신호가 매우 멀리 떨어져 있을 때도 이를 포착할 수 있으며, 심지어 그들의 노래를 듣는 것만으로 블랙홀이 얼마나 무거운지 추측할 수도 있습니다. 아직 실제 행성 질량 블랙홀을 발견한 것은 아니지만, 그들은 이 방법이 만약 존재한다면 그것을 찾아낼 준비가 되었음을 증명했습니다.

---

위대한 우주적 짹 소리 찾기

라디오에서 특정 노래를 찾으려는데, 잡음이 가득하고 노래가 너무 느리게 연주되어 한 절을 끝내는 데만 몇 시간이 걸린다고 상상해 보세요. 그것이 과학자들이 행성만큼 가벼운 **원시 블랙홀(PBH)**을 찾을 때 직면하는 도전입니다. 이 작은 블랙홀들은 만약 존재한다면, 병합되기 전까지 몇 달 또는 몇 년 동안 서로를 돌고 있을 것입니다. 그들의 신호는 음조가 서서히 높아지는 "짹(chirp)" 소리이지만, 너무 가볍기 때문에 그 짹 소리는 믿을 수 없을 정도로 길고 희미하여 우주의 소음에 묻혀버립니다.

오랫동안 과학자들에게는 블랙홀을 듣는 두 가지 주요 방법이 있었습니다. '매칭 필터링(matched filtering)'이라 불리는 한 방법은 가능한 모든 노래가 담긴 도서관을 가지고 하나씩 대조해보는 것과 같습니다. 하지만 이 작은 느린 블랙홀들의 경우, 노래가 너무 길어서 도서관에 수십억 개의 항목이 있어야 하므로 현재의 컴퓨터로는 검색이 불가능합니다. 또 다른 방법인 '연속파(continuous wave)' 탐색은 일정하고 변하지 않는 소리에는 훌륭하지만, 이 블랙홀들은 아주 천천히 변하는 음조를 가지고 있습니다. 그들은 이 두 방법 사이의 중간 지점에 끼어 있어, 이러한 "중간적" 신호를 잡아내지 못하고 갇혀 있었습니다.

비터비 탐정 (The Viterbi Detective)

라우울 로드리게스(Raúl Rodríguez)와 그의 팀이 이끄는 저자들은 새로운 종류의 탐정인 **비터비 알고리즘(Viterbi algorithm)**을 만들기로 했습니다. 이 알고리즘을 안개가 자욱한 산을 오르는 가장 좋은 경로를 찾는 아주 똑똑한 등산객이라고 생각해 보세요. 산은 안개(소음)로 덮여 있고, 등산객이 갈 수 있는 수많은 가능한 경로(트랙)가 있습니다. 등산객은 신호(블랙홀)가 정확히 어떤 경로를 지나갔는지는 모르지만, 그 경로가 보여야 할 일반적인 규칙은 알고 있습니다.

비터비 알고리즘은 노이즈가 섞인 데이터 속에서 신호가 지나갔을 법한 모든 가능한 경로를 살펴보고, 가장 실현 가능성이 높은 경로를 선택합니다. 이는 마치 형사가 어지러운 범죄 현장을 보고 무작위적인 방해 요소들을 무시한 채 가장 논리적인 사건의 순서를 파악하는 것과 같습니다. 연구팀은 이미 안정적인 신호를 찾는 데 알려진 SOAP라는 소프트웨어 패키지를 사용했지만, 이 길고 느린 짹 소리를 처리할 수 있도록 이를 수정했습니다.

소리를 보는 새로운 방법

데이터를 보는 기존 방식의 가장 큰 문제는 그들이 사용하는 지도였습니다. 보통 과학자들은 시간은 아래에, 음조는 옆에 배치된 악보와 같은 '스펙트로그램(spectrogram)'을 봅니다. 느린 블랙홀의 경우, 신호는 점점 더 가팔라지는 곡선 형태로 나타납니다. 형태가 크게 변하는 곡선을 따라가는 것은 어렵습니다.

연구팀은 기발한 아이디어를 냈습니다: 음악을 다시 매핑하는 것입니다. 그들은 음조를 표현하는 방식을 바꾸었습니다. 음조를 직접 그리는 대신, 특별한 수학적 버전의 음조(구체적으로 음조의 -8/3 승)를 그렸습니다. 이렇게 하자 블랙홀의 노래가 그리는 지저분하고 휘어진 선이 완벽하게 직선으로 변했습니다!

지도의 굽이치는 강줄기를 따라가는 것을 상상해 보세요. 혼란스러울 것입니다. 하지만 만약 그 강줄기를 마법처럼 직선으로 펼칠 수 있다면, 그 흐름을 따라가기가 매우 쉬워질 것입니다. 이 새로운 지도는 신호를 직선으로 보이게 만들었으며, 이는 비터비 알고리즘이 추적하기 훨씬 쉽게 만들었습니다. 또한, 이 직선의 기울기는 블랙홀이 얼마나 무거운지(차프 질량, chirp mass라고 불리는 특성)를 정확히 알려주었습니다.

2단계 필터

알고리즘이 잠재적인 직선을 찾아냈을 때, 팀은 즉시 그것을 신뢰하지 않았습니다. 그들은 무작위 소음이 우연히 직선처럼 보일 수도 있다는 것을 알고 있었습니다. 그래서 그들은 진짜 신호와 가짜 신호를 구분하기 위해 2단계 필터를 구축했습니다.

1. 출력 검사 ($n\sigma$): 먼저, "이 선이 진짜가 될 만큼 충분히 큰가?"라고 물었습니다. 그들은 배경 소음에 비해 이 선에 담긴 "에너지(power)"가 얼마나 큰지 측정했습니다. 만약 선이 소음보다 아주 조금 더 클 뿐이라면, 그것은 아마도 일시적인 현상일 것입니다. 만약 유의미하게 더 크다면, 그것은 후보가 됩니다.
2. 형태 검사 (NMSE): 둘째로, "이 선이 정말 블랙홀의 모습인가?"라고 물었습니다. 설령 선이 크더라도, 기계의 결함으로 인해 생긴 이상한 모양일 수 있습니다. 그들은 선이 직선인지, 그리고 블랙홀이 따라야 하는 정확한 수학적 규칙을 따르는지 확인했습니다. 만약 선이 흔들리거나 잘못된 방향으로 휘어진다면, 그들은 그것을 제외했습니다.

이 두 가지 검사를 사용함으로써, 그들은 만약 무언가를 발견한다면 그것이 무작위 소음이 아니라 실제 블랙홀일 것이라고 확신할 수 있었습니다.

대규모 테스트

그들의 새로운 탐정 도구가 실제로 작동하는지 확인하기 위해, 팀은 단순히 추측하지 않고 대규모 시뮬레이션을 실행했습니다. 그들은 LIGO 핸포드(Hanford) 검출기의 실제 데이터(O3b 관측 단계) 약 1,000시간 분량을 가져와서, 그 안에 수백 개의 가짜 행성 질량 블랙홀 신호를 몰래 "주입(inject)"했습니다. 이 가짜 신호들은 실제 블랙홀이 그러하듯 각기 다른 거리와 질량으로 숨겨져 있었습니다.

그들은 이 데이터를 통해 파이프라인을 실행하고 다음과 같이 물었습니다: "우리가 숨겨놓은 가짜 신호들을 찾아낼 수 있는가?"

결과는 인상적이었습니다. 파이프라인은 매우 희미한 신호들까지도 대부분 성공적으로 찾아냈습니다. 구체적으로는 다음과 같습니다:

• 그들은 신호가 가짜 경보(false positive)일 확률이 3% 미만일 때만 신호를 수용한다는 규칙을 세웠습니다.
• 이 규칙 하에서, 그들은 최상의 경우 135,000 파섹(약 135 kpc) 거리까지의 신호를 탐지할 수 있었습니다. 이는 매우 큰 성과인데, 우리 은하 전체와 그 너머까지의 신호를 볼 수 있음을 의미하기 때문입니다.
• 가장 흔한 크기의 작은 블랙홀들(약 $10^{-2}$ 태양 질량)에 대해, 그들은 약 50 kpc 거리까지 95%의 효율로 찾아낼 수 있었습니다.

팀은 또한 이 도구가 블랙홀의 무게를 추측할 수 있는지 확인했습니다. 그들은 성공적으로 찾아낸 신호들에 대해 질량 추정치가 실제 값과 매우 유사하며, 보통 몇 퍼센트 이내의 오차를 보인다는 것을 발견했습니다. 이는 만약 실제 신호를 발견한다면, 그 무게가 얼마인지 즉시 알 수 있다는 점에서 매우 중요합니다.

아직 발견하지 못한 것 (현재로서는)

이 논문은 보물을 찾는 것이 아니라 도구를 만드는 것에 관한 것임을 명시하는 것이 중요합니다. 팀은 실제 행성 질량 블랙홀을 발견했다고 주장하지 않았습니다. 그들은 단지 자신들이 직접 넣은 가짜 신호들을 찾아냄으로써 도구가 작동함을 증명했을 뿐입니다.

또한 작은 한계점도 발견되었습니다: 이 도구는 긴 선으로서 추적할 수 있을 만큼 충분히 "느린" 블랙홀에 가장 잘 작동합니다. 만약 블랙홀이 너무 무거우면(작은 별 크기에 가까우면), 병합 속도가 너무 빨라져 신호가 다시 짧은 폭발 형태가 되며, 이 경우 도구가 찾아내기 어려워집니다. 하지만 이 어려운 범위에서도 도구는 여전히 준수한 성능을 보였습니다.

미래

이 논문은 완전한 "엔드 투 엔드(end-to-end)" 파이프라인을 제공한다는 점에서 중요한 진전입니다. 이 시스템은 원시 데이터를 가져와 처리하고, 최적의 궤적을 찾아내며, 조사할 후보 목록을 제공합니다. 이 코드는 다른 과학자들이 사용할 수 있도록 공개되어 있습니다.

저자들은 향에, 여러 검출기의 데이터를 동시에 살펴봄으로써(이는 지역적 소음을 걸러내는 데 도움이 됩니다) 도구를 개선하거나, 블랙홀의 회전이나 기이한 궤도를 고려하도록 수학적 모델을 조정할 수 있다고 제안합니다. 하지만 현재로서는, 그들은 우주의 가장 조용하고 긴 속삭임이 드디어 우리의 귀에 닿을 수 있는 거리 안에 있음을 보여주었습니다. 만약 이 작은 블랙홀들이 존재하며 우리 은하에 숨어 있다면, 이 새로운 방법은 그들의 목소리를 들을 수 있는 아주 좋은 기회를 제공할 것입니다.