Spectral Data-cube Cleaning for CCAT Deep Spectroscopic Survey. I. Effect of correlated noise and filtering on the power spectrum

폭풍우가 몰아치는 붐비는 경기장에서 단 하나의 희미한 속삭임을 들으려고 노력하는 모습을 상상해 보십시오. 그것이 본질적으로 초기 우주를 지도화하려는 천문학자들이 직면한 과제입니다. 그들은 수십억 년 전, 즉 '재이온화 시대(Epoch of Reionization)'라고 알려진 시기에 형성된 고대 은하들이 방출하는 특정한 종류의 '빛'(전파)을 찾고 있습니다. 이 속삭임을 포착하기 위해 그들은 초정밀 검출기가 장착된 거대 망원경을 사용합니다. 하지만 우리 머리 위의 대기는 끊임없이 바스락거리고 쉿쉿거리는 소리를 내며 신호를 가로막는, 마치 소란스럽고 요동치는 수증기 바다와 같습니다. 이 '노이즈'는 무작위적인 것이 아닙니다. 이는 시간이 지남에 따라 천천히 변하는 저주파의 웅성거림이며, 이 때문에 실제 신호와 분리하기가 매우 어렵습니다. 이를 해결하기 위해 과학자들은 '선 강도 매핑(Line-Intensity Mapping, LIM)'이라는 기술을 사용합니다. 개별적인 먼 은하들의 선명한 사진을 찍으려고 노력하는 대신(너무 희미해서 명확히 볼 수 없기 때문입니다), 그들은 하늘의 한 구역에서 결합된 모든 은하의 총체적인 빛을 측정합니다. 이것은 마치 한 사람의 목소리를 들으려 하기보다 군중의 집단적인 웅성거림을 듣는 것과 같습니다. 목표는 우주의 구조를 3D 지도로 만들어, 우주가 젊었을 때 별과 가스가 어떻게 분포되어 있었는지 밝혀내는 것입니다.

이 논문은 그 노이즈가 섞인 데이터를 정화하는 까다로운 작업을 다룹니다. 저자들은 프레드 영 서브밀리미터 망원경(FYST)에 장착될 미래의 기기인 EoR-Spec으로부터의 관측을 시뮬레이션했습니다. 그들은 '필터 앤 빈(Filter-and-Bin, F&B)'이라고 부르는 특정 정화 도구 세트가 코스믹 신호를 실수로 버리지 않으면서 대기 노이즈를 성공적으로 제거할 수 있는지 확인하고자 했습니다. 데이터를 진흙탕물이라고 생각한다면, 이 파이프라인은 노이즈(진흙)는 제거하면서 신호(금 덩어리)는 유지하도록 설계된 일련의 체와 필터입니다. 연구팀은 이 파이프라인을 테스트하기 위해 수천 번의 컴퓨터 시뮬레이션을 실행했습니다. 그들은 F&B 파이프라인이 저주파의 대기 웅성거림을 제거하는 데 매우 효과적이며, 이를 약 10,000배 정도 줄여준다는 것을 발견했습니다. 그러나 강력한 필터에는 항상 부작용이 따르듯, 이 파이프라인은 데이터의 가장 크고 넓게 퍼진 패턴을 매끄럽게 만드는 경향이 있습니다. 결과는 이 방법이 우주의 '알갱이(grainy)' 같은 세부 사항(개별 은하가 노이즈에 기여하는 부분)을 탐지하는 데는 완벽하지만, 매끄럽고 거대한 규모의 구조를 복원하는 데는 어려움이 있다는 것을 시사합니다. 하지만 가스와 별의 혼돈스럽고 작은 규모의 밀집(clustering)을 측정하는 '샷 노이즈(shot-noise)' 영역을 측정하려는 구체적인 목표에 있어서는, 이 파이프라인은 아름답게 작동하며 곧 진행될 조사가 초기 우주의 탄소와 일산화탄소의 결합된 빛을 탐지할 수 있음을 약속합니다.

우주의 속삭임 이야기

설정: 소음이 가득한 우주
당신이 희미한 라디오 방송을 들으려고 하는데, 당신의 라디오가 공기 자체가 정전기로 웅웅거리는 방 안에 있다고 상상해 보십시오. 천문학에서 이 정전기는 지구의 대기, 특히 수증기에서 옵니다. 망원경이 하늘을 올려다볼 때, 단순히 별만을 보는 것이 아니라 요동치며 저주파 노이즈인 $1/f$ 노이즈를 만들어내는 대기의 '호흡'을 보게 됩니다. 이 노이즈는 천문학자들이 측정하려는 느리고 거대한 규모의 변화와 유사하기 때문에 까다롭습니다. 만약 이를 정화하지 않는다면, 당신의 우주 지도는 그저 대기 현상으로 인한 흐릿한 덩어리로 보일 것입니다.

도구: 필터 앤 빈(Filter-and-Bin) 파이프라인
이를 해결하기 위해 저자들은 '필터 앤 빈(F&B)'이라 불리는 디지털 정화 팀을 설계했습니다. 그들은 가상 망원경 역할을 하는 거대한 컴퓨터 시뮬레이션을 사용하여 이 팀을 테스트했습니다. 그들은 원하는 신호(탄소와 일산화탄소 가스의 빛)와 성가신 대기 노이즈가 포함된 가상의 우주를 시뮬레이션에 입력했습니다. 그런 다음, 데이터를 네 가지 뚜렷한 정화 단계를 거치게 했습니다:

1. 다항식 디트렌딩(Polynomial De-trending): 먼저, 흔들리는 탁자 다리를 평평하게 만드는 것처럼 데이터의 느리고 게으른 드리프트(drift)를 제거했습니다.
2. 스캔 동기 보정(Scan-Synchronous Correction): 다음으로, 망원경이 앞뒤로 움직이면서 발생하는 패턴을 수정했습니다. 이것은 마치 고개를 돌릴 때마다 정전기가 더 크게 들린다는 것을 깨닫고, 그 특정 패턴을 빼는 것과 같습니다.
3. 공통 모드 차감(Common-Mode Subtraction): 대기 노이즈는 모든 검출기에 동시에 영향을 미치므로, 그들은 '평균 노이즈'를 계산하여 각자의 데이터에서 뺐습니다. 이것은 합창단 지휘자가 모두에게 똑같은 배경음을 멈추라고 요청하는 것과 같습니다.
4. PCA 필터링(PCA Filtering): 마지막으로, 그들은 주성분 분석(Principal Component Analysis, PCA)이라는 스마트한 수학적 기법을 사용하여 다른 단계에서 놓친 남은 끈질긴 패턴들을 찾아 제거했습니다. 그들은 상위 세 개의 '패턴' 형태의 노이즈를 제거하여, 대부분 무해하고 무작위적인 정전기만을 남겼습니다.

결과: 결함이 있는 깨끗한 신호
시뮬레이션 결과, 이 정화 팀은 큰 성공을 거두었습니다. 가장 낮은 주파수(가장 느리고 짜증 나는 웅성거림)에서, 파이프라인은 노이즈를 약 4개 차수(즉, 10,000배 더 조용하게!) 감소시켰습니다. 남은 데이터는 거의 완벽하게 무작위적인 백색 잡음(white noise)처럼 보였으며, 이는 깨끗한 측정을 위해 정확히 원하는 상태입니다.

하지만 트레이드오프(trade-off)가 존재합니다. 체가 모래는 통과시키되 자갈은 막는 것처럼, 이 파이프라인은 작고 세밀한 신호는 통과시키지만 매우 크고 매끄러운 파동은 차단합니다. 저자들은 파동수 $k$가 0.5 Mpc$^{-1}$보다 큰 작은 규모의 세부 사항에 대해서는 파이프라인이 신호의 80% 이상을 온전히 유지한다는 것을 발견했습니다. 그러나 가장 크고 넓게 퍼진 구조(즉, $k$가 0.1 Mpc$^{-1}$ 미만인 경우)에 대해서는, 파이프라인이 신호를 너무 많이 억제하여 20% 미만만이 남게 됩니다.

이것이 미래에 의미하는 바
이 논문은 이 F&B 파이프라인이 CCAT 심층 분광 조사(Deep Spectroscopic Survey, DSS)가 계획하고 있는 작업에 적합한 도구라고 결론짓습니다. 이 조사는 우주가 훨씬 젊었던 시기인 적색편이(redshift) 3.5에서 8.0 사이의 우주를 지도화하는 것을 목표로 합니다. 시뮬레이션에서 연구진은 단일 망원경 모듈이 **50%**의 효율로 작동할 때 작은 규모의 신호를 탐지할 수 있음을 발견했습니다. 만약 두 개의 모듈을 100% 효율로 사용한다면, 그들이 보고자 하는 모든 규모에서 신호를 탐지할 수 있습니다.

저자들은 이 파이프라인이 '샷 노이즈(shot-noise)' 영역(가스와 별의 혼돈스럽고 작은 규모의 밀집)에는 훌륭하지만, 우주의 매끄럽고 거대한 구조를 측정하는 데는 최선이 아니라는 점을 주의 깊게 언급했습니다. 이를 위해서는 향후 더 발전된 방법이 필요할 것입니다. 하지만 현재로서는, 이 파이프라인이 폭풍을 걸러내어 초기 우주의 속삭임을 드디어 들을 수 있게 해주는 견고하고 신뢰할 수 있는 방법을 제공합니다.