Application of the Allan Variance to Time Series Analysis in Astrometry and Geodesy: A Review

이 논문은 시계열 분석에 널리 사용되는 올랜 분산 (AVAR) 의 한계를 극복하기 위해 가중치와 다차원 데이터를 처리할 수 있도록 개선된 변형 방법들 (WAVAR, MAVAR, WMAVAR) 을 소개하고, 이를 천문측지학 시계열 데이터 처리에 적용한 경험에 대한 검토를 제공합니다.

핵심

🌍 1. 문제 상황: "지구의 소음"을 어떻게 측정할까?

천문학자와 측지학자들은 지구의 자전, 위성의 위치, 별의 위치 등을 매우 정밀하게 측정합니다. 하지만 이 데이터에는 항상 **'소음 (Noise)'**이 섞여 있습니다. 마치 라디오를 틀었을 때 잡음이 섞여 들리는 것처럼요.

• 기존의 방법 (WRMS): 예전에는 이 소음의 크기를 재기 위해 '평균 편차' 같은 방법을 썼습니다. 하지만 이 방법은 **장기적인 추세 (예: 지구가 서서히 변하는 경향)**나 **계절적 변화 (여름과 겨울의 차이)**에 너무 민감합니다.

  • 비유: "오늘의 기온이 평균보다 5 도 높았어!"라고 외치지만, 사실은 겨울이 와서 전체적으로 기온이 내려간 것일 뿐인데, 그걸 소음으로 오해하는 것과 같습니다.

• 아란 분산 (AVAR) 의 등장: 50 년 전 주파수 표준을 위해 개발된 이 도구는 장기적인 추세나 잡음에 덜 민감하게 설계되었습니다.

  • 비유: 시계 두 개를 비교할 때, "하루 종일 시계가 얼마나 흔들리는지"만 집중해서 봅니다. 시계가 하루에 1 분씩 늦어지는 경향 (추세) 이 있더라도, 그 흔들림의 '불안정성'만 정확히 잡아냅니다.

🛠️ 2. 새로운 도구들: "무거운 짐"과 "3 차원 공간"을 위한 업그레이드

하지만 천문학과 측지학 데이터는 단순한 시계 데이터보다 훨씬 복잡합니다. 그래서 논문은 AVAR 를 더 발전시킨 세 가지 도구를 제안합니다.

① 가중치 아란 분산 (WAVAR): "신뢰도 높은 데이터에 더 큰 점수 주기"

• 문제: 모든 측정 데이터가 같은 정확도를 가지는 게 아닙니다. 어떤 데이터는 측정 오차가 크고 (신뢰도 낮음), 어떤 데이터는 매우 정확합니다 (신뢰도 높음).
• 해결: WAVAR 는 **신뢰도가 높은 데이터에 더 큰 '가중치 (Weight)'**를 줍니다.
  • 비유: 시험을 치를 때, 평소 성적이 좋은 학생의 답안에는 100 점 만점을 주고, 성적이 불안정한 학생의 답안에는 50 점만 주는 식으로 평균을 내는 것입니다. 이렇게 하면 이상한 데이터 (이상치) 가 전체 결과를 망치는 것을 막을 수 있습니다.

② 다차원 아란 분산 (MAVAR): "점 하나가 아니라 '공간'을 보는 눈"

• 문제: 지구의 위치나 별의 위치는 X, Y, Z 좌표처럼 3 차원 벡터로 표현됩니다. X 좌표만 따로 보면 의미가 반감될 수 있습니다.
• 해결: MAVAR 는 X, Y, Z 를 하나의 '공간 점'으로 묶어서 분석합니다.
  • 비유: "이 사람이 북쪽으로 1 미터, 동쪽으로 1 미터 갔다"라고 따로따로 재는 게 아니라, **"이 사람이 원래 자리에서 얼마나 멀리 (직선 거리) 떨어졌는지"**를 한 번에 재는 것입니다.

③ 가중 다차원 아란 분산 (WMAVAR): "최고의 만능 도구"

• 해결: 위의 두 가지 장점을 모두 합친 것입니다. 신뢰도가 다른 3 차원 데이터를 한 번에 분석할 수 있는 최고의 도구입니다.
  • 비유: 신뢰도가 다른 여러 명의 3 차원 공간에서 움직이는 로봇들의 움직임을, 각 로봇의 신뢰도에 맞춰서 한 번에 분석하는 '슈퍼 분석가'입니다.

📊 3. 실제 적용 사례: 이 도구들이 무엇을 찾아냈을까?

이 논문은 이 도구들이 실제로 어떻게 쓰였는지 몇 가지 예를 들었습니다.

• 별자리 지도 (천구 기준계) 의 정확도 확인:

  • 별들의 위치를 담은 '별자리 지도'가 얼마나 정확한지 비교했습니다. 기존 방법은 지도의 장기적인 오류 때문에 정확도를 재기 힘들었는데, AVAR 를 쓰니 **어떤 지도가 더 흔들림이 적은지 (소음이 적은지)**를 명확하게 찾아냈습니다.
  • 결과: 새로운 'ICRF2' 지도가 구형인 'ICRF1'보다 훨씬 정밀하다는 것을 증명했습니다.

• 지구의 자전 (EOP) 분석:

  • 지구의 자전축이 어떻게 흔들리는지 분석할 때, 계절적 변화나 장기적인 경향을 제거하고 순수한 자전 불안정성만 찾아냈습니다. 이는 지구의 내부 구조나 기후 변화 연구에 중요한 정보를 줍니다.

• 데이터의 '소음 종류' 파악:

  • 데이터에 섞인 소음이 '흰색 소음 (무작위)'인지, '깜빡이는 소음 (Flicker noise)'인지 등을 구별해 냈습니다.
  • 비유: 소음의 종류를 알면, "이 데이터는 그냥 무작위 실수인가, 아니면 시스템 고장인가?"를 판단할 수 있어, 앞으로 데이터를 어떻게 처리할지 전략을 세울 수 있습니다.

💡 4. 결론: 왜 이 논문이 중요한가?

이 논문은 **"기존의 통계 도구로는 해결하기 어려운 복잡한 천문/측지 데이터를 분석할 때, AVAR 와 그 변형 도구 (WAVAR, MAVAR, WMAVAR) 가 훨씬 더 강력하고 정확한 결과를 준다"**는 것을 보여줍니다.

• 장점: 장기적인 경향이나 계절적 변화에 휘둘리지 않고, 데이터의 신뢰도에 따라 유연하게 분석할 수 있습니다.
• 한계: 데이터에 갑자기 큰 점프 (Jump) 가 생기거나, 데이터 간격이 불규칙할 때는 여전히 주의가 필요합니다.

한 줄 요약:

"지구의 움직임과 별의 위치를 측정할 때 생기는 복잡한 '소음'을 정확히 구별하고 제거하기 위해, **신뢰도와 3 차원 공간을 고려한 똑똑한 통계 도구 (AVAR 변형들)**를 개발하고 검증했다."

이 도구를 통해 우리는 지구의 자전, 별의 위치, 그리고 지구 내부의 변화를 더 정확하게 이해할 수 있게 되었습니다.

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 전통적 방법의 한계: 물리 측정 시계열의 잡음 특성을 평가하는 데 있어 올런 분산 (Allan Variance, AVAR) 은 주파수 표준의 불안정성을 평가하기 위해 50 년 전 도입된 강력한 통계 도구입니다. 그러나 천문측지학 (Astrometry) 과 측지학 (Geodesy) 분야에서는 기존 AVAR 의 직접적인 적용에 한계가 존재합니다.
  • 불균등한 오차 (Unequal Uncertainties): 시계계 (Clock) 비교와 달리, 측지 및 천문 관측 데이터는 각 데이터 포인트마다 다른 수준의 불확실성 (오차) 을 가집니다. 기존 AVAR 는 모든 측정값이 동일한 정밀도를 가진다고 가정하므로, 적절한 가중치 (Weighting) 적용이 필요합니다.
  • 다차원 데이터 (Multi-dimensional Data): 천체 좌표 (적경, 적위) 나 관측소 좌표 (X, Y, Z) 와 같이 물리적으로 연관된 스칼라 시계열이 다차원 벡터를 형성하는 경우가 많습니다. 기존 AVAR 는 이러한 다차원 벡터 데이터를 처리하도록 설계되지 않았습니다.
  • 비정상성 (Non-stationarity): 관측 데이터에는 계단형 점프 (jumps) 나 불연속적인 오차 변화가 발생할 수 있으며, 이는 기존 통계량 (STD, WRMS 등) 이나 표준 AVAR 의 신뢰성을 떨어뜨립니다.

2. 방법론 (Methodology)

저자는 기존 AVAR 의 결함을 보완하기 위해 다음과 같은 변형된 통계량을 제안하고 그 적용 사례를 검토합니다.

• 가중 올런 분산 (Weighted AVAR, WAVAR):

  • 불균등한 오차를 가진 데이터 ($s_i$) 를 처리하기 위해 각 데이터 포인트에 가중치 ($p_i$) 를 부여합니다.
  • 공식: $WAVAR = \frac{1}{2p} \sum_{i=1}^{n-1} p_i (y_i - y_{i+1})^2$, 여기서 $p_i = (s_i^2 + s_{i+1}^2)^{-1}$.
  • 효과: 이상치 (Outliers) 가 존재할 때, 특히 이상치의 불확실성이 클 경우 기존 ADEV 보다 더 강건한 (Robust) 잡음 추정을 제공합니다.

• 다차원 올런 분산 (Multi-dimensional AVAR, MAVAR) 및 가중 다차원 올런 분산 (WMAVAR):

  • $k$ 차원 벡터 데이터 ($y_i$) 를 처리하기 위해 인접한 측정값 간의 유클리드 거리 ($d_i$) 를 사용합니다.
  • WMAVAR 공식: $WMAVAR = \frac{1}{2p} \sum_{i=1}^{n-1} p_i d_i^2$.
  • 가중치 $p_i$ 는 고전적인 오차 전파 법칙에서 유도되나, $d_i=0$ 인 경우 특이점 (Singular) 이 발생하는 문제를 해결하기 위해 단순화된 공식을 제안합니다.
  • 특징: WMAVAR 은 AVAR, WAVAR, MAVAR 을 모두 포함하는 보편적인 정의이며, 3D 좌표 (X, Y, Z) 나 2D 천체 위치 (적경, 적위) 분석에 효과적입니다.

• 동적 올런 분산 (Dynamic AVAR, DAVAR):

  • 시계열의 잡음 특성이 시간에 따라 변하는 비정상성 (Non-stationary) 데이터를 분석하기 위해 슬라이딩 윈도우를 사용하여 시간별 AVAR 을 계산합니다.

• 잡음 스펙트럼 분석:

  • AVAR 을 로그 - 로그 스케일 ($\log(\sigma^2)$ vs $\log(\tau)$) 로 분석하여 지배적인 잡음 유형 (White noise, Flicker noise, Random walk 등) 을 식별하고, 이를 통해 관측소 속도 불확실성 계산이나 공분산 행렬 구성에 활용합니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

논문은 AVAR 및 그 변형들이 천문측지학 분야에서 어떻게 적용되었는지를 구체적인 사례를 통해 입증합니다.

• 천체 기준 좌표계 (CRF) 의 정밀도 평가:

  • ICRF 비교: ICRF1 과 ICRF2, 그리고 풀코보 관측소의 RSC(PUL)07C02 카탈로그 간의 정밀도를 비교했습니다.
  • 결과: 천체 극 편차 (CPO) 시계열의 잡음 수준을 WAVAR/WMAVAR 로 평가한 결과, ICRF2 가 ICRF1 보다 정밀도가 높음을 독립적으로 확인했습니다. 또한, 풀코보 카탈로그가 ICRF1 보다 더 낮은 잡음 수준을 보여 더 정확함을 시사했습니다.
  • 의의: WRMS(가중 평균 제곱근) 는 저주파 성분 (예: 프리세션 - 너테이션 모델 오차) 에 크게 의존하는 반면, AVAR 기반 지표는 모델 의존성이 낮아 CRF 카탈로그 품질 평가에 더 적합한 외부 지표로 작용합니다.

• 지상 관측소 위치 및 기선 길이 분석:

  • GPS, VLBI, SLR, DORIS 등 다양한 우주 측지 기법으로 얻은 관측소 좌표 시계열을 분석했습니다.
  • 잡음 특성: VLBI, SLR, DORIS 데이터는 주로 White noise를 보이지만, GPS 관측소 운동의 대부분은 Flicker noise가 우세함을 발견했습니다.
  • 계절적 변동 제거: AVAR 은 계절적 변동이나 장기적인 추세를 제거하는 모델링 없이도 잡음 수준을 직접 추정할 수 있어, 복잡한 모델링이 필요한 WRMS 분석보다 효율적입니다.

• 지구 자전 매개변수 (EOP) 분석:

  • IERS(국제 지구 자전 및 기준 좌표계 서비스) 와 IVS(국제 VLBI 측지 및 천문학 서비스) 에서 EOP 시계열을 결합할 때 AVAR 을 사용하여 각 시계열의 내부 무작위 편차를 특성화하고 가중치를 부여했습니다.
  • CPO(천체 극 편차) 분석에서 WADEV 는 이상치의 영향을 크게 줄여주며, 2D WMADEV 는 dX 와 dY 의 평균 WADEV 에 $\sqrt{2}$를 곱한 값과 유사한 결과를 보여 다차원 분석의 효율성을 입증했습니다.

4. 의의 및 결론 (Significance & Conclusion)

• 강건한 잡음 평가 도구: AVAR 및 그 변형 (WAVAR, WMAVAR) 은 저주파 신호 변동 (트렌드, 계절성) 에 대한 민감도가 낮아, 시스템적 오차 모델링의 불확실성이 큰 천문측지학 데이터 분석에 매우 유용합니다.
• 다차원 및 불균등 데이터 처리: WMAVAR 은 불균등한 오차를 가진 다차원 벡터 데이터를 통합적으로 분석할 수 있는 표준화된 방법을 제공합니다.
• 잡음 유형 식별: 시계열의 주파수 대역별 잡음 특성 (White, Flicker, Random walk 등) 을 식별하여, 관측소 속도 계산의 불확실성 추정이나 데이터 처리 알고리즘 최적화에 필수적인 정보를 제공합니다.
• 한계 및 향후 과제:
  • 간격이 불규칙한 데이터 (Gaps) 처리를 위해 'Normal points' 생성이나 데이터 보간 기법이 필요할 수 있습니다.
  • 측정치 간의 상관관계가 통계 분석 결과를 왜곡할 수 있으므로 이에 대한 추가 연구가 필요합니다.
  • 시계열에 갑작스러운 점프 (Jumps) 가 발생하면 AVAR 도 오차를 과대평가할 수 있으므로 주의가 필요합니다.

종합: 이 논문은 올런 분산이 천문측지학 분야에서 단순한 산포도 측정을 넘어, 데이터의 잡음 특성을 정량화하고 기준 좌표계의 품질을 평가하며 지구 동역학을 연구하는 데 있어 필수적인 통계 도구임을 입증합니다. 특히 가중치와 다차원성을 고려한 변형된 AVAR 은 현대 측지 및 천문 데이터 분석의 표준으로 자리 잡을 잠재력을 가지고 있습니다.