📊 statistics

Parameter Estimation for the Vasicek Process with Microstructure Noise

본 논문은 미시구조 노이즈가 존재하는 상황에서 바시첵(Vasicek) 프로세스의 모수를 추정하기 위한 커널 평활법 및 최대우도법을 제안하고 검증하며, 이론적 분석, 수치적 시뮬레이션, 그리고 상하이 증권거래소 데이터를 활용한 실증적 적용을 통해 이 방법들의 강한 일치성과 정확성을 입증한다.

원저자: ShanCao Yang, MengYuan Cao, Dan Liang

게시일 2026-09-02

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: ShanCao Yang, MengYuan Cao, Dan Liang

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

금융의 세계에서 가격은 직선으로 움직이지 않습니다. 가격은 마치 진자가 휴식 지점을 향해 흔들리는 것처럼, 표류하고, 급등하며, 다시 평균으로 되돌아옵니다. 경제학자들은 이러한 행동을 설명하기 위해 바시첵 프로세스(Vasicek process)라는 수학적 모델을 사용하며, 이는 충격 이후 이자율이나 자산 가격이 어떻게 장기 평균으로 회귀하는지를 포착합니다. 이 모델은 옵션 가격을 결정하고 리스크를 측정하는 데 있어 초석이 되지만, 관찰되는 데이터가 기저에 깔린 실체를 완벽하게 반영한다는 중요한 가정에 의존합니다. 그러나 현실 세계에서 금융 데이터는 결코 깨끗하지 않습니다. 트레이더들이 자산을 사고팔 때, 기록된 가격은 거래 실행에 걸리는 시간이나 주문 방식과 같은 거래 메커니즘으로 인해 발생하는 미세하고 무작위적인 오류인 '미시구조 노이즈(microstructure noise)'에 의해 오염됩니다. 이 노이즈는 라디오 신호의 잡음과 같아서, 시장의 진정한 멜로디를 가립니다. 만약 연구자들이 이 잡음을 고려하지 않고 이 노이즈 섞인 신호를 통해 모델을 조정하려 한다면, 가격이 평균으로 회귀하는 속도나 실제 변동성을 잘못 추정하게 됩니다.

광서사범대학교와 유린사범대학교의 연구진은 이 잡음을 뚫고 진정한 신호를 복구할 수 있는 새로운 방법을 개발했습니다. 그들은 5분 단위와 같이 매우 짧은 간격으로 가격 변화를 기록하는 고빈도 데이터(high-frequency data)라고 불리는 특정 유형의 금융 데이터에 집중했습니다. 이 풍부한 데이터는 강력한 힘을 갖지만, 동시에 노이즈 문제를 증폭시키기도 합니다. 연구진은 데이터의 불규칙한 급등을 평균화하는 부드러운 필터 역할을 하는 커널 평활법(kernel smoothing)과 모델의 매개변수에 대한 가장 확률 높은 값을 찾는 통계적 방법인 최대 우도 추정법(maximum likelihood estimation)을 결합하여 이 과제를 해결했습니다. 그들의 목표는 데이터가 지저지고 노이즈가 완벽하게 무작위적이지 않더라도, 그들의 방법이 시장 움직임 뒤에 숨겨진 진정한 수치를 신뢰성 있게 찾아낼 수 있음을 증명하는 것이었습니다.

연구진은 노이즈가 단순히 무작위적인 잡음이 아니라 이전 순간에 의존할 수 있다는 조건, 즉 혼합 의존성(mixing dependence)을 인정하는 수학적 프레임워크를 구축하는 것으로 시작했습니다. 더 쉽게 말하면, 한 순간의 오차가 바로 전 순간의 오차와 약간 관련될 수 있다는 것인데, 이는 기존 모델들이 흔히 간과했던 실제 시장의 특징입니다. 이를 처리하기 위해 그들은 결과값을 왜곡할 수 있는 극단적인 이상치를 효과적으로 무시하는 절단법(truncation)을 사용하였고, 이러한 종속적 시퀀스를 위해 설계된 특정 수학적 부등식을 적용했습니다. 그 후, 그들은 광범위한 컴퓨터 시뮬레이션을 통해 이론을 테스트했습니다. 그들은 진정한 값이 알려진 수천 개의 가짜 시장 시나리오를 생성하고, 다양한 양의 노이즈를 추가한 뒤, 새로운 방법을 사용하여 원래의 값을 복구하려고 시도했습니다.

시뮬레이션 결과는 명확하고 고무적이었습니다. 연구진이 분석하는 데이터의 양을 늘림에 따라, 평균 회귀 속도, 장기 평균 가격, 그리고 시장의 변동성에 대한 추정치는 처음에 설정한 진정한 값으로 점진적으로 수렴했습니다. 또한, 데이터의 노이즈가 감소함에 따라 추정치의 정확도는 향상되었고, 추정치의 불확실성은 줄어들었습니다. 연구 결과, 평균 회귀 속도가 노이즈에 가장 민감한 매개변수로서 정확한 추정을 위해 더 큰 데이터셋을 필요로 하는 반면, 장기 평균은 가장 안정적인 것으로 나타났습니다. 결정적으로, 이 방법은 노이즈가 완벽하게 독립적이지 않은 경우에도 유효했는데, 이는 더 엄격하고 덜 현실적인 가정에 의존했던 이전의 접근 방식들에 비해 상당한 개선입니다.

이 방법이 실제 세상에서도 작동하는지 확인하기 위해, 연구팀은 상하이 종합지수의 실제 시장 데이터에 이 방법을 적용했습니다. 그들은 수개월 동안 수집된 5분 단위 가격 간격을 사용했으며, 이 데이터셋은 견고한 테스트를 제공하기에 충분히 컸습니다. 미시구조 노이즈를 제거하기 위해 원시 가격 데이터를 평활화한 후, 정제된 수치를 모델에 입력했습니다. 결과적인 추정치를 통해 그들은 미래 가격에 대한 예측 모델을 구축할 수 있었습니다. 그들이 만든 예측치를 뒤따르는 실제 시장 가격과 비교했을 때, 모델은 우수한 성능을 보였습니다. 실제 가격은 예측된 불확실성 범위 내에 약 92%의 비율로 머물렀으며, 이는 이론적 기대치와 밀접하게 일치하는 수치였습니다. 이는 이 모델이 과거의 데이터를 단순히 맞추는 것을 넘어, 시장 행동의 본질적인 특징을 포착할 수 있음을 입증했습니다.

이 연구는 노이즈가 완벽하게 무작위적이라고 가정할 필요 없이, 노이즈가 많은 고빈도 금융 데이터로부터 신뢰할 수 있는 통찰력을 추출하는 것이 가능하다는 것을 확인시켜 줍니다. 기존 모델을 제한했던 엄격한 규칙들을 완화함으로써, 연구진은 시장 역학을 이해하기 위한 더욱 견고한 도구를 제공했습니다. 그들의 연구 결과는 적절한 수학적 필터를 사용한다면 현대 거래의 잡음 속에서도 시장의 진정한 리듬을 들을 수 있다는 것을 시사합니다. 이것이 시장이 단순한 의미에서 예측 가능하다는 뜻은 아니지만, 시장의 행동을 측정하는 데 사용되는 도구들이 더욱 정확해질 수 있으며, 금융 가격을 움직이는 힘을 더 명확하게 볼 수 있다는 것을 의미합니다.

기술적 요약: 미세구조 노이즈가 존재하는 바시첵(Vasicek) 과정의 파라미터 추정

문제 정의
고빈도 금융 데이터는 이자율이나 변동성과 같은 변수의 평균 회귀 행동을 모델링하는 데 가치가 높지만, 본질적으로 시장 미세구조 노이즈(microstructure noise)에 의해 오염되어 있다. 이 노이즈는 관측된 과정( $Y_t$ )이 기저에 있는 진정한 바시첵 확산 과정( $X_t$ )으로부터 벗어나게 만든다. 바시첵 과정의 파라미터 추정에 관한 기존 문헌은 노이즈가 독립 항등 분포(i.i.d.)이거나 엄격한 백색 잡음(white noise)이라는 엄격한 가정에 의존하는 경우가 많다. 그러나 실증적 증거에 따르면 미세구조 노이즈는 빈번하게 시계열 의존성, 이분산성 및 비가우시안(non-Gaussian) 특성을 나타낸다. 본 논문은 이전 연구들에서 흔히 볼 수 있었던 단순한 독립성 가정 대신, 보다 현실적인 $\alpha$ -믹싱(alpha-mixing) 의존 구조를 따르는 노이즈 환경에서 파라미터 추정량의 강한 일치성(strong consistency)을 확립하는 이론적 간극을 다룬다.

방법론
저자들은 커널 평활(kernel smoothing)과 최대 가능도 추정법(MLE)을 결합한 2단계 추정 프레임워크를 제안한다:

커널 평활 (디노이징): 미세구조 노이즈( $\epsilon_t$ )의 영향을 완화하기 위해, 관측된 데이터 $Y_{i\Delta_n}$ 는 먼저 커널 평활기를 통해 처리된다. 잠재 과정인 $X_{i\Delta_n}$ 은 인접한 관측값들의 가중 평균으로 추정된다:
$\hat{X}_{i\Delta_n} = \frac{\sum K(\frac{i\Delta_n - j\Delta_n}{h_n}) Y_{j\Delta_n}}{\sum K(\frac{i\Delta_n - k\Delta_n}{h_n})}$
여기서 $K$ 는 커널 함수이고 $h_n$ 은 대역폭(bandwidth)이다. 이 단계의 목적은 파라미터 추정 전에 더 깨끗한 신호를 복원하는 것이다.
최대 가능도 추정 (MLE): 평활된 추정치 $\hat{X}_{i\Delta_n}$ 를 사용하여, 저자들은 바시첵 파라미터인 평균 회귀 속도( $\kappa$ ), 장기 평균( $\alpha$ ), 그리고 변동성( $\sigma$ )에 대한 추정량을 구성한다. 이 추정량들은 평활된 데이터 포인트를 사용하도록 조정된 바시첵 과정의 로그 가능도 함수으로부터 유도된다.
이론적 증명: 본 논문은 이 추정량들의 강한 일치성( $\hat{\kappa} \to \kappa$ , $\hat{\alpha} \to \alpha$ , $\hat{\sigma}^2 \to \sigma^2$ almost surely)을 확립한다. 증명 기법은 다음을 활용한다:
- 절단(Truncation): 바시첵 과정의 유계가 아닌(unbounded) 특성을 다루기 위해 오차 항을 유계 성분과 비유계 성분으로 분해한다.
- 믹싱 시퀀스를 위한 모멘트 부등식: i.i.d. 시퀀스용 부등식에 의존하는 대신, 꼬리 확률을 제한하기 위해 $\alpha$ -믹싱 시퀀스에 특화된 지수 부등식(특히 Yang et al., 2023, 2024의 결과 참조)을 활용한다.
- 점근적 조건: 분석은 샘플링 간격 $\Delta_n \to 0$ 이고 총 시간 지평 $n\Delta_n \to \infty$ 인 롱-스팬 고빈도(long-span high-frequency) 설정을 가정하며, $\Delta_n$ 에 대한 대역폭 $h_n$ 의 구체적인 제약 조건을 포함한다.

주요 결과

이론적 일치성: 본 논문은 노이즈에 대한 $\alpha$ -믹싱 조건과 적절한 대역폭 및 샘플링 간격 선택 하에서 제안된 추정량들이 강하게 일치함을 증명한다. 이는 독립 노이즈 설정에 국한되었던 기존 결과들을 확장한 것이다.
수치 시뮬레이션: 표본 크기가 $n=100$ $n = 100$ 에서 $n=5000$ $n = 5000$ 까지 변하고 노이즈 분산( $\sigma_\epsilon = 0.005, 0.01, 0.02$ $σ_{ϵ} = 0.005, 0.01, 0.02$ )이 달라지는 시뮬레이션을 통해 다음을 입증하였다:
- 표본 크기가 증가함에 따라 파라미터 추정치는 실제 값으로 수렴하며, 표준 편차는 감소한다.
- 노이즈 분산이 감소함에 따라 추정 정확도가 향상된다.
- 평균 회귀 속도 파라미터( $\kappa$ )는 노이즈 분산에 가장 민감하여 편향을 억제하기 위해 더 큰 표본 크기가 필요한 반면, 장기 평균( $\alpha$ )은 가장 적은 영향을 받는다.
실증 분석: 상하이 종합지수(SSECI)의 5분 단위 가격 데이터를 사용하여 모델을 실제 데이터에 적용하였다.
- 커널 평활은 로그 수익률 시리즈의 변동성을 효과적으로 감소시켰다.
- 추정된 파라미터들은 예측 모델 구축을 가능하게 하였다.
- 모델은 **92.32%**의 신뢰 구간 포함율을 달성하였으며, 저자들은 이것이 "이론적 확률 수준과 거의 일치한다"고 언급하였다. 이는 예측 모델이 미세구조 노이즈에도 불구하고 데이터의 특징을 잘 반영하며 신뢰할 수 있게 작동함을 나타낸다.

의의 및 주장
본 논문은 복잡한 노이즈 환경 하에서 바시첵 과정의 파라미터 추정의 견고성에 관한 특정 이론적 간극을 메운다고 주장한다. 이 논문의 주요 기여는 미세구조 노이즈에 대한 독립성 가정을 완화하여, 실제 금융 시장에서 발견되는 시계열 의존성을 더 잘 반영하는 $\alpha$ -믹싱 프레임워크로 대체한 것이다.

절단 기법과 믹싱 시퀀스를 위한 모멘트 부등식을 사용함으로써, 저자들은 고전적인 i.i.d. 기반 방법들이 실패할 수 있는 지점에서 엄격한 강한 일치성 증명을 제공한다. 본 연구는 샘플링 빈도와 대역폭이 적절히 보정된다면, 노이즈가 약한 의존성을 보이더라도 신뢰할 수 있는 파라미터 추정이 가능하다는 것을 보여준다. SSECI 데이터에 대한 실증적 적용은 제안된 방법의 실무적 유용성을 검증하며, 미세구조 노이즈의 존재에도 불구하고 제안된 모델이 데이터 특징을 잘 맞추고 안정적인 예측 능력을 제공함을 보여준다.

유사한 논문