Fitness Function Selection in PSO-VMD Decomposition: Implications for LSTM-Based Oil Price Forecasting

원유 가격을 예측하는 것은 현대 경제학에서 가장 어려운 과제 중 하나입니다. 시장은 직선이나 예측 가능한 패턴으로 움직이지 않습니다. 대신 경제 데이터, 정치적 사건, 그리고 공급과 수요의 갑작스러운 변화가 뒤섞여 움직이는 혼돈의 폭풍처럼 행동합니다. 가격이 매우 격렬하고 예측 불가능하게 변동하기 때문에, 전통적인 수학적 도구들은 그 본질을 포착하는 데 실패하는 경우가 많습니다. 이 혼돈을 이해하기 위해 연구자들은 '분해(decomposition)'라고 불리는 전략에 주목했습니다. 복잡한 곡을 들을 때 전체 오케스트라 소리를 한꺼번에 듣는다고 상상해 보십시오. 멜로디를 파악하는 것은 거의 불가능합니다. 하지만 만약 현악기, 금관악기, 그리고 타악기를 각각 따로 분리하여 들을 수 있다면, 음악의 구조가 명확해질 것입니다. 데이터의 세계에서 이는 하나의 복잡하고 무질서한 숫자 흐름을 더 작고 단순한 조각들로 나누는 것을 의미합니다. 일단 이 조각들이 이해되면, 그것들을 다시 결합하여 다음에 어떤 일이 일어날지에 대한 훨씬 더 선명한 그림을 그려낼 수 있습니다.

최근 연구자 압델카더 아우아르(Abdelkader Aouar)의 연구는 이 분해 전략 내의 특정 문제를 다룹니다. 이 연구는 시계열 데이터를 그러한 단순한 조각들로 나누는 정교한 방법인 '변분 모드 분해(Variational Mode Decomposition, VMD)'라는 기법에 초점을 맞춥니다. VMD는 강력하지만, 작동하기 전에 두 가지 핵심 설정을 올바르게 조정해야 합니다. 바로 데이터를 몇 개의 조각으로 나눌 것인지와, 조각들을 얼마나 엄격하게 분리할지를 제어하는 계수입니다. 만약 이 설정들이 잘못되면, 데이터가 너무 적은 조로 잘려 중요한 세부 사항이 숨겨지거나, 반대로 너무 많은 조각으로 나뉘어 불필요한 노이즈가 생성될 수 있습니다. 과거에 과학자들은 컴퓨터 알고리즘을 사용하여 최적의 설정을 자동으로 찾아왔지만, 무엇이 '최선'인지를 판단하기 위해 특정한 규칙에 의존해 왔습니다. '엔벨로프 엔트로피(envelope entropy)'라고 알려진 이 규칙은 원래 엔진의 고장 난 베어링과 같은 기계 부품의 결함을 찾기 위해 설계되었습니다. 이 규칙은 신호에서 날카롭고 갑작스러운 스파이크를 찾는 방식으로 작동합니다. 이 규칙이 기계에는 효과적이었기 때문에, 많은 연구자는 이것이 유가에도 효과적일 것이라고 가정했습니다. 아우아르의 연구는 "고장 난 기어에 설계된 규칙이 실제로 유가를 예측하는 데 도움이 되는가?"라는 단순한 질문을 던짐으로써 이 가설에 도전합니다.

이에 답하기 위해, 연구자는 세 가지 별개의 도구를 결합한 하이브리드 예측 시스템을 구축했습니다. 첫째, 시스템은 새 떼가 먹이를 찾는 방식을 모방한 '입자 군집 최적화(Particle Swarm Optimization)' 알고리즘을 사용하여 VMD 도구의 수천 가지 서로 다른 설정을 자동으로 테스트합니다. 둘째, VMD 방식을 사용하여 일일 유가 데이터를 구성 요소로 분해합니다. 셋째, 이 조각들을 시간적 패턴을 기억하는 데 탁월한 '장단기 메모리(Long Short-Term Memory, LSTM)'라는 유형의 인공지능에 입력합니다. 실험의 결정적인 부분은 도구 그 자체가 아니라, 어떤 설정이 최선인지를 컴퓨터에게 알려주는 '규칙'이었습니다. 연구는 네 가지 서로 다른 규칙을 테스트했습니다. 데이터의 복잡성이나 불규칙성을 측정하는 세 가지 규칙(샘플 엔트로피, 순열 엔트로피, 엔벨로프 엔트로피)과, 데이터가 분해되었다가 다시 합쳐질 때 정보가 얼마나 손실되는지를 단순히 측정하는 규칙(재구성 오차)입니다.

실험 결과는 놀라웠으며, 기계 결함 규칙을 사용하는 기존의 관행을 뒤엎었습니다. 연구진이 기존 연구에서 표준적인 선택이었던 엔벨로프 엔트로피 규칙을 사용했을 때, 모델은 결정 계수(R²) -0.3519라는 낮은 성적을 기록하며 부진한 성능을 보였습니다. 이 음수 값은 모델의 예측이 단순히 평균 가격을 기준으로 삼는 것보다도 정확도가 낮음을 나타내며, 이는 다른 방법들에 비해 현저히 떨어지는 성과입니다. 다른 두 가지 복잡성 기반 규칙들도 어느 정도 나은 모습을 보였으나 여전히 목표치에는 미치지 못했습니다. 명백한 승자는 '재구성 오차(reconstruction error)' 규칙이었습니다. 신호를 '깨끗하거나 희소하게' 만드는 데 집중하기보다 원래의 정보를 온전히 유지하는 데 초점을 맞춘 이 규칙은, 다른 방법들보다 훨씬 뛰어난 수준의 정확도를 달성하게 해주었습니다. 이 규칙을 사용한 최종 예측 모델은 오차율 단 1.37%로 유가를 예측할 수 있었으며, 이는 실제 값에 매우 근접한 수치입니다. 반면, 다른 규칙을 사용한 모델들의 오차율은 이보다 몇 배나 높았습니다.

연구는 또한 승리한 규칙이 왜 그렇게 잘 작동했는지도 밝혀냈습니다. 컴퓨터가 정보 손실을 최소화하라는 명령을 받았을 때, 유가 데이터를 9개의 뚜렷한 조각으로 나누었습니다. 이를 통해 시스템은 장기적 추세, 중기적 주기, 그리고 단기적 급등을 동시에 포착할 수 있었습니다. 반면, 복잡성에 기반한 규칙들은 데이터를 단 두 개의 조각으로 나누도록 지시했는데, 이는 시장의 전체 이야기를 담아내기에 너무 단순했습니다. 더욱이, 승리한 규칙은 데이터 조각들이 원래의 형태를 더 많이 유지할 수 있는 설정을 선택한 반면, 다른 규칙들은 데이터를 더 매끄럽고 경직된 형태로 강제하여 귀중한 세부 사항들을 제거해 버렸습니다. 이러한 결과는 변동성과 갑작스러운 도약으로 정의되는 금융 시장의 경우, 목표가 가능한 가장 단순한 신호를 찾는 것이 아니라, 원래의 무질서한 현실을 최대한 보존하는 것이 되어야 함을 시사합니다.

이 연구는 단순히 하나의 예측 모델을 개선하는 것에 그치지 않고, 많은 과학적 연구가 수행되는 방식의 결정적인 결함을 지적합니다. 수년 동안 연구자들은 기계 공학과 같은 한 분야의 규칙을 금융과 같은 다른 분야에 검증 없이 적용해 왔습니다. 이 연구는 진동하는 기계 부품에 효과적인 규칙이 반드시 유가 예측에 적합한 것은 아니라는 점을 증명했습니다. 동일한 조건 하에서 다양한 규칙을 체계적으로 테스트함으로써, 연구자는 평가 규칙의 선택이 컴퓨터 알고리즘 자체만큼이나 중요하다는 것을 보여주었습니다. 연구는 복잡한 금융 데이터를 예측할 때 가장 효과적인 전략은, 데이터를 미리 정해진 '깨끗한' 신호의 모습에 맞추려 하기보다 원래의 정보를 온전히 보존하는 것을 우선순위에 두는 것이라고 결론짓습니다. 이 통찰은 글로벌 시장의 예측 불가능한 리듬을 이해하려는 모든 이들에게 새로운 길을 제시합니다.