기술 요약: OrderFusion

문제 정의

확률론적 시간내 전력 가격 예측은 재생에너지 발전과 수요측 유연성이 증가하여 인도 시점에 가까워질수록 불확실성이 커짐에 따라 단기 전력 시스템 운영에 필수적입니다. 일전 경매 시장과 달리, 연속 시간내 (CID) 시장은 매수 및 매도 주문의 연속적인 게시를 통해 운영되며, 이는 동적인 주문장 미시구조를 생성합니다.

현재 예측 접근법은 두 가지 주요 한계에 직면해 있습니다:

1. 상호작용 구조의 상실: 기존 방법들은 주문장 데이터를 1 차원 도메인 특징 (예: 거래량 가중 평균 가격, 최종 가격) 으로 집계하거나, 주문장을 일반적인 2 차원 다변량 시계열로 취급합니다. 두 가지 접근법 모두 주문장에 내재된 특정 전략적 매수 - 매도 상호작용 구조를 간과합니다.
2. 분위수 교차: 확률론적 예측에서 여러 분위수를 독립적으로 추정하는 것은 종종 "분위수 교차"를 초래합니다. 이는 더 높은 분위수 예측치가 더 낮은 것보다 아래로 떨어지는 현상으로, 예측 분포의 단조성을 위반합니다. 사후 정렬과 같은 기존 해결책들은 엔드 - 투 - 엔드 학습 패러다임을 파괴합니다.

방법론: OrderFusion

저자들은 주문장 데이터를 인코딩하면서 매수 - 매드 상호작용을 명시적으로 포착하고 교차하지 않는 확률론적 예측을 보장하도록 설계된 엔드 - 투 - 엔드, 매개변수 효율적인 딥러닝 모델인 OrderFusion을 제안합니다.

1. 인코딩

모델은 주문장을 매수 ($+$) 와 매도 ($-$) 측으로 분리합니다. 각 거래는 가격, 거래량, 그리고 인도까지 남은 시간을 인코딩하는 상대적 시간 델타 ($\nabla t$) 의 세트로 표현됩니다. 이로 인해 샘플당 두 개의 가변 길이 2 차원 시퀀스가 생성됩니다.

2. 백본 아키텍처

백본은 다음 세 가지 주요 구성 요소를 통해 이러한 시퀀스를 처리합니다:

• 이중 마스킹 레이어: 불규칙한 거래 수를 처리하고 시장 효율성 가설에 기반하여 최근 정보를 우선시하기 위해, 모델은 다음을 적용합니다:
  • 패딩 마스크: 시퀀스를 최대 길이에 맞게 정렬합니다.
  • 시간적 마스크: 가장 최근의 $L$개 거래만 유지하고 이전 데이터를 폐기합니다.
• 반복적 퓨전 레이어: 이는 상호작용을 모델링하는 핵심 메커니즘입니다. 교차 어텐션을 사용하여 매수 측과 매도 측 표현을 반복적으로 퓨전하는 $K$개의 레이어 시리즈를 사용합니다.
  • 차수 $k=0$에서 입력은 은닉 차원으로 투영됩니다.
  • $k \ge 1$의 경우, 한쪽 측의 표현 (Query) 이 반대쪽 측의 표현 (Key/Value) 에 어텐션합니다. 이를 통해 모델은 매수자가 매도자에 어떻게 적응하고 그 반대가 어떻게 되는지 학습할 수 있습니다.
• 집계 레이어: 모든 상호작용 차수 ($k=1$부터 $K$까지) 의 표현은 잔차 연결을 통해 결합되고 전역 평균 풀링을 사용하여 최종 잠재 표현을 형성하기 위해 집계됩니다.

3. 계층적 헤드

분위수 교차 없이 확률론적 예측을 생성하기 위해 모델은 계층적 헤드를 사용합니다:

• 중앙 분위수 ($\tau=0.50$) 는 직접 예측됩니다.
• 상위 분위수는 중앙값에 음이 아닌 잔사를 더한 것으로 예측됩니다.
• 하위 분위수는 중앙값에서 음이 아닌 잔사를 뺀 것으로 예측됩니다.
  이 구조는 사후 수정이 필요 없이 구성에 의해 단조성을 강제합니다.

4. 손실 함수

모델은 여러 분위수를 공동 추정하기 위해 평균 분위수 손실 (AQL) 을 사용하여 훈련됩니다.

주요 기여

1. 정식화: 본 논문은 확률론적 CID 가격 지수 예측을 미시구조 인식 전력 시스템 경제학 문제로 제시하며, 불확실성 인식 위치 조정이 필요함을 강조합니다.
2. 모델 설계: OrderFusion은 반복적 교차 어텐션 메커니즘을 통해 매수 - 매도 상호작용을 명시적으로 인코딩하는 매개변수 효율적인 모델로 소개되었으며, 일반적인 시계열 모델의 매개변수 팽창을 피합니다.
3. 분위수 처리: 이 방법론은 엔드 - 투 - 엔드 프레임워크 내에서 교차하지 않는 분위수를 보장하는 계층적 헤드를 도입합니다.
4. 실증적 검증: 저자들은 유동성이 높은 (독일) 과 낮은 (오스트리아) 시장을 포괄하는 광범위한 실험을 수행하여 베이스라인 대비 일관된 개선을 입증했습니다.

실험 결과

모델은 롤링 윈도우 평가를 사용하여 독일 및 오스트리아 CID 시장에서 평가되었습니다.

• 베이스라인 대비 성능: OrderFusion은 Naïve 모델, 1 차원 인코딩 방법 (VWAP, 최종 가격, 포괄적 특징을 사용한 MLP/LQR), 그리고 최첨단 2 차원 시계열 모델 (FEDFormer, iTransformer, PatchTST, TimesNet, TimeXer) 을 포함한 모든 베이스라인을 능가했습니다.
  • 독일 시장에서 OrderFusion은 3.81의 가장 낮은 평균 분위수 손실 (AQL) 을 달성했습니다 (다음으로 좋은 TimesNet 의 4.38 대비) 그리고 9.06의 가장 낮은 평균 절대 오차 (MAE) 를 기록했습니다.
  • 오스트리아 시장에서는 AQL 5.64와 MAE 13.52를 달성하여 다시 1 위를 차지했습니다.
• 분위수 교차: OrderFusion은 모든 테스트에서 **0.00%**의 평균 분위수 교차율 (AQCR) 을 달성한 반면, 2 차원 인코딩 베이스라인은 1.97% 에서 4.97% 사이의 교차율을 보였습니다.
• 매개변수 효율성: OrderFusion은 4,872개의 매개변수만 사용하며, 이는 2 차원 인코딩 베이스라인이 사용하는 0.87M 에서 3.38M 개의 매개변수에 비해 현저히 적어 자원 제약이 있는 운영 배포에 적합합니다.
• 애블레이션 연구:
  • 이중 마스킹 레이어를 제거하면 AQL 이 30.51% 증가하여 노이즈 필터링과 최근 거래에 집중하는 것의 중요성을 강조했습니다.
  • 반복적 퓨전 레이어를 제거하면 AQL 이 18.86% 증가하여 매수 - 매도 귀납적 편향이 중요함을 확인시켰습니다.
  • 최적의 상호작용 차수 ($K$) 는 2 로 발견되었으며, 더 높은 차수는 유의미한 개선을 제공하지 않았습니다.
  • 계층적 헤드는 사후 정렬의 계산 오버헤드 없이 성공적으로 분위수 교차를 제거했습니다.

중요성과 주장

본 논문은 OrderFusion이 일반적인 시계열 모델링을 넘어 매수 - 매도 상호작용의 미시구조를 명시적으로 모델링함으로써 CID 시장의 특정 과제를 해결한다고 주장합니다. 결과는 역사적 주문 흐름이 마지막 거래 가격 이상의 예측 정보를 포함하므로 CID 시장이 완벽한 약형 효율성을 보이지 않는다는 것을 시사합니다.

저자들은 매수 - 매도 상호작용의 구조와 같은 도메인 사전 지식을 모델 아키텍처에 주입하는 것이 단순히 매개변수를 쌓는 것보다 더 효과적임을 강조합니다. 이 방법론은 다양한 유동성 수준을 가진 시장에서 일반화할 수 있는 운영 리스크 관리를 위한 견고한 엔드 - 투 - 엔드 솔루션으로 제시됩니다. 저자들은 모델이 잘 작동하지만 향후 작업은 외생 변수 (예: 수급 기본 요소) 와 인접 인도 기간의 거래를 포함할 수 있다고 언급하지만, 현재 범위는 엄격하게 주문장 미시구조로 제한됩니다.