기술 요약: JAPE – 다변량 시계열에서의 결합 이상 예측 및 내재적 설명

1. 문제 정의

다변량 시계열(MTS) 이상 예측은 과거 관측치를 바탕으로 미래의 특정 시점에 이상이 발생할지 여부와 그 시점을 예측하는 것을 목표로 합니다. 사후에 결함을 감지하는 기존의 이상 탐지와 달리, 이상 예측은 발생 시점(onset times)을 선제적으로 식별하는 것을 요구합니다.

본 논문은 기존의 값 중심(value-centric) 접근 방식(이상 현상을 주로 미래 수치 값의 편차로 모델링하는 방식)의 세 가지 근본적인 한계를 지적합니다:

1. 탐지 지연 (L1): 수치적 급증보다는 변수 간 의존성의 미세한 변화로 나타나는 약한 이상 전조(precursors)는 수치 재구성에 최적화된 모델에 의해 정상적인 변동으로 흡수되는 경우가 많습니다. 이로 인해 경고가 결함 진행보다 뒤처지는 현상이 발생합니다.
2. 이상 판별력 제한 (L2): 이상 현상이 전파되는 동안, 소스 변수(source variables)와 영향을 받은 변수(affected variables)는 종종 유사한 수치적 편차를 보입니다. 값 중심 방법론은 특히 소스의 변화가 미미할 때, 근본 원인과 전파된 반응을 구분하는 데 어려움을 겪습니다.
3. 내재적 설명력 부족 (L3): 기존 방식은 이상을 탐지할 수는 있지만, 관련된 특정 변수를 자체적으로 식별하지 못합니다. 해석을 위해 별도의 사후(post-hoc) 분석 파이프라인이 필요하며, 이는 계산 오버헤드와 진단 지연을 초래합니다.

2. 방법론: JAPE 프레임워크

JAPE(Joint Anomaly Prediction and Explanation)는 패러다임을 수치 편차 모델링에서 **의존 구조 모델링(dependency-structure modeling)**으로 전환합니다. 이 모델은 소수의 이상 레이블이 가용한 환경에서 학습됩니다. 프레임워크는 세 가지 핵심 구성 요소로 이루어져 있습니다:

2.1 분리된 시공간 표현 (Decoupled Spatio-Temporal Representation, DSTR)

지배적인 시간적 패턴에 의해 약한 구조적 전조가 가려지는 문제를 해결하기 위해, JAPE는 백본 아키텍처 내에서 시간적 진화와 변수 간 의존성 모델링을 두 개의 전용 축으로 분리합니다:

• 시간 축 (Temporal Axis): 채널 독립적 시간 모델링(PatchTST와 유사)을 사용하여 개별 변수의 진화를 독립적으로 모델링함으로써 각 시계열의 시간적 역학을 보존합니다.
• 공간 축 (Spatial Axis): 지연 인지 방향 그래프 학습(Lag-Aware Directed Graph Learning) 메커니즘을 사용하여 변수 간 의존성을 명시적으로 모델링합니다.
  • 지연된 영향을 포착하기 위해 학습 가능한 지연 집계(learnable lag aggregation) 메커니즘을 채택하여 변수의 지연된 표현을 구축합니다.
  • 비대칭적 의존성 점수(예: 변수 $v$의 과거가 변수 $u$의 현재를 어떻게 예측하는지)를 계산하여 방향성을 구분하는 **방향성 대비 함수(directional contrast function)**를 사용합니다.
  • 이 축은 시간에 따라 진화하는 동적 방향 의존성 그래프 시퀀스를 생성하여, 수치적으로 뚜렷해지기 전의 구조적 변화를 보존합니다.
• 미래 지향 브랜치 (Future-Oriented Branch): 공간 의존성 모델링을 예측 호라이즌까지 확장하여, 경고를 위한 "전후(before-and-after)" 관점을 제공하는 미래 의존성 그래프를 구축합니다.

2.2 이중 뷰 경고 메커니즘 (Dual-View Alerting Mechanism)

이 구성 요소는 두 가지 상호 보완적인 뷰를 융합하여 지점별(point-wise) 이상 확률을 추정합니다:

• 수치 뷰 (Numerical View): 예측된 미래 시계열($\hat{X}$)에서 유도되며, 개별 변수의 관측 가능한 반응을 포착합니다.
• 구조 뷰 (Structural View): DSTR에서 생성된 진화하는 의존성 그래프($A$)에서 유도됩니다. 변수 입력 차원을 처리하기 위해, 그래프는 그래프 에너지, 엔트로피, 의존성 변화와 같은 통계량을 포착하는 압축된 구조적 기술자(structural descriptors)(13차원 벡터)로 요약됩니다.
• 융합 (Fusion): 교차 주의(cross-attention) 메커니즘을 통해 수치 토큰과 구조적 토큰을 적응적으로 융합합니다. 이를 통해 모델은 수치적 편차가 미미할 때도 소스 인지적 구조 증거를 활용할 수 있어 이상 판별력을 크게 향상시킵니다.

2.3 내재적 예측 설명 (Native Predictive Explanation, NPE)

NPE는 추가 모델이나 학습 없이 변수 수준의 설명을 제공합니다:

• 메커니즘: 예측 단계에서 생성된 의존성 그래프를 재사용합니다.
• 그래프 편차 점수 (Graph Deviation Score, GDS): 예측된 의존성 그래프를 정상 참조 그래프와 비교하여 편차 점수를 계산합니다. 이 점수는 다음을 결합합니다:
  • 직접 편차 (Direct Deviation): 나가는(outgoing) 및 들어오는(incoming) 의존성의 즉각적인 변화.
  • 다중 홉 편차 (Multi-hop Deviation): 의존성 체인을 통한 구조적 변화의 전파(최대 $K$ 홉).
• 출력: 변수들은 GDS를 기준으로 순위가 매겨집니다. 추론 중에 이미 그래프가 구축되어 있으므로, 이 과정은 계산 비용이 매우 적으며 별도의 사후 진단 파이프라인을 필요로 하지 않습니다.

3. 주요 기여

1. DSTR 백본: 동적 방향 그래프를 통해 약한 구조적 전조를 보존하며 시간적 진화와 의존성 모델링을 명시적으로 분리한 최초의 이상 예측 프레임워크입니다.
2. 이중 뷰 경고: 수치적 예측과 동적 의존성 구조를 융합하여, 수치 신호가 약할 때도 견고한 탐지를 가능하게 하는 메커니즘을 제공합니다.
3. 내재적 예측 설명 (NPE): 예측된 의존성 그래프를 재사용함으로써 추가 비용 없이 변수 수준의 순위를 생성하고, 별도의 속성 모델(attribution models)을 제거합니다.
4. 실증적 검증: 최신 기술(SOTA) 베이스라인들과 비교하여 상당한 개선을 입증하는 광범한 실험을 수행했습니다.

4. 실험 결과

저자들은 다섯 가지 실제 벤치마크(SMD, WADI, MSL, PSM, EXATHLON)에 대해 세 가지 예측 호라이즌(50, 100, 200 타임 스텝)에서 JAPE를 평가했습니다.

• 예측 성능: JAPE는 평균 **F1 점수 62.9%**와 **AUC-PR 70.9%**를 달 기록했습니다. 이는 가장 강력한 베이스라인인 A2P-Sup 대비 F1은 19.7%, AUC-PR은 41.3% 향상된 수치입니다. 이러한 이득은 수치 전용 방법론이 약한 전조를 포착하지 못하는 복잡한 의존성 진화(예: MSL)를 가진 데이터셋에서 특히 두드러졌습니다.
• 설명 가능성: 정답 변수 주석(ground-truth variable annotations)이 있는 데이터셋(SMD, WADI)에서 JAPE는 최적의 베이스라인 대비 평균 역수 순위(MRR)를 26.6% 개선하여, 실제 이상 소스 변수를 식별하는 탁월한 능력을 입증했습니다.
• 효율성: JAPE는 높은 학습 효율성을 보여주었으며, SMD 데이터셋에서 A2P 대비 에포크당 학습 시간을 최대 70.5% 단축했습니다. NPE 구성 요소는 전체 실행 시간의 0.5% 미만을 차지했습니다.

5. 의의 및 주장

본 논문은 JAPE가 조기 지점별 경고와 내재적 변수 수준 설명을 공동으로 달성하기 위해 진화하는 의존 구조를 명시적으로 모델링하는 최초의 이상 예측 프레임워크라고 주장합니다.

저자들은 Jave가 이상 예측을 수치 편차 모델링에서 의존 구조 모델링으로 격상시킴으로써 기존 방법의 핵심 한계를 해결한다고 주장합니다:

• 수치적 편차가 나타나기 전 구조적 전조를 인지함으로써 더 일찍 이상을 탐지합니다.
• 구조적 증거를 통해 소스 변수와 전파된 반응을 구분함으로써 판별력을 높입니다.
• 사후 분석의 지연이나 비용 없이 내재적 설명력을 제공합니다.

이 연구는 변수 간의 관계가 시스템 변화에 대한 의미 있는 구조적 증거를 제공하며, 이러한 진화하는 구조를 명시적으로 모델링하는 것이 복잡한 분산 시스템의 선제적 모니터링에 필수적임을 시사합니다. 향후 연구로는 이 접근 방식을 더 큰 시스템으로 확장하고 적응형 그래프 희소화(adaptive graph sparsification)를 탐구하는 것이 제안되었습니다.