기술 요약: CPS의 이상 탐지를 위한 DPR-GM

1. 문제 정의

다변량 센서 시계열에서의 이상 탐지는 수처리 시설이나 화학 공정 제어 시스템과 같은 사이버 물리 시스템(CPS)의 모니터링에 있어 매우 중요합니다. 이러한 환경에서는 정상적인 동작으로부터 미세하게 벗어나는 현상조차도 공정 중단, 안전 사고 또는 공격의 신호가 될 수 있습니다. 그러나 실제 배포 시에는 두 가지 주요한 과제에 직면합니다:

1. 데이터 희소성: 레이블이 지정된 결함 사례는 드물기 때문에, 깨끗한 운영 데이터로부터 정상적인 역학을 학습하는 비지도 학습 방식이 필요합니다.
2. 신뢰할 수 없는 그래프 토폴로지: 최근 그래프 신경망(GNN)을 사용하는 그래프 기반 접근 방식은 제한된 정상 데이터를 가진 소규모 물리 시스템에서 어려움을 겪는 경우가 많습니다. 엔드 투 엔드(end-to-end) 학습이나 경험적 상관관계 임계값 설정을 통해 센서 그래프를 구축하는 기존 방법들은 가짜 상관관계를 포착하고 불안정한 토폴로지를 생성하는 경향이 있습니다. 이러한 모델들은 물리적으로 의미 있는 의존성과 일시적이고 비인과적인 동시 이동(co-movements)을 구분하지 못해, 노이즈가 섞인 그래프와 모호한 이상 탐지 위치(localization)를 초래합니다.

2. 방법론: DPR-GM

저자들은 시스템 설계 지식을 그래프 구축에 통합하는 예측 기반 프레임워크인 **DPR-GM (Domain-Prior-Regularized Graph Modeling)**을 제안합니다. 핵심 원리는 도메인 지식이 어떤 에지가 존재할 수 있는지를 결정하고, 데이터 통계가 해당 에지가 얼마나 강한지를 결정한다는 것입니다. 이 프레임워크는 세 가지 주요 구성 요소로 이루어져 있습니다:

2.1. 도메인 사전 정규화 그래프 구축 (Domain-Prior-Regularized Graph Construction)

데이터로부터 그래프 구조를 학습하는 대신, DPR-GM은 시스템 문서에서 유도된 고정된 구조적 사전(structural prior)을 구축합니다.

• LLM 기반 추출: 대규모 언어 모델(구체적으로 Claude Sonnet)에 시스템 설계 문서, 센서 메타데이터, 하위 시스템 설명을 프롬프트로 제공하여 센서 쌍 간의 방향성 물리 결합(directed physical couplings)을 추출합니다. 출력값은 물리적으로 허용된 의존성($i \to j$)에 대한 구조화된 리스트입니다.
• 이진 도메인 인접 행렬 ($D$): 추출된 이러한 의존성들은 이진 행렬 $D \in \{0, 1\}^{N \times N}$을 형성하며, 여기서 $D_{ij}=1$은 문서에 의해 명시된 방향성 결합이 있음을 의미합니다. 그 외의 모든 항목은 0으로 설정되어 도메인 지식에 의해 승인되지 않은 에지를 억제하는 구조적 게이트 역할을 합니다.
• 상관관계 변조 (Correlation Modulation): $D$가 토폴로지를 규정하는 동안, 에지의 가중치는 경험적 증거에 의해 변조됩니다. 저자들은 정상 훈련 데이터로부터 피어슨 상관계수 행렬 $\rho$를 계산합니다. 최종 인접 행렬 $A$는 다음과 같이 정의됩니다:
  $$A_{ij} = D_{ij} \cdot (0.5 + 0.5 \rho_{ij})$$
  이 공식은 다음을 보장합니다:
  • $D$에 없는 에지는 가중치가 0이 됩니다.
  • $D$에 포함된 에지 중 양의 상관관계를 갖는 에지는 0.5보다 큰 가중치를 받습니다.
  • $D$에 포함된 에지 중 음의 상관관계를 갖는 에지는 0.5보다 작은 가중치를 받습니다.
  • $D$에 포함된 에지 중 상관관계가 0인 에지는 중립적인 베이스라인인 0.5를 유지하여, 충분한 훈련 통계가 부족하더라도 물리적으로 동기화된 에지가 무시되는 것을 방지합니다.

2.2. CV 기반 노드 신뢰도 가중치

센서들이 정상 작동 중에 서로 다른 변동성을 보인다는 점을 인식하여, 프레임워크는 변동 계수(Coefficient of Variation, CV)를 기반으로 노드에 신뢰도 가중치를 할당합니다.

• 시간적 변동성이 낮은(낮은 CV) 센서는 더 신뢰할 수 있는 참조점으로 간주됩니다.
• 신뢰도 점수 $r_i$는 CV의 역수로 계산되며, 노드 가중치 $w_i$를 형성하도록 정규화됩니다.
• 이 가중치들은 이상 점수 산출 시 사용되어, 안정적인 센서의 편차가 단순 노이즈가 아닌 실제 결함을 나타낼 가능성이 높으므로 해당 센서에 더 높은 영향력을 부여합니다.

2.3. 모델 아키텍처 및 스코어링

• 시간적 인코딩 (Temporal Encoding): 가중치를 공유하는 GRU가 정규화된 센서 채널을 독립적으로 인코딩합니다. 최종 상태 이상의 시간적 역학을 포착하기 위해, 모델은 최종 상태, 평균 풀링(mean pooling), 최대 풀링(max pooling)을 통해 은닉 상태를 집계한 후 선형 투영을 수행합니다.
• 센서 식별 (Sensor Identity): 학습 가능한 센서 임베딩이 시간적 표현과 결합되어 물리적 센서를 구별합니다.
• 그래프 메시지 패싱 (Graph Message Passing): 모델은 고정된 도메인 사전 그래프 $A$ 위에서 정보를 전파합니다. 저자들은 다양한 백본(GCN, GraphSAGE, GAT, Graph Transformer)을 평가하였으며, 에지 가중치를 명시적으로 소비하는 GraphSAGE가 가장 우수한 성능을 보임을 발견했습니다.
• 예측 및 스코어링: 모델은 미래 타임스텝을 예측하고 평균 제곱 오차(MSE)를 최소화합니다. 이상 점수는 센서별 예측 오차를 집계하여 IQR(Interquartile Range)로 정규화하고, CV 기반 신뢰도 점치에 따라 가중치를 부여하여 계산됩니다. 최종 윈도우 점수는 분산된 이상(distributed anomalies)을 위한 평균 항(mean term)과 국소적인 고진폭 편차(localized high-amplitude deviations)를 위한 최대 항(max term)을 결합합니다.

3. 주요 기여

1. DPR-GM 프레임워크: 도메인 지식을 사용하여 센서 그래프 토폴로지를 게이팅하고 피어슨 상관관계를 통해 에지 가중치를 변조하며, 이상 점수 산출에 CV 기반 신뢰도 가중치를 통합하는 새로운 접근 방식입니다.
2. LLM 기반 사전 추출: 도메인 사전이 LLM을 통해 시스템 문서로부터 자동으로 추출될 수 있음을 입증함으로써, 수동 전문가 주석이 필요 없는 CPS에 대한 적용 가능성을 넓혔습니다.
3. 엄격한 프로토콜에서의 성능: 엄격한 포인트 와이즈(point-wise) 평가 프로토콜 하에서 SKAB 벤치마크에 대해 DPR-GM이 그래프 기반, 통계적, 딥러닝 베이스라인 모델들을 능가함을 보여주었습니다. 특히 임계값 없는 순위 측정 지표(AUROC, AUPRC)에서 뛰어난 성능을 보였습니다.

4. 실험 결과

저자들은 다변량 시계열 데이터셋인 SKAB (Skoltech Anomaly Benchmark)(워터 펌프 테스트베드에서 추출한 34가지 결함 시나리오 포함)에서 DPR-GM을 평가했습니다.

• 그래프 기반 방법과의 비교: DPR-GM은 제한된 데이터로부터 그래프를 학습하는 데 따른 불안정성으로 인해 성능이 급락한(F1 점수 근접 0) GDN 및 GReLeN을 크게 앞질렀습니다. MTAD-GAT는 높은 재현율(Recall)을 달0 가졌으나, 점수 변별력이 부족하여 AUROC/AUPRC와 같은 임계값 없는 지표에서는 낮은 성능을 보였습니다. DPR-GM은 우수한 AUROC(MTAD-GAT의 0.5794 대비 0.7256)와 AUPRC(MTAD-GAT의 0.4566 대비 0.7165)를 달성했습니다.
• 비그래프 베이스라인과의 비교: DPR-GM은 재현율을 제외한 모든 지표에서 통계적 방법(예: T2+Q, MSET) 및 딥러닝 모델(예: Conv-AE, LSTM-VAE, MSCRED)을 능가했습니다. 특히 Vanilla AE보다 MCC를 +0.050 개선했는데, 이는 클래스 불균형을 이용한 것이 아니라 더 잘 보정된 결정 경계를 확보했음을 시사합니다.
• 절제 연구 (Ablation Studies):
  • Edge-W(부호 있는 상관관계 변조)를 제거하면 성능이 저하되어, 고정된 토폴로지 내에서도 경험적 동시 이동이 가치를 더함을 확인했습니다.
  • Node-W(CV 기반 신뢰도)를 제거해도 성능이 저하되어, 센서 안정성 가중치의 유용성을 확인했습니다.
  • 백본 분석: GraphSAGE (SAGE)가 GCN, GAT, Graph Transformer보다 가장 안정적이고 효과적인 성능을 보였는데, 이는 에지 가중치를 명시적으로 소비하고 자기/이웃 변환을 분리하는 특성 때문으로 보입니다.

5. 의의 및 주장

본 논문은 도메인 구조화된 그래프 사전이 데이터가 부족한 CPS 환경에서 완전히 학습된 토폴로지의 실질적인 대안임을 주장합니다. 그래프를 학습 가능한 파라미터로 취급하는 대신 알려진 물리적 결합에 고정함으로써, DPR-GM은 데이터 기반 그래프 학습이 제한된 정상 운영 데이터 상황에서 겪는 가짜 상관관계와 불안정성을 피합니다.

저자들은 다음과 같은 점을 강조합니다:

• 그래프 구조나 노드 가중치에 대해 학습 가능한 파라미터가 필요 없어 과적합 위험을 줄입니다.
• 재현율 편향적 탐지가 아닌, 높은 AUROC 및 AUPRC로 입증된 안정적이고 변별력 있는 이상 점수를 제공합니다.
• 도메인 사전을 추출하기 위해 LLM을 활용할 수 있는 확장 가능한 파이프라인을 제공하여, 수동 전문가 주석이 없는 시스템에도 적용 가능하게 합니다.

결론적으로, 본 연구는 명시적인 도메인 사전이 이상 탐지를 위한 견고한 기초를 제공함을 보여주며, 이는 다양한 분야의 과학적 시계열 모델링에 상징적 또는 인과적 사전 지식을 통합하는 더 넓은 방향성을 제시합니다.