기술 요약: RAD: 규칙 증강 관계형 이상 탐지 (Rule-Augmented Relational Anomaly Detection)

1. 문제 정의

본 논문은 일반적인 테이블 형태(tabular) 또는 그래프 이상 탐지와는 구별되는 관계형 이상 탐지(Relational Anomaly Detection) 문제를 다룹다. 사이버 보안, 부정 결제, 의료와 같은 많은 도메인에서 데이터는 다중 테이블 관계형 데이터베이스에 저장되며, 여기서의 이상치는 고립된 피처 값보다는 테이블 간, 멀티 홉(multi-hop), 시간적, 그리고 스키마 의존적 상호작용에 따라 결정되는 경우가 많다.

기존 방식들은 두 가지 주요 한계점에 직면해 있다:

1. 플래트닝(Flattening): 조인(join)과 집계(aggregation)를 통해 관계형 데이터를 단일 피처 행렬로 변환하는 과정은 엔티티의 정체성, 스키마 역할, 그리고 멀티 홉 의존성을 모호하게 만들어, 관계적 맥락에 의존하는 이상치를 탐지하기 어렵게 만든다.
2. 순수 관계형 학습(Pure Relational Learning): 관계형 딥러닝은 구조를 보존하지만, 학습된 표현(representation)에 상징적 행동 증거(예: 분석가가 정의한 규칙 또는 휴리스틱)를 통합하는 메커즘이 부족한 경우가 많다. 또한, 표준적인 관계형 학습 프레임워크는 일반적으로 심각한 클래스 불균형 상황에서 희귀한 이상치를 순위화(ranking)하기보다는 지도 학습 기반의 예측을 위해 설계되었다.

목표는 대상의 속성과 관계적 맥락을 모두 활용하면서 상징적 행동 규칙을 통합하여, 이상한 타겟 엔티티를 정상 엔티티보다 높은 순위로 매기는 이상 점수 함수 $s: V_{target} \to \mathbb{R}$를 학습하는 것이다.

2. 방법론: RAD 프레임워크

저자들은 이종 그래프 표현 학습(heterogeneous graph representation learning)과 정교한 상징적 규칙 신호를 결합한 RAD (Rule-Augmented Relational Anomaly Detection) 프레임워크를 제안한다. 프로세스는 네 단계로 구성된다:

2.1 관계형 그래프 구축

관계형 데이터베이스는 다음과 같은 이종 그래프 $G = (V, E, \tau, \rho)$로 변환된다:

• 행(rows)은 특정 타입($\tau$)을 가진 노드가 된다.
• 기본 키-외래 키(primary-foreign key) 관계는 타입이 지정된 엣지($\rho$)가 된다.
• 이는 엔티티의 정체성과 스키마에 정의된 관계를 보존하여, 플래트닝 과정에서 발생하는 정보 손실을 방지한다.

2.2 규칙 마이닝 및 검증

RAD는 타겟 엔티티의 **보조 플랫 피처 뷰(auxiliary flattened feature view)**로부터 상징적 규칙을 마이닝한다. 이 뷰는 오직 규칙 발견을 위해서만 사용되며, 최종 관계형 표현에는 사용되지 않는다.

• 마이닝: 플랫 뷰에 대해 랜덤 포레스트(Random Forest) 분류기를 학습시킨다. 루트-투-리프(root-to-leaf) 경로를 추출하여 결합 술어(conjunctive predicates, 예: $x_j \leq c \land x_k > c$)로 변환한다.
• 정제: 추출된 규칙의 하위 집합을 샘플링하고, 선택적으로 LLM을 사용하여 술어를 압축, 강화 또는 일반화하여 컴팩트하고 해석 가능한 SQL 스타일의 WHERE 절로 정제한다. LLM은 라벨을 부여하거나 점수를 매기는 것이 아니라, 제안 메커즘으로서 작동한다.
• 검증: 생성된 술어들을 학습/검증 데이터에 실행한다. 지원도(support), 신뢰도(confidence), 리프트(lift)를 기준으로 필터링하며, 식별자(identifier), 미래 정보(future information)를 참조하거나 커버리지 임계값을 충족하지 못하는 규칙은 제거한다.
• 피처 주입: 최종 규칙 세트는 이진 피처($r_k(v) \in \{0, 1\}$)로 변환되어, 그래프 인코딩 전에 타겟 노드의 피처 벡터에 직접 주입된다. 이를 통해 상징적 증거가 사후 조정(post-hoc adjustment)으로 적용되는 것이 아니라, 메시 패싱(message passing) 과정 중 학습된 노드 임베딩을 형성하도록 한다.

2.3 이종 그래프 인코더

RAD는 평균 집계(mean aggregation)를 사용하는 2계층 이종 GraphSAGE 인코더를 채택한다.

• 타겟 노드는 규칙이 증강된 피처 벡터 $\tilde{x}_v = [x_v \parallel r(v)]$를 받는다.
• 비타겟 노드는 원래의 피처를 유지한다.
• 인코더는 관계 인지형 메시 패싱(relation-aware message passing)을 수행하며, 각 관계 타입에 대해 메시를 별도로 집계한 후 병합한다. 이는 스키마 정보를 보존하면서 동시에 규칙을 인지하는 표현을 학습한다.

2.4 이상 점수 산출 및 학습 목적 함수

모델은 다음 세 가지 목적 함수의 조합을 사용하여 이상 점수를 학습한다:

1. 속성 재구성(Attribute Reconstruction): 원래의 (규칙 증강) 피처와 노드 임베딩으로부터 재구성된 피처 사이의 오차를 최소화한다. 이는 인코더가 속성 및 규칙 정보를 보존하도록 유도한다.
2. 엣지 재구성(Edge Reconstruction, 선택 사항): 노드 간 엣지의 존재를 예측하기 위한 이진 교차 엔트로피 손실을 사용한다. 논문에서는 이것이 데이터셋에 따라 다르며 일관되게 유익하지는 않다고 언급한다.
3. 쌍별 순위 지도 학습(Pairwise Ranking Supervision): 이상 라벨이 있는 경우, 이상 노드가 정상 노드보다 높은 점수를 받도록 쌍별 순위 손실(softplus)을 적용한다. 이는 심각한 클래스 불균형을 처리하고 AUPRC와 같은 검색 지표를 최적화하는 데 매우 중요하다.

전체 손실 함수는 $L = L_{attr} + \alpha L_{struct} + \beta L_{rank}$이다.

3. 벤치마크 및 데이터셋

저자들은 세 가지 설정을 아우르는 관계형 이상 탐지 벤치마크를 도입한다:

1. LANL 사이버 보안: 인증 이벤트, 사용자, 머신 및 프로세스 로그를 사용하는 이벤트 레벨 이상 탐지. 이상치는 레드팀(red-team) 인증 이벤트이다.
2. Amazon 리뷰 이탈(Churn): RelBench에서 파생되었으며, 활동 감소 없이 리뷰 행동이 갑작스럽게 종료된 고객을 식별하는 작업이다.
3. H&M 구매 이탈(Churn): Amazon과 유사하지만 구매 트랜잭션 및 아이템 메타데이터를 기반으로 한다.

이 벤치마크는 통일된 타겟 정의, 이상 라벨 구축(특히 "예상된" 이탈을 필터링함), 그리고 순위 기반 평가 프로토콜을 제공한다.

4. 실험 결과

실험은 세 가지 데이터셋에 대해 RAD를 다음 모델들과 비교하여 수행되었다:

• 테이블 기반 베이스라인: Isolation Forest, Deep SVDD, Autoencoders, DRL (플랫 입력 사용).
• 관계형 베이스라인: 규칙 증강이 없는 관계형 딥러닝(RDL) GNN.
• 지도 학습 베이스라인: 플랫 피처와 정답 라벨로 학습된 MLP.

주요 결과:

• 전반적인 성능: RAD는 벤치마크 전반에서 AUROC 및 AUPRC에 대한 **평균 순위(average rank)**가 가장 높았다. 특히 불균형한 이상 탐지에 중요한 AUPRC와 Precision@k 측면에서 플랫 테이블 탐지기 및 관계형 베이스라인을 크게 앞질렀다.
• 규칙 증강: 규칙 피처를 그래프에 직접 주입하는 것(메시 패싱 전)이 규칙이 없거나 사후 융합(post-hoc fusion)을 사용하는 변형 모델보다 이상치 검색 성능을 유의미하게 향상시켰다.
• 구조 재구성: 엣지 재구성은 항상 유익한 것은 아니었다. 엣지 재구성을 비활성화했을 때(no-BCE) 성능이 더 좋아지는 경우가 있었는데, 특히 LANL에서 그러했다. 이는 샘플링된 그래프 토폴로지가 이상 신호를 방해하는 노이즈나 아티팩트를 유발할 수 있음을 시사한다.
• LLM 정제: LLM 기반의 규칙 정제는 주로 압축 및 중복 제거 단계로 작용한다. 이는 LANL에서는 성능을 개선했지만, Amazon이나 H&M에서는 원본 랜덤 포레스트 규칙에 비해 미미한 이득만을 보였다.
• 유병률 민감도(Prevalence Sensitivity): 성능 추세는 서로 다른 이상치 유병률(0.5%, 1.5%, 3.0%)에서도 안정적으로 유지되었으며, 이는 벤치마크 결과가 "예상되지 않은" 이탈을 위한 특정 필터링 임계값에 견고함을 나타낸다.

5. 의의 및 기여

본 논문은 세 가지 주요 기여를 주장한다:

1. 정형화: 관계형 이상 탐지를 표준 테이블 및 그래프 이상 탐지와 명확히 구분하며, 교차 테이블, 멀티 홉, 스키마 의존적 상호작용을 모델링해야 할 필요성을 강조한다.
2. 프레임워크 (RAD): 상징적 규칙과 딥러닝 사이의 간극을 메우는 새로운 프레임워크를 제안한다. 규칙을 메시 패싱 전 타겟 노드에 주입함으로써, RAD는 상징적 행동 증거가 단순한 설명이나 사후 필터가 아니라 관계적 표현을 능동적으로 형성하도록 한다.
3. 벤치마크 스위트: 사이버 보안 이벤트 탐지 작업과 두 가지 이커머스 이탈 작업을 결합한 통합 벤치마크를 도입하여, 관계형 데이터베이스에서의 이상치 순위 산정을 평가하기 위한 표준화된 프로토콜을 제공한다.

저자들은 관계형 이상 탐지가 **표현(representation), 점수 산출(scoring), 그리고 행동 증거(behavioral evidence)**의 결합 문제로 다루어져야 한다고 결론짓는다. 실험 결과는 이종 그래프 학습과 규칙 유래 피처를 결합하는 것이 심각한 클래스 불균형 상황에서 희귀한 이상치를 검색하는 데 유의미한 효과가 있음을 보여준다.

6. 한계점

논문은 다음과 같은 한계점을 인정한다:

• 라벨 의존성: 규칙 마이닝 단계에서 랜덤 포레스트 및 지원도/신뢰도/리프트 계산을 위해 라벨링된 데이터가 필요하므로, 완전히 라벨이 없는 환경에 즉각 적용하는 데 제한이 있다.
• 파생된 라벨: Amazon 및 H&M의 "예상되지 않은 이탈" 라벨은 활동 필터를 기반으로 만들어진 파생된 구성물이며, 원본 데이터셋의 실제(ground-truth) 이상치가 아니다.
• 확장성: LANL의 경우 데이터 크기로 인해 샘플링된 서브그래프를 사용하였으며, 일부 베이스라인은 이 작업에서 높은 분산을 보였다.
• 향러 연구: 저자들은 더 큰 데이터베이스로의 확장, 비지도 학습 기반의 규칙 발견, 그리고 플랫 요약이 아닌 복잡한 멀티 홉 구조에 대한 직접적인 규칙 정의 등을 향후 연구 방향으로 제시한다.